2012-01-10 2 views
0

urllib3을 사용하여 HTTP를 통해 온라인 API를 한 번씩 (특히 40,000 이상) 차례로 쿼리합니다.
처음에는 API의 HTTP GET이 매우 빠름을 알았습니다 (< 500ms).
HTTP 요청이 점점 더 많아지면서 응답 시간이 몇 초가 될 때까지 느려집니다.urllib3 연결 관리

내 코드는 다음과 같습니다

http = urllib3.PoolManager() 
req = http.request(u'GET', URL) 
doc = xml.dom.minidom.parseString(req.data) 
nodes = doc.getElementsByTagName(ELEMENT_NAME) 
for node in nodes: 
    #process the node, this happens very very fast. 

암 I없는 아무것도? 감사!

답변

0

아마도 당신이 치고있는 API가 당신을 제한하고 있습니까?

+0

많은 양의 데이터를로드하기 전에 사용했기 때문에 실제로 사용하지는 않았지만 괜찮 았습니다 ... – user1094786

+0

가치가있는 부분에 대해서는 urllib3이 이러한 문제를 일으키는 이유를 생각할 수 없습니다 조짐. 아마도 다른 도서관에서 똑같은 것을 시도 할 것입니까? – shazow