本文整理匯總了Python中Crawler.Crawler.get_html方法的典型用法代碼示例。如果您正苦於以下問題：Python Crawler.get_html方法的具體用法？Python Crawler.get_html怎麽用？Python Crawler.get_html使用的例子？那麽, 這裏精選的方法代碼示例或許可以為您提供幫助。您也可以進一步了解該方法所在類Crawler.Crawler的用法示例。
在下文中一共展示了Crawler.get_html方法的1個代碼示例，這些例子默認根據受歡迎程度排序。您可以為喜歡或者感覺有用的代碼點讚，您的評價將有助於係統推薦出更棒的Python代碼示例。
示例1: get_per_followerList
# 需要導入模塊: from Crawler import Crawler [as 別名]
# 或者: from Crawler.Crawler import get_html [as 別名]
def get_per_followerList(urlToken,page,sum_page):
''' 抓取 follower 列表的每一頁'''
printx('正在抓取第 %d/%d 頁……'%(page,sum_page))
try_cnt = try_limit
follower_list = []
while try_cnt > 0:
try:
# 設置抓取器
c = Crawler(isCookie=False,timeout=socket_timeout)
# 手動設置代理IP
ip = proxyip.get()
c.set_proxyip(ip)
# 解析當前頁的 html
url = '%s/people/%s/followers?page=%d'%(host,urlToken,page)
html = c.get_html(url)
s = BS(html,'html.parser')
# 獲得當前頁的所有關注用戶
data = s.find('div',attrs={'id':'data'})['data-state']
data = json.loads(data)
items = data['people']['followersByUser'][urlToken]['ids']
for item in items:
if item!=None and item!=False and item!=True and item!='知乎用戶'.decode('utf8'):
node = item.encode('utf8')
follower_list.append(node)
except Exception,e:
try_cnt -= 1
#printx(e)
printx('用戶 %s 第 %d 頁抓取出錯，還可以嘗試抓取 %d 次'%(urlToken,page,try_cnt))
else:
break