本文整理汇总了Python中request.Request.get_contents方法的典型用法代码示例。如果您正苦于以下问题:Python Request.get_contents方法的具体用法?Python Request.get_contents怎么用?Python Request.get_contents使用的例子?那么恭喜您, 这里精选的方法代码示例或许可以为您提供帮助。您也可以进一步了解该方法所在类request.Request
的用法示例。
在下文中一共展示了Request.get_contents方法的1个代码示例,这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞,您的评价将有助于系统推荐出更棒的Python代码示例。
示例1: Request
# 需要导入模块: from request import Request [as 别名]
# 或者: from request.Request import get_contents [as 别名]
x = 1
n = 1
while True:
print "> Pagina: ", x
print "> Ejecuto request ..."
if x == 1:
r = Request(url_seed,method_type,headers)
else:
r = Request(next_page,method_type,headers)
#Envio peticion y obtengo contenido
status = r.get_status_response()
html_source = r.get_contents()
#Convierto en objeto DOM con lxml
html = etree.HTML(html_source)
#Aca ejecuto el crawling de la pagina
##################################################
#Comienzo el parseo, extraigo el html del listado
items = html.xpath(".//ul[@class='items-list ']/li")
print "> Extraccion de datos ..."
for index, item in enumerate(items):
n+=1
#extraigo datos
title = item.xpath(".//div[@class='items-info']/h3/text()")
title = title[0]
description = item.xpath(".//div[@class='items-info']/span/text()")