本文整理汇总了Python中app.App.run_scraper方法的典型用法代码示例。如果您正苦于以下问题:Python App.run_scraper方法的具体用法?Python App.run_scraper怎么用?Python App.run_scraper使用的例子?那么恭喜您, 这里精选的方法代码示例或许可以为您提供帮助。您也可以进一步了解该方法所在类app.App
的用法示例。
在下文中一共展示了App.run_scraper方法的1个代码示例,这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞,您的评价将有助于系统推荐出更棒的Python代码示例。
示例1: scrape_and_diff
# 需要导入模块: from app import App [as 别名]
# 或者: from app.App import run_scraper [as 别名]
def scrape_and_diff(target_urls):
"""
Create a task that Celery can run to scrape and update all the things.
"""
# debug, if desired
logging.debug('Running scraper task...')
logging.debug('Using config file %s' % offline.celeryconfig.__name__)
# fire up app, and run the scraper
app = App()
task_message = []
for target_url, target_element in target_urls:
target_message, target_diff = app.run_scraper(target_url, target_element)
task_message.append("%s: %s" % (target_url, target_message))
logging.debug('task complete!')
return task_message