本文整理汇总了Python中scraper.Scraper.gather_reddit_data方法的典型用法代码示例。如果您正苦于以下问题:Python Scraper.gather_reddit_data方法的具体用法?Python Scraper.gather_reddit_data怎么用?Python Scraper.gather_reddit_data使用的例子?那么恭喜您, 这里精选的方法代码示例或许可以为您提供帮助。您也可以进一步了解该方法所在类scraper.Scraper
的用法示例。
在下文中一共展示了Scraper.gather_reddit_data方法的1个代码示例,这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞,您的评价将有助于系统推荐出更棒的Python代码示例。
示例1: scrape
# 需要导入模块: from scraper import Scraper [as 别名]
# 或者: from scraper.Scraper import gather_reddit_data [as 别名]
def scrape():
"""
Sets up the scraper to scrape HN and Reddit.
"""
app.logger.info("Scraping Reddit")
scrape_reddit = Scraper(app.logger)
scrape_reddit.gather_reddit_data()
app.logger.info("Finished gathering data, inserting into DB")
scrape_reddit.insert_into_db()
app.logger.info("Finished inserting into DB, sleeping for %d minutes..." % (SCRAPING_INTERVAL / 60.0))
threading.Timer(SCRAPING_INTERVAL, scrape).start()