当前位置: 首页>>代码示例>>Golang>>正文


Golang Page.AddTargetRequestWithHeaderFile方法代码示例

本文整理汇总了Golang中github.com/jixiuf/go_spider/core/common/page.Page.AddTargetRequestWithHeaderFile方法的典型用法代码示例。如果您正苦于以下问题:Golang Page.AddTargetRequestWithHeaderFile方法的具体用法?Golang Page.AddTargetRequestWithHeaderFile怎么用?Golang Page.AddTargetRequestWithHeaderFile使用的例子?那么恭喜您, 这里精选的方法代码示例或许可以为您提供帮助。您也可以进一步了解该方法所在github.com/jixiuf/go_spider/core/common/page.Page的用法示例。


在下文中一共展示了Page.AddTargetRequestWithHeaderFile方法的1个代码示例,这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞,您的评价将有助于系统推荐出更棒的Golang代码示例。

示例1: Process

// Parse html dom here and record the parse result that we want to Page.
// Package goquery (http://godoc.org/github.com/PuerkitoBio/goquery) is used to parse html.
func (this *MyPageProcesser) Process(p *page.Page) {
	if !p.IsSucc() {
		println(p.Errormsg())
		return
	}

	query := p.GetHtmlParser()

	query.Find(`div[class="wx-rb bg-blue wx-rb_v1 _item"]`).Each(func(i int, s *goquery.Selection) {
		name := s.Find("div.txt-box > h3").Text()
		href, _ := s.Attr("href")

		fmt.Printf("WeName:%v link:http://http://weixin.sogou.com%v \r\n", name, href)
		// the entity we want to save by Pipeline
		p.AddField("name", name)
		p.AddField("href", href)
	})

	next_page_href, _ := query.Find("#sogou_next").Attr("href")
	if next_page_href == "" {
		p.SetSkip(true)
	} else {
		p.AddTargetRequestWithHeaderFile("http://weixin.sogou.com/weixin"+next_page_href, "html", "weixin.sogou.com.json")
	}

}
开发者ID:jixiuf,项目名称:go_spider,代码行数:28,代码来源:main.go


注:本文中的github.com/jixiuf/go_spider/core/common/page.Page.AddTargetRequestWithHeaderFile方法示例由纯净天空整理自Github/MSDocs等开源代码及文档管理平台,相关代码片段筛选自各路编程大神贡献的开源项目,源码版权归原作者所有,传播和使用请参考对应项目的License;未经允许,请勿转载。