当前位置: 首页>>代码示例>>Golang>>正文


Golang Page.AddField方法代码示例

本文整理汇总了Golang中visual_spider_go/spider/core/common/page.Page.AddField方法的典型用法代码示例。如果您正苦于以下问题:Golang Page.AddField方法的具体用法?Golang Page.AddField怎么用?Golang Page.AddField使用的例子?那么恭喜您, 这里精选的方法代码示例或许可以为您提供帮助。您也可以进一步了解该方法所在visual_spider_go/spider/core/common/page.Page的用法示例。


在下文中一共展示了Page.AddField方法的1个代码示例,这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞,您的评价将有助于系统推荐出更棒的Golang代码示例。

示例1: Process

func (this *PageProcesserHtml) Process(p *page.Page) {
	if !p.IsSucc() {
		println(p.Errormsg())
		return
	}

	result := map[string]string{}
	for k, _ := range this.rule {
		result[k] = ""
	}

	query := p.GetHtmlParser()
	var urls []string
	query.Find(this.page["rule"]).Each(func(i int, s *goquery.Selection) {
		href := ""
		if this.page["fun"] == "text" {
			href = s.Text()
		} else {
			href, _ = s.Attr(this.page["fun"])
		}

		urls = append(urls, this.page["pre"]+href)
	})
	p.AddMyTargetRequests(urls, this.conf["texttype"], "", this.conf["resqType"], this.conf["postdata"], this.conf["proxy"], this.conf["heardefile"], this.conf["cookie"])
	for k, v := range this.rule {
		if this.num[k] == "ALL" {
			var items []string
			query.Find(v).Each(func(i int, s *goquery.Selection) {
				item := ""
				if this.fun[k] == "text" {
					item = s.Text()
				} else {
					item, _ = s.Attr(this.fun[k])
				}
				items = append(items, item)
			})
			result[k] = strings.Join(items, "|")
		} else {
			if this.fun[k] == "text" {
				result[k] = query.Find(v).Text()
			} else {
				result[k], _ = query.Find(v).Attr(this.fun[k])
			}
			result[k] = strings.Trim(result[k], " \t\n")
		}

		if result[k] == "" {
			p.SetSkip(true)
		}
		p.AddField(k, result[k])

	}
	for k, v := range p.GetPageItems().GetAll() {
		println(k, v)
	}

}
开发者ID:ZuochaoLee,项目名称:visual_spider_go,代码行数:57,代码来源:page_html.go


注:本文中的visual_spider_go/spider/core/common/page.Page.AddField方法示例由纯净天空整理自Github/MSDocs等开源代码及文档管理平台,相关代码片段筛选自各路编程大神贡献的开源项目,源码版权归原作者所有,传播和使用请参考对应项目的License;未经允许,请勿转载。