当前位置: 首页>>代码示例>>Golang>>正文


Golang Request.GetProxyHost方法代码示例

本文整理汇总了Golang中github.com/henrylee2cn/pholcus/downloader/context.Request.GetProxyHost方法的典型用法代码示例。如果您正苦于以下问题:Golang Request.GetProxyHost方法的具体用法?Golang Request.GetProxyHost怎么用?Golang Request.GetProxyHost使用的例子?那么恭喜您, 这里精选的方法代码示例或许可以为您提供帮助。您也可以进一步了解该方法所在github.com/henrylee2cn/pholcus/downloader/context.Request的用法示例。


在下文中一共展示了Request.GetProxyHost方法的2个代码示例,这些例子默认根据受欢迎程度排序。您可以为喜欢或者感觉有用的代码点赞,您的评价将有助于系统推荐出更棒的Golang代码示例。

示例1: connectByHttpProxy

// choose a proxy server to excute http GET/method to download
func connectByHttpProxy(p *context.Response, in_req *context.Request) (*http.Response, error) {
	request, _ := http.NewRequest("GET", in_req.GetUrl(), nil)
	proxy, err := url.Parse(in_req.GetProxyHost())
	if err != nil {
		return nil, err
	}
	client := &http.Client{
		Transport: &http.Transport{
			Proxy: http.ProxyURL(proxy),
		},
	}
	resp, err := client.Do(request)
	if err != nil {
		return nil, err
	}
	return resp, nil

}
开发者ID:houzhenggang,项目名称:pholcus,代码行数:19,代码来源:downloader_http.go

示例2: downloadFile

// Download file and change the charset of response charset.
func (self *HttpDownloader) downloadFile(p *context.Response, req *context.Request) (*context.Response, string) {
	var err error
	var urlstr string
	if urlstr = req.GetUrl(); len(urlstr) == 0 {
		reporter.Log.Println("url is empty")
		p.SetStatus(true, "url is empty")
		return p, ""
	}

	var resp *http.Response

	if proxystr := req.GetProxyHost(); len(proxystr) != 0 {
		//using http proxy
		//fmt.Print("HttpProxy Enter ",proxystr,"\n")
		resp, err = connectByHttpProxy(p, req)
	} else {
		//normal http download
		//fmt.Print("Http Normal Enter \n",proxystr,"\n")
		resp, err = connectByHttp(p, req)
	}

	if err != nil {
		return p, ""
	}

	//b, _ := ioutil.ReadAll(resp.Body)
	//fmt.Printf("Resp body %v \r\n", string(b))

	p.SetHeader(resp.Header)
	p.SetCookies(resp.Cookies())

	// get converter to utf-8
	bodyStr := self.changeCharsetEncodingAuto(resp.Header.Get("Content-Type"), resp.Body)
	//fmt.Printf("utf-8 body %v \r\n", bodyStr)
	defer resp.Body.Close()
	return p, bodyStr
}
开发者ID:houzhenggang,项目名称:pholcus,代码行数:38,代码来源:downloader_http.go


注:本文中的github.com/henrylee2cn/pholcus/downloader/context.Request.GetProxyHost方法示例由纯净天空整理自Github/MSDocs等开源代码及文档管理平台,相关代码片段筛选自各路编程大神贡献的开源项目,源码版权归原作者所有,传播和使用请参考对应项目的License;未经允许,请勿转载。