"); //-->
360浏览器设置代理IP方案:
1、打开浏览器点开代理服务器设置
2、在代理服务器列表中,添加获取的代理IP
3、添加代理后,可在代理菜单中选择使用哪个代理


爬虫程序设置代理IP的方案:
这里以常见的python爬虫举例:
#! -*- encoding:utf-8 -*-
import base64
import sys
import random
PY3 = sys.version_info[0] >= 3
def base64ify(bytes_or_str):
if PY3 and isinstance(bytes_or_str, str):
input_bytes = bytes_or_str.encode('utf8')
else:
input_bytes = bytes_or_str
output_bytes = base64.urlsafe_b64encode(input_bytes)
if PY3:
return output_bytes.decode('ascii')
else:
return output_bytes
class ProxyMiddleware(object):
def process_request(self, request, spider):
# 代理服务器(产品官网 www.16yun.cn)
proxyHost = "t.16yun.cn"
proxyPort = "31111"
# 代理验证信息
proxyUser = "username"
proxyPass = "password"
request.meta['proxy'] = "http://{0}:{1}".format(proxyHost,proxyPort)
# 添加验证头
encoded_user_pass = base64ify(proxyUser + ":" + proxyPass)
request.headers['Proxy-Authorization'] = 'Basic ' + encoded_user_pass
# 设置IP切换头(根据需求)
tunnel = random.randint(1,10000)
request.headers['Proxy-Tunnel'] = str(tunnel)其实浏览器设置代理和爬虫程序这是代理IP最大的区别就在于,一个只适合于爬虫业务量小,浏览器配置代理只是偶尔访问。爬虫程序配置代理IP适用于想要快速稳定大量采集爬虫数据,适用于公司企业爬虫业务。
专栏文章内容及配图由作者撰写发布,仅供工程师学习之用,如有侵权或者其他违规问题,请联系本站处理。 联系我们
相关推荐
P89V51RD2单片机看门狗的使用方法
新诱人AI投资生忧虑
P89V51RD2新型单片机SoftICE模式调试指南
PCI16F62X单片机
苹果公司CEO乔布斯在斯坦福大学的演讲中文字幕
555家用地震声光报讯器电路图
特定场景Scaling Law成新方向 第一线DYXnet线灵AI提供定制化赋能
基于TI MSPM0G3507开发板设计的智能温控风扇
高速数据采集平台解说4
555简易实用的地震报警电路图
亚太半导体产业反弹,中韩引领今后5年增长
三星电子晶圆代工部门设备投资预算陡降
555鱼缸水温自动加热控制电路图
555十音符连续演奏电路图
555具有声光同步显示的重音电子节拍器电路图
德承推出全新紧凑型工业电脑(DC-1300系列),助力智慧制造
宁德时代开始在香港建造首座电动汽车换电站
摩托罗拉将推出MXC架构,重铸移动器件SoC平台
智能化加速标准和协议的更新,并推动验证IP(VIP)在芯片设计中的更广泛应用
LG新能源中国总部公司成立
纳芯微推出车规级D类音频功率放大器
Intersil介绍:同轴电缆的安全链接
Intersil ISL55210全差分放大器
欧洲将推出高清晰度电视服务
FPGA制造工艺缩小到90纳米 可编程逻辑应用扩展到消费电子
高速数据采集平台解说3
上汽集团与宁德时代在车辆开发与换电领域深化合作
PCF8563日历时钟芯片原理及应用设计
PCF8563日历时钟芯片原理及应用设计2
webMethods完成对网络基础架构软件厂商TME的收购