专栏中心

EEPW首页 > 专栏 > 浏览器和爬虫程序设置代理IP的区别

浏览器和爬虫程序设置代理IP的区别

发布人:laical 时间:2020-11-20 来源:工程师 发布文章

360浏览器设置代理IP方案:
1、打开浏览器点开代理服务器设置

2、在代理服务器列表中,添加获取的代理IP

3、添加代理后,可在代理菜单中选择使用哪个代理

39cbdeca3f057c5ac44ccd43961f3d4c_YGlXX3ANf6a0ESRkDs1z8oUduRp69D48SScJcDPt.png

1ed053c32e5f339ad0ce66ed40bf2afb_3oXq8U7EOTAIwVbiMOI7xPVR4QZZIkqMHjD4U3Vh.png

爬虫程序设置代理IP的方案:

这里以常见的python爬虫举例:

        #! -*- encoding:utf-8 -*-
        import base64            
        import sys
        import random

        PY3 = sys.version_info[0] >= 3

        def base64ify(bytes_or_str):
            if PY3 and isinstance(bytes_or_str, str):
                input_bytes = bytes_or_str.encode('utf8')
            else:
                input_bytes = bytes_or_str

            output_bytes = base64.urlsafe_b64encode(input_bytes)
            if PY3:
                return output_bytes.decode('ascii')
            else:
                return output_bytes

        class ProxyMiddleware(object):                
            def process_request(self, request, spider):
                # 代理服务器(产品官网 www.16yun.cn)
                proxyHost = "t.16yun.cn"
                proxyPort = "31111"

                # 代理验证信息
                proxyUser = "username"
                proxyPass = "password"

                request.meta['proxy'] = "http://{0}:{1}".format(proxyHost,proxyPort)

                # 添加验证头
                encoded_user_pass = base64ify(proxyUser + ":" + proxyPass)
                request.headers['Proxy-Authorization'] = 'Basic ' + encoded_user_pass                    

                # 设置IP切换头(根据需求)
                tunnel = random.randint(1,10000)
                request.headers['Proxy-Tunnel'] = str(tunnel)

   其实浏览器设置代理和爬虫程序这是代理IP最大的区别就在于,一个只适合于爬虫业务量小,浏览器配置代理只是偶尔访问。爬虫程序配置代理IP适用于想要快速稳定大量采集爬虫数据,适用于公司企业爬虫业务。

专栏文章内容及配图由作者撰写发布,仅供工程师学习之用,如有侵权或者其他违规问题,请联系本站处理。 联系我们

关键词:

相关推荐

P89V51RD2单片机看门狗的使用方法

新诱人AI投资生忧虑

智能计算 2025-01-23

P89V51RD2新型单片机SoftICE模式调试指南

PCI16F62X单片机

苹果公司CEO乔布斯在斯坦福大学的演讲中文字幕

视频 2011-10-12

特定场景Scaling Law成新方向 第一线DYXnet线灵AI提供定制化赋能

2025-01-23

基于TI MSPM0G3507开发板设计的智能温控风扇

高速数据采集平台解说4

视频 2011-10-17

三星电子晶圆代工部门设备投资预算陡降

EDA/PCB 2025-01-24

德承推出全新紧凑型工业电脑(DC-1300系列),助力智慧制造

宁德时代开始在香港建造首座电动汽车换电站

智能化加速标准和协议的更新,并推动验证IP(VIP)在芯片设计中的更广泛应用

LG新能源中国总部公司成立

纳芯微推出车规级D类音频功率放大器

Intersil介绍:同轴电缆的安全链接

视频 2011-10-17

Intersil ISL55210全差分放大器

高速数据采集平台解说3

上汽集团与宁德时代在车辆开发与换电领域深化合作

PCF8563日历时钟芯片原理及应用设计

PCF8563日历时钟芯片原理及应用设计2

更多 培训课堂
更多 焦点
更多 视频

技术专区