网页
资讯
视频
图片
知道
文库
贴吧
地图
采购
进入贴吧
全吧搜索
吧内搜索
搜贴
搜人
进吧
搜标签
日
一
二
三
四
五
六
签到排名:今日本吧第
个签到,
本吧因你更精彩,明天继续来努力!
本吧签到人数:0
一键签到
可签
7
级以上的吧
50
个
一键签到
本月漏签
0
次!
0
成为超级会员,赠送8张补签卡
如何使用?
点击日历上漏签日期,即可进行
补签
。
连续签到:
天 累计签到:
天
0
超级会员单次开通12个月以上,赠送连续签到卡3张
使用连续签到卡
01月21日
漏签
0
天
数据爬取吧
关注:
106
贴子:
655
看贴
图片
吧主推荐
游戏
4
回复贴,共
1
页
<返回数据爬取吧
>0< 加载中...
如何让爬虫效率最大化?
只看楼主
收藏
回复
璐村惂鐢ㄦ埛_589D432馃惥
中级粉丝
2
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
目前,当我们提到网络爬虫时第一反应想象到的便是http了,网络爬虫应用代理IP基本上是人人都默认的共识了。而且通常情况下爬虫用户应用的往往是付费代理IP,这就对应用的效率有了要求,因为效率高了成本才显得低。那么,爬虫用户要怎么使用代理IP才可以使效率最大化而不容易浪费呢?如何应用代理IP才合理呢?
送TA礼物
1楼
2020-08-22 16:40
回复
璐村惂鐢ㄦ埛_589D432馃惥
中级粉丝
2
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
首先,在使用http上,就需要选择那些高匿名的IP,这类代理IP资源质量优秀,能用率高,能大概率保证网站的反爬机制不容易被触发,不容易将时间浪费。其次,在应用代理IP爬取数据时,最好是控制访问的频率,过高的访问频率及其容易造成 IP被封,不能彻底应用到IP的时长。若是不清楚最大允许的访问频率是多少,可先向目标网站进行测试。
2楼
2020-08-22 16:41
回复
收起回复
2026-01-21 17:53:47
广告
不感兴趣
开通SVIP免广告
璐村惂鐢ㄦ埛_589D432馃惥
中级粉丝
2
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
但这样的话就很有可能产生一个问题:频率控制住了IP确实不容易被封,但不能完成每天的采集任务,如频率最大允许1小时600次,但每天的高达几十万,这时要怎么办呢?这就需要应用多线程采集的方式了。
3楼
2020-08-22 16:41
回复
收起回复
璐村惂鐢ㄦ埛_589D432馃惥
中级粉丝
2
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
应用多台设备,一次应用多个IP地址,同时采集,这样就进一步提高了效率。这就是爬虫用户应用http而不被封的一些小技巧,http也有降低延迟、当我们的防火墙等作用。比如IPIDEA,全球http代理服务器稳定ip量充足每日达到9000w,能够满足大量的需求,安全性也可以得到保障。
4楼
2020-08-22 16:41
回复
收起回复
贴吧用户_GS43C9K
初级粉丝
1
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
寻找渗透APP大牛一枚,提示实时数据,每个月给12W左右。联系企鹅:3555913506
来自
Android客户端
5楼
2022-02-28 21:17
回复
收起回复
登录百度账号
扫二维码下载贴吧客户端
下载贴吧APP
看高清直播、视频!
贴吧热议榜
1
惊魂12天!吧友勇闯传销贼窝
2430660
2
大法亡了?索尼电视卖身TCL
2305848
3
知心姐缺席,国女诬告强奸判6年
1895152
4
圆脸力挺耗子,精英癌彻底暴露
1756512
5
美部长自爆斩杀线,拜登惨背锅
1322074
6
安倍案落幕:日服男枪牢底坐穿
1026525
7
胆肥!摩萨德竟偷摸伪造公文
948312
8
迅雷前CEO卷款2亿,带情妇润美
689862
9
矮大紧狂吹美国,牢A一击KO
574486
10
剑指冠军,U23国足进亚洲杯决赛
427119
贴吧页面意见反馈
违规贴吧举报反馈通道
贴吧违规信息处理公示