代理IP被屏蔽時爬蟲應(yīng)該如何解決問題？
jj
2022-01-25
作為一個爬蟲愛好者，你有沒有遇到過一個已經(jīng)設(shè)置好的分布式爬蟲，即將讓程序使用代理IP抓取數(shù)據(jù)，而服務(wù)器已經(jīng)設(shè)置好了，突然發(fā)現(xiàn)辦公室的IP被屏蔽了。那你應(yīng)該怎么做，應(yīng)該怎么解決？
隨著大數(shù)據(jù)時代的到來，爬蟲的這種工作場景經(jīng)常會遇到:
1.如果你是個人，作為愛好，就交不了代理費(fèi)。當(dāng)然，在線抓取自由代理，檢查IP有效性10分鐘。當(dāng)然這種搶到的IP是極其不穩(wěn)定的，但是免費(fèi)的東西就是免費(fèi)的東西，用起來就好。作為一個個體。
2.申請多個adsl，不斷撥號獲取IP，這個項目難度要大一點:一是一個城市可用的IP池有限，二是可能會面臨各種撥號問題，維護(hù)起來比較困難。
3.網(wǎng)上購買收費(fèi)代理。目前市場上充電代理供應(yīng)商很多，精靈ip代理就是其中之一。
下一篇：精靈ip代理有什么作用？好用嗎？
