爬虫怎么解决封IP

网络爬虫为什么被封？当中最直接的因素的就是访问速度过快，这个不要说爬取抓取了，就算用户自己点击太快也是会被提示访问频率过快的。网络爬虫的访问速度若是一直都很快，而且都使用同一个IP地址访问，这是很快IP便会被封的。

面对这个问题，网络爬虫通常是怎么处理的呢？不外乎是两类方法，首位降低访问速度，其次切换IP访问。

爬虫降低访问速度

鉴于上文所指的访问速度过快会引起IP被封，那么最直接的办法就是降低访问速度，这样就能防止了我们的IP被封的问题。但呢，降低速度，爬虫的效率就降低，关键还是要降低到什么程度？

在这一点上，我们首先要检测出网站设置的限制速度阈值，这样我们才可以设置合理的访问速度，建议不要设固定的访问速度，可以设置在一个范围之内，预防过于规律而被系统检测到，进而导致IP被封。

爬虫切换IP访问

降低了访问速度，在所难免的影响到了爬取的抓取效率，无法高效的抓取，这样的抓取速度与人工抓取有什么区别呢？都没有了使用爬虫抓取的优势了。

即然单个爬虫被控制了速度，但我们可以使用多个爬虫同时去抓取啊！是的，我们可以使用多线程，多进程，这里要配合使用代理，不一样的线程使用不同的IP地址，就好像同时有不同的用户在访问，这样就能极大地提高爬虫的爬取效率了。

代理服务器(Proxy)是网络信息的中转站。是可以切换ip地址的。

我们使用网络浏览器直接链接其他Internet站点并取得网络信息时，需送出Request信号来得到回答，然后对方再把信息传送回来。比如使用IPIDEA，代理服务器是介于浏览器和Web服务器之间的一台服务器，有了它之后，浏览器不是直接到Web服务器去取回网页而是向代理服务器发出请求，Request信号会先送到代理服务器，由代理服务器来取回浏览器所需要的信息并传送给你。