admin 为什么要分析蜘蛛日志
蜘蛛日志分析
1、网站目录蜘蛛抓取的统计
通过网站日志的分析，可以很好的看出我们的哪些目录比较受蜘蛛的喜爱，蜘蛛经常抓取收录，并且给予的排名权重状况。并且我们可以通过这些数据能够发现很多问题，对于我们想要突出的栏目可以通过内部结构来进行指向，从而有效的增加栏目的权重和蜘蛛抓取的程度。对于那些我们不希望蜘蛛抓取的页面，也可以进行屏蔽
2、网站页面的抓取
通过日常的日志分析统计中，我们可以看出哪些网站页面比较受蜘蛛的喜爱，并且可以了解到蜘蛛在这些页面的抓取行为，例如说蜘蛛是否抓取了一些没有被收录价值的页面，或者重复的抓取了一些页面等，大家都知道这样会影响到我们网站其他页面的权重传递的。通过分析，我们可以屏蔽蜘蛛抓取这些没有价值的页面，也有效的提高了我们其他页面权重的传递，并且学习蜘蛛比较喜爱的页面优点来补充其他页面的不足
网站日志记录蜘蛛爬行中的HTTP状态码解读
网站日志记录蜘蛛爬行中的HTTP状态码解读
1、200代码，表明蜘蛛爬取正常;
2、301代码，永久重定向;
3、302代码，表明临时重定向;
4、304代码，客户端现已执行了GET，但文件未变化;
5、404代码，拜访的这个链接是过错链接;
6、500代码，表明网站内部程序或服务器有错;
网站日志的含义就是从各个代码数据中来找到合理化的意义，总之每个记载的数据都是一天发生在网站的一些行为，当咱们看到网站日志的时候，以审核的态度进行站内代码的剖析，然后能有用解决网站中所存在的不利于优化的要素，这样才能更好的优化我们的网站
0条评论