今天在Google AdSense后台出现提示:“出现广告抓取工具错误,这可能导致收入减少。”点击操作后,在合作规范中心查看到有一个受影响的项目,并没有必须解决的项目,有3%的广告被限投了,查看有问题的链接,是一个.../text/plain的链接,网站并没有这个类型的链接,点开链接后也是直接到了网站的404页面,这个链接并不存在真正的内容。链接中的text/plain的意思是将文件设置为纯文本的形式,浏览器在获取到这...
屏蔽神马搜索蜘蛛YisouSpider减轻网站压力的方法
YisouSpider看名字应该是一搜这个搜索引擎的蜘蛛,一搜这个名字现在已经很难见到的,一搜最早是由雅虎中国于2004年创建的,在阿里巴巴收购雅虎中国后归到了神马搜索旗下,所以神马搜索的蜘蛛名字就成了YisouSpider,目前神马搜索只有移动端,PC端暂时没有提供服务,所以对于移动端有需要的用户可以保留这个蜘蛛,但是以PC端流量为主力的网站可以屏蔽这个YisouSpider蜘蛛,优化网站压力。
为什么要屏蔽...
屏蔽AWStats中发现的垃圾蜘蛛oBot的方法
最近在用AWStats检查网站的时候,在Robots/Spiders visitors一项中发现第一名的蜘蛛是一个叫oBot的蜘蛛,蜘蛛就是搜索引擎抓取网页的一个工具。这个oBot蜘蛛每天都会来网站抓取数据,而且数据量非常大,都是上G大小的抓取。不过还好抓取的时间基本都是在凌晨,这个时候服务器的负载是比较小的。目前没有发现服务器扛不住导致网站无法访问的情况。
网站搜索了一下这个oBot蜘蛛,这个oBot 是 IBM Germany...
主机控制面板Awstats中的DotBot是什么蜘蛛?
Awstats是一个非常强大的网站日志分析工具,在虚拟主机中一般都有提供。通过网站的日志分析可以查看网站的一些基本信息,网站的流量分析。其中有一项是网站蜘蛛访问情况,我们可以查看Robots/Spiders visitors (Top 10)前十名,也可以查看所有蜘蛛列表,而且有蜘蛛访问时间,抓取链接数量,消耗流量信息等。
各大搜索引擎的蜘蛛对网站抓取,然后在搜索中提供检索,这样就可以给网站带来很多流量,但是...
ZBlog博客SEO之robots.txt的写法
国产的ZBlog还是相当简单实用的,如果你打算用asp建一个博客站,那么我推荐你用ZBlog,而且ZBlog对百度相当友好。如果用php最好用Wordpress,功能强大。下载说下ZBlog中robots.txt的写法,robots.txt对网站SEO还是很有帮助的。默认ZBlog官网并没有提供robots.txt这个文件,所以我们需要在网站根目录建立一个robots.txt文件,以PotPlayer网站为例,添加内容如下:
User-agent: *
Disallow: /ADMIN/
Disallo...