吴贤茂:robots.txt与sitemap的运用

首先我先讲解一下什么是robots.txt，robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。Robots.txt文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。当一个搜索蜘蛛访

声明：该文章仅仅针对刚刚进入seo的菜鸟级别，大鸟请飞过。首先我们先来看一下蜘蛛是怎么爬去我们的网站的。一般蜘蛛到我们的网站后，它会先看有没有sitmap.xml这个文件，然后再看有没有robot

我们知道，搜索引擎都有自己的“搜索机器人”（ROBOTS），并通过这些ROBOTS在网络上沿着网页上的链接（一般是http和src链接）不断抓取资料建立自己的数据库。 对于网站管理者和内容提供

上次和大家一起分享了<新站如何在百度K站严重的情况下收录>，有很多童鞋加我QQ向我取经，其实我也是刚刚接触SEO自己并不是有经验的人，而且职业也并不是从事网络这个行业，只是自己爱好而已

竹影清风做网站也有些年头了，应各位站长朋友的要求今天跟各位分享一点我的点滴经验。今天的话题重点是robots.txt。各位站长朋友可能比较少关注robots.txt,但善用robots.txt绝对

在一个网站里，robots.txt是一个重要的文件，每个网站都应当有一个设置正确的robots.txt。 当搜索引擎来抓取你的网站文件之前，它们会先来看看你网站的robots.txt文件的设置，以了

有一种力量其实一直在渗入大量的网站和页面，我们通常看不到它们，而且它们通常也很蛮横，大部分人甚至不知道它的存在，大家不要误会，其实我说得是搜索引擎爬虫和机器人。每天，上百个这样的爬虫会出来对网站进

把网站地图链接放在robots.txt文件里，好处就是站长不用到每个搜索引擎的站长工具或者相似的站长部分去提交自己的sitemap文件。这样的方法可以帮助站长减轻工作。 各大搜索引擎都发布

最近经常有朋友问我一些robots的问题，今天我就将robots使用的一些心得和技巧和大家一起分享一下，欢迎各位拍砖指正。 robots性质：TXT的文本文件。 应用原理：当一个搜