CWYAlpha

Just another WordPress.com site

Thought this was cool: 搜索引擎的Robots规则

leave a comment »


robots.txt是一种存放于网站根目录下的文本文件,用于告诉搜索引擎的爬虫(spider),此网站中的哪些内容是不应被搜索引擎的索引,哪些是可以被索引。通常认为,robots.txt文件用来搜索引擎对目标网页的抓取。

robots.txt协议并不是一个规范,而只是约定俗成的,通常搜索引擎会识别这个文件,但也有一些特殊情况。

对于Google来说,使用robots也未必能阻止Google将网址编入索引,如果有其他网站链接到该网页的话,Google依然有可能会对其进行索引。按照Google的说法,要想彻底阻止网页的内容在Google网页索引中(即使有其他网站链接到该网页)出现,需要使用noindex元标记或x-robots-tag。例如将下面的一行加入到网页的header部分。

<meta name=”googlebot” content=”noindex”>

如果Google看到某一页上有noindex的元标记,就会将此页从Google的搜索结果中完全丢弃,而不管是否还有其他页链接到此页。

搜索引擎的Robots规则

对于百度来说,情况和Google类似,如果有其他网站链接目标网页,也有可能会被百度收录,从百度的说明页面上看,百度并不支持像Google那样通过noindex完全将网页从索引上删除,只支持使用noarchive元标记来禁止百度显示网页快照。具体的语句如下。

<meta name=”Baiduspider” content=”noarchive”>

上面这个标记只是禁止百度显示该网页的快照,百度会继续为网页建索引,并在搜索结果中显示网页摘要。

例如,淘宝网目前就通过robots.txt来屏蔽百度爬虫,但百度依旧收录了淘宝网的内容,百度搜索“淘宝网”,第一个结果也是淘宝网首页地址,只是该页面没有网页快照,因此看来,网站只能禁止百度的快照,而无法禁止百度为网页建索引。

来源:http://www.williamlong.info/archives/3206.html

3SB大战,Robot为啥伤不起?

听着最炫民族风,

我决定为Robot解释一下,它为什么会突然被热炒成了“伤不起”。

Robot本来就是一个TXT文件,

全名,robots.txt;

中文名字,机器人协议;

外号,君子协定;

小名,遇见流氓没办法斯基;

在中国古代谓之礼,就是非礼勿视、非礼勿听、非礼勿言那个礼。

在全球现代等同于一种契约精神,注意,是契约精神,而不是契约,因为,它是一种约定俗成的搜索行业道德规范,既不需要Google和百度坐在一起谈判签合同,也无法去法院起诉维权。

拿不拿Robot当会事,全凭自觉。

遵守不遵守这个契约精神,一定会影响到公众、合作伙伴、股东、股民对你的看法,至于这个看法,最终对“流氓”会有什么惩罚,对“君子”有什么奖赏,在不同时代,有不同的特点。

百度和360之间爆发的Robot解释大战,

其所处的时代,是个大数据时代。

大数据时代有一个特别要命的特点,无论是欧洲还是美国,中国还是朝鲜,司法都是远远落后于Internet的,维系这个全球瞬间亿万人口同时微博和Facebook的数字行业,能够不断创新、健康、高速发展的基础。

恰恰是,robot赖以生存的契约精神。

这种契约精神,确保了我相信新浪微博的后台人员,不会偷看我的微博私信。

这种契约精神,确保了我可以选择在我的手机上,开放不开放我的LBS地理位置信息给微信,如果我选择NO,马化腾不能以他腾讯CEO身份,命令他手下的程序员,强逼我YES。

这种契约精神,确保了一个值得信赖的开放平台,在与合作伙伴计算分成、分红的时候,不利用后台权限,欺骗合作伙伴。

本来,用户就最关心自己的隐私被互联网企业恣意侵犯滥用,

本来,用户就很难利用现有司法捍卫自己的权利,

而,企业,特别是掌握大数据的搜索企业,居然连这样一种简单的robot道德契约都不愿意遵守?

那谁还敢、谁还愿意,尝试另一个国家开发的全球化应用呢?

大数据时代,契约精神,不仅仅是大家应该共同遵循的道德底线,更是所有互联网企业赖以全球拓展的生存底线。

地球有个臭氧层,破坏了,人人生命临危。

Robot里有个契约精神,破坏了,数据安全无存。

各位列位在其位,请亮剑,别比贱。

来源:http://blog.sina.com.cn/s/blog_3ec28e840102e3pj.html

360绕过robots协议肆意抓取百度数据,如果360连互联网最基本协议都不遵守,中国几十万网站、数亿网民还有什么隐私和安全可言?窃取百度搜索数据会让用户的搜索体验不完整。做搜索靠的不是渠道更不是公关战,埋头做好技术产品,给用户最好的搜索体验,在我看来是最重要的。

 


© 推荐 for 互联网的那点事, 2012. |
Permalink |
2 comments |
Add to
del.icio.us

Post tags:

你可能也喜欢:


Robot USB (@toodaylab)


秋叶乱弹之九十二-潜规则的力量:有感华盛顿第一老鸨的自杀 (@70man)


第一财经周刊:搜索引擎未来卡壳


如何建立一个更好的DNA的搜索引擎


福布斯评出最具发展潜力10大搜索引擎(组图)

无觅

Feed enhanced by Better Feed from Ozh

from 互联网的那点事: http://www.alibuybuy.com/posts/76139.html

Written by cwyalpha

九月 3, 2012 在 2:12 上午

发表在 Uncategorized

发表评论

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / 更改 )

Twitter picture

You are commenting using your Twitter account. Log Out / 更改 )

Facebook photo

You are commenting using your Facebook account. Log Out / 更改 )

Google+ photo

You are commenting using your Google+ account. Log Out / 更改 )

Connecting to %s

%d 博主赞过: