题目
A.防止网站非公开部份的网页被抓取
B.禁止搜索引擎访问某些文件
C.提升网站排名
D.避免收录重复内容
第2题
A.Disallow用来描述不希望被访问到的一个URL
B.robots文件可以放在任何位置
C.一个网站可以放多个不同robots文件
D.robots文件可以用xml格式命名
第3题
A.告诉搜索引擎robots文件在这个页面
B.在这个页面调用robots文件
C.告诉搜索引擎不要检索本页面
D.告诉搜索引擎不要检索本页面上的所有连接
第5题
关于网络爬虫协议文件robots.txt,说法错误的是:
A一个网站可以放多个不同robots文件
Brobots文件不可以用xml格式命名
Cdisallow用来描述不希望被访问到的一个URL
Drobots文件可以放在任何位置
第8题
关于网络爬虫协议文件robots.txt,说法正确的是:
Arobots.txt是搜索引擎中访问网站的时候要查看的第一个文件
Brobots.txt文件告诉蜘蛛程序在服务器上哪些文件不要被收录
Crobots文件不可以用xml格式命名
D一个网站可以放多个不同robots文件
第9题
A、使搜索引擎不能访问网站
B、使百度不能访问网站
C、使Google不能访问网站
D、告知搜索引擎网站内有哪些文件不能访问,哪些文件可以访问
第11题
A.Social robots are more difficult to design
B.Industrial robots are more complicated to design
C.Social robots can be more useful than industrial robots
D.Industrial robots can do less than social robots
为了保护您的账号安全,请在“赏学吧”公众号进行验证,点击“官网服务”-“账号验证”后输入验证码“”完成验证,验证成功后方可继续查看答案!