站长必读
这一页是给站点维护者的:怎么让页面进来、显示得好,以及怎么让它出去。
想让页面被收录
按重要性排,每一条都能自己核对:
- 页面得是公开可访问的 —— 不需要登录、不是只对特定地区开放。
- 别写
noindex—— 检查页面的<meta name="robots">和响应头里的X-Robots-Tag。 - robots.txt 别挡着我们 —— 只挡别的爬虫、忘了带上
CaelLabSearchSpider是最常见的一种。 - 内容要在服务器返回的 HTML 里 —— 我们不执行 JavaScript。纯前端渲染的页面,我们只能拿到标题和
meta description。服务端渲染或预渲染是最稳的做法。 - 能被找到 —— 有站点地图(
sitemap.xml)最好;没有的话,只要页面从某个已知页面链得到,我们迟早会走过去。
想让它快一点,发邮件到 [email protected] 说明具体地址就行。
自查收录情况
在搜索框里输入:
site:你的域名
会列出这个站已收录的页面,以及一行「约 N 条结果」。这也是核对「某个页面到底进没进索引」最快的办法 —— 换成 site:你的域名 关键词 还能确认某个词有没有被匹配到。
结果里那条记录长什么样
搜索结果里的一条由这几部分组成,全部来自页面本身:
| 显示的部分 | 取自哪里 | 怎么改 |
|---|---|---|
| 标题 | 页面的 <title> | 把关键词写进标题,但别堆砌 |
| 摘要 | 优先 meta description,没有就取正文开头第一段 | 给每个页面写一句像样的 meta description |
| 站点名与图标 | 我们站内的站点目录 | 发邮件到 [email protected] 改 |
摘要里匹配到的词会加粗标出来,所以 meta description 写得越贴近页面主题,展示效果越好。
想改站名或图标
发邮件到 [email protected],说明域名和想改成什么。站点名和图标存在我们的站点目录里,改完不用等重新抓取,是立 刻生效的。
想删掉已经收录的内容
- 一般事务(删收录、改站名、报问题、提问):[email protected]
- 权利主张(著作权、商标这类):[email protected] —— 这类我们会优先处理。
请一并说明要处理的域名或页面地址,以及是想整站不再收录、只删某几条,还是只改一下站名和图标。屏蔽以后怎么保证不再被抓,见屏蔽与移除。
我们对站长的承诺
- 同一个域名两次请求之间至少隔 2 秒,同一时间只有一个请求在发;
- 完全遵守
robots.txt(含Crawl-delay)和页面级的noindex/nofollow; - 不执行 JavaScript、不提交表单、不带 cookie、不碰需要登录的内容;
- 只留标题、描述和正文前 2000 字用于匹配,正文全文不入库、也不对外提供;
- 从独立 IP 出站,不会让我们的抓取影响你对我们其它服务的印象。
有问题随时发邮件,抓错了、抓太重了都算问题。