跳到主要内容

站长必读

这一页是给站点维护者的:怎么让页面进来、显示得好,以及怎么让它出去。

想让页面被收录​

按重要性排,每一条都能自己核对:

  1. 页面得是公开可访问的 —— 不需要登录、不是只对特定地区开放。
  2. 别写 noindex —— 检查页面的 <meta name="robots"> 和响应头里的 X-Robots-Tag。
  3. robots.txt 别挡着我们 —— 只挡别的爬虫、忘了带上 CaelLabSearchSpider 是最常见的一种。
  4. 内容要在服务器返回的 HTML 里 —— 我们不执行 JavaScript。纯前端渲染的页面,我们只能拿到标题和 meta description。服务端渲染或预渲染是最稳的做法。
  5. 能被找到 —— 有站点地图(sitemap.xml)最好;没有的话,只要页面从某个已知页面链得到,我们迟早会走过去。

想让它快一点,发邮件到 [email protected] 说明具体地址就行。

自查收录情况​

在搜索框里输入:

site:你的域名

会列出这个站已收录的页面,以及一行「约 N 条结果」。这也是核对「某个页面到底进没进索引」最快的办法 —— 换成 site:你的域名 关键词 还能确认某个词有没有被匹配到。

结果里那条记录长什么样​

搜索结果里的一条由这几部分组成,全部来自页面本身:

显示的部分取自哪里怎么改
标题页面的 <title>把关键词写进标题,但别堆砌
摘要优先 meta description,没有就取正文开头第一段给每个页面写一句像样的 meta description
站点名与图标我们站内的站点目录发邮件到 [email protected] 改

摘要里匹配到的词会加粗标出来,所以 meta description 写得越贴近页面主题,展示效果越好。

想改站名或图标​

发邮件到 [email protected],说明域名和想改成什么。站点名和图标存在我们的站点目录里,改完不用等重新抓取,是立刻生效的。

想删掉已经收录的内容​

  • 一般事务(删收录、改站名、报问题、提问):[email protected]
  • 权利主张(著作权、商标这类):[email protected] —— 这类我们会优先处理。

请一并说明要处理的域名或页面地址,以及是想整站不再收录、只删某几条,还是只改一下站名和图标。屏蔽以后怎么保证不再被抓,见屏蔽与移除。

我们对站长的承诺​

  • 同一个域名两次请求之间至少隔 2 秒,同一时间只有一个请求在发;
  • 完全遵守 robots.txt(含 Crawl-delay)和页面级的 noindex / nofollow;
  • 不执行 JavaScript、不提交表单、不带 cookie、不碰需要登录的内容;
  • 只留标题、描述和正文前 2000 字用于匹配,正文全文不入库、也不对外提供;
  • 从独立 IP 出站,不会让我们的抓取影响你对我们其它服务的印象。

有问题随时发邮件,抓错了、抓太重了都算问题。