站点被 AI 完全忽略:一份从上到下的排查清单

· 资讯 · 阅读 1
摘要

「我们内容也写了,还是完全没被提过」——这种情况通常是通道问题,而不是内容问题。按下面的顺序排查,八成能在前三步定位到原因。 第一步:能不能被抓到 先确认爬虫真的来过。 看服务器日志里是否有 GPTBot、OAI-SearchBot、Per

「我们内容也写了,还是完全没被提过」——这种情况通常是通道问题,而不是内容问题。按下面的顺序排查,八成能在前三步定位到原因。

第一步:能不能被抓到

先确认爬虫真的来过。

  • 看服务器日志里是否有 GPTBot、OAI-SearchBot、PerplexityBot、ClaudeBot 等 UA 的访问记录
  • 如果没有记录,检查 robots.txt 是否误拦
  • 如果 robots 没问题,检查 CDN / WAF / 防火墙是否按 UA 或频率拦截了 Bot
  • 检查是否有全站登录墙、验证码、JS 挑战页

这一层最常见的坑是 CDN 的「Bot 防护」默认开启,把正常爬虫也一起挡了。

第二步:抓到的是不是有效内容

爬虫来了,但拿到空壳,同样没用。

  • 关掉浏览器 JS,直接访问页面,看正文是否还在
  • 如果是 SPA 且完全依赖前端渲染,需要考虑 SSR 或预渲染
  • 检查核心内容是否被「展开更多」折叠,且折叠内容不在初始 HTML 里
  • 检查是否用了 Canvas 渲染文字

验证方法很直接:用 curl 或浏览器的「查看网页源代码」看原始 HTML,能不能读到你的正文。

第三步:内容是否可被理解

抓到了全文,但结构混乱,模型也难以使用。

  • 标题层级是否合理(一个 H1,H2 分节,不要跳级)
  • 页面主题是否明确(title、H1、首段是否说同一件事)
  • 是否有大量与主题无关的导航、广告、推荐位混杂在正文中
  • 关键信息(价格、参数、时间)是否以文本形式存在

第四步:有没有值得引用的东西

前三步都通了,还是不被引用,问题通常在内容本身。

  • 你的内容里有没有别处没有的信息?如果只是复述行业常识,模型没有理由选你
  • 有没有具体数字、具体方法、具体案例?
  • 有没有明确的结论句?通篇铺垫、最后才给答案的写法,抽取效率很低
  • 内容是否有时效标注?没有日期,模型难以判断新旧

第五步:第三方有没有提到你

这是最容易被跳过、却常常是根因的一步。

去问 AI 你的品类问题,看它引用了哪些站。如果这些站里一个都没提到你,那你的问题不在官网,在站外存在感。模型可以用官网信息介绍你,但「推荐谁」这类问题,它更依赖多方交叉印证。

处理方向:行业目录、社区讨论、媒体报道、合作伙伴页面。让品牌名在更多可信来源里出现。

第六步:竞品做到了什么

拿同样的品类问题去问,看 AI 提到了谁、引用了什么页面。逐条分析对方页面比你强在哪:结构、数据、深度、还是站外引用量。

这个对比比任何理论都直接。

排查顺序为什么重要

因为改错地方的代价很高。通道问题去改内容,是白费力气;内容问题去调技术,同样无效。按 1→5 顺序走,每一步都有明确的验证方法,能快速排除。

大多数站点卡在第 1 步或第 5 步。前者是技术配置,后者是长期投入。