AI 也需要导览
AI 系统抓取网站时,和搜索引擎一样需要理解站点结构。llms.txt 用 Markdown 写一份「站点介绍」:你是谁、提供什么、最重要的页面和事实是什么。
它让 AI 在有限的抓取里优先读到关键内容,而不是迷失在导航和装饰文案里。
一份好的 llms.txt 长什么样
开头一句话介绍站点,然后分章节:Overview、核心页面、关键事实、FAQ、联系方式。每一条链接配一句说明,让 AI 知道这个页面讲什么。
网站越大、结构越复杂,llms.txt 的价值越明显。
- 站点身份:名称、定位、服务范围
- 页面导览:链接 + 一句话摘要
- 关键事实:数字、资质、流程、FAQ
- 联系方式:邮箱、电话、平台主页
llms-full.txt 补充细节
很多站点还提供 llms-full.txt,放更完整的摘要:每个服务、案例、FAQ 的全文要点。适合内容多的网站。
两份文件可以并存:llms.txt 精炼,llms-full.txt 详尽。
别忘了配合 robots.txt
llms.txt 是内容,robots.txt 是通行证。要确认 GPTBot、ClaudeBot、PerplexityBot 等 AI 爬虫没有被屏蔽。
内容、通行证、结构化数据三者齐备,AI 才可能真正读懂你。
常见格式错误
最常见的错误是 llms.txt 只列链接不写说明,AI 不知道每个页面讲什么;其次是文件放在错误位置或编码混乱;再就是和 robots.txt 冲突,链接写了但爬虫被挡。
写完用纯文本格式检查一遍,确认每行链接都能访问、每个说明都独立可读。
维护节奏
llms.txt 不是写一次就结束,网站结构变化、新增栏目、重要内容更新时,都要同步维护。建议把 llms 文件加入发布检查清单。
每季度做一次「AI 视角体检」:假装自己是爬虫,按 llms.txt 走一遍,看能否顺利理解站点全貌。
维护成本很低,但遗漏的代价很高:AI 拿到的站点摘要过时,引用质量就会下降。
llms.txt 的目录结构
站点栏目多时,llms.txt 用清晰的层级组织:顶级栏目、子栏目、关键页面,每层都要有一句话说明。
结构遵循「AI 能快速找到重点」的原则:最想让 AI 知道的放在前面,细节放在后面,联系方式放在固定位置。
目录结构稳定了,AI 抓取的效率和质量都会提升。