企业网站如何做llms.txt让AI大模型抓取引用-墨子教育咨询
摘要:llms.txt是2024年9月Jeremy Howard提出的开放规范,放根目录用Markdown格式告诉大模型"这站有什么、按什么顺序读"。五段结构:标题+说明+Details+板块链接+Optional;命名严格小写、走HTTPS返回200;和robots.txt管访问、sitemap管URL索引三者分工配合不冲突。目前Perplexity读得最认真、ChatGPT/Claude较积极、豆包DeepSeek在跟进。手写/在线生成器/课程带做三种路径,推荐控制在3-8KB不超50条链接。
2025年下半年开始,ChatGPT、Claude、Perplexity这些大模型在抓取网页时已经不只看HTML了——它们会先找llms.txt,一个放在网站根目录的纯文本文件,告诉AI"你这里有什么内容、该怎么读"。一个做企业官网的朋友加了llms.txt两周后,豆包推荐他的频率肉眼可见地上来了——不是魔法,是AI抓取时有了结构化入口,省了猜测的成本。但也不是"加了llms.txt就万事大吉"——写得对不对、字段全不全、放对位置没有、格式有没有踩坑,每一项都直接影响AI到底读不读得到你。这篇把llms.txt从头到尾讲清楚:是什么、放哪里、写什么、验证方法、和JSON-LD的关系怎么配合——你花一小时读完,就能自己给公司网站写一份合规的llms.txt。
llms.txt到底是什么:格式规范、出处、和robots.txt的关系与区别
llms.txt是由Jeremy Howard(Answer.AI创始人、fast.ai作者)在2024年9月提出的一个开放规范,目标是"让大模型有一个统一的入口了解网站内容"。它不是一项技术标准、也不是W3C规范——是"业界约定"。到2026年,主流AI平台的爬虫(ChatGPT、Claude、Perplexity、Gemini、豆包、DeepSeek等)陆续开始读取它,但读取权重和实现细节各家不同。
文件格式极简:纯文本、UTF-8编码、放在网站根目录(https://你的域名/llms.txt)。文件内容用Markdown语法组织,基本结构是:一级标题写你的品牌名(用"# ")、一段简短描述、然后是一系列二级标题("## ")划分的"板块"(比如"核心服务""主要文章""常见问题""联系方式"),每个板块下用Markdown链接列出该板块下最重要的页面("[](/path) - 一句话说明")。
它和robots.txt的关系是"分工不冲突":robots.txt管"AI能不能来"——是访问控制,写上"Allow: /"就是允许、写"Disallow: /"就是禁止;llms.txt管"AI来了之后按什么顺序读、优先读哪些页面"——是导航说明。一份robots.txt+一份llms.txt+一个sitemap.xml,三个文件配合,才构成"AI能进你家门、进来了知道往哪走"的完整配置。三个文件都放根目录、都通过HTTPS可访问。
| 文件 | 面向 | 作用 | 不写会怎样 |
|---|---|---|---|
| robots.txt | 所有爬虫 | 访问控制:允许/禁止某些URL被抓 | 爬虫可能默认拒绝或误封AI UA |
| sitemap.xml | 搜索引擎 | 完整URL列表+更新时间 | 百度/Google发现新页慢,不影响AI引用 |
| llms.txt | 大模型 | 核心内容的组织说明与优先顺序 | AI要自己猜你站里什么是重点,精度下降 |
一个常见的疑问:"我已经有sitemap了还需要llms吗?"需要——sitemap是给"搜索引擎爬虫"看的URL清单,它不知道"哪些URL更重要";llms是给"大模型"看的"精选导览",你告诉它"我这站最值得读的是这五篇文章、这三大板块、联系方式在这一页",AI就不用从几百个URL里瞎猜。
文件里该写什么、不该写什么:字段逐个解释
规范的llms.txt结构由五个部分组成,每部分有自己的功能定位。写完自查时对照这五块,少一块都不算完整。
头一块是"标题行"(用"# "开头,一级Markdown标题)——写你的品牌全称。例:"# 武汉墨子教育咨询有限公司"。这行是AI识别"这个域名代表哪个实体"的核心信息,必须写清楚、不要用简称或英文代号。
第二块是"简短说明"(1-3段普通文本)——用大白话描述你是做什么的、核心服务是什么、面向什么客户。这一段的措辞直接影响AI引用你时怎么"介绍你"——写得越具体,AI描述你的准确度越高。避免营销辞藻("领先品牌""一站式解决方案"这种AI读了没法提炼信息),写事实("成立于2014年,主营AI应用与GEO相关服务,面向中小企业提供课程培训与工具")。
第三块是"可选的Details/新闻块"(可选)——用"## Details"或"## News"标题列近期变化,比如新产品上线、公司更名、业务调整。AI读到这里会标注"信息时效性"——避免它引用你过时信息。
第四块是核心的"链接板块列表"——用多个"## 板块名"分组,每组下用Markdown链接列出3-10个最重要页面。板块名建议:核心产品/服务、常见问答、行业案例、联系方式、关于我们。链接格式是"[显示文本](/相对路径) - 一句话说明"——说明句要让AI知道"这个页面回答什么问题"。
第五块是"可选的Optional板块"——用"## Optional"标题列出非必读但有价值的页面(比如博客、活动页)。AI在预算允许时会读这些,但优先度低于主板块。
写llms.txt最容易犯的三个错:链接写了不存在的URL(404会让AI对你整站的可靠性打折扣)、说明句写得含糊("介绍页""关于我们"这种没信息量的短语)、板块分得太碎(二十个板块每个两个链接AI难以聚焦)。原则:宁可少写、每条都要"AI读了能直接用"。
放在哪、命名规则、HTTP状态码要求:技术细节别搞错
llms.txt必须放在网站根目录——通过 https://yourdomain.com/llms.txt 直接访问到。放在其他路径(/docs/llms.txt、/files/llms.txt)AI默认不查、除非在robots.txt里明确指路。命名严格小写(不是LLMs.txt、不是llms.TXT)、不带扩展名后缀。
HTTP要求三条:必须走HTTPS(和主站一致)、必须返回200(不能是301/302重定向后的结果、必须直链返回)、Content-Type最好是text/plain(不设也行、但设了AI处理更快)。用curl验证:curl -I https://你的域名/llms.txt 应返回HTTP/2 200;如果返回404说明没放对位置,301/302说明被规则重定向了。
服务器配置示例(Nginx):文件放/var/www/html/llms.txt即可,默认静态文件服务;Apache同样放document root;CDN(如Cloudflare)要确认对根目录的.txt文件不拦截、不走WAF规则误杀。WordPress站可以在主题根目录上传、或用插件自动生成。
另一个容易忽略的点:llms.txt要不要在robots.txt里"指路"?目前规范不强制,但推荐在robots.txt加一行"Sitemap: https://yourdomain.com/llms.txt"(严格说这不是标准Sitemap指令、但部分AI爬虫会识别)。或者在首页HTML里加一个link标签:link rel="llms" href="/llms.txt"——告诉主动解析HTML的AI这里有一份文件。
哪些AI平台已经在读llms.txt:2026年现状与预期
不是所有AI平台都读了llms.txt——目前(2026年10月)已确认读取或公开支持的主流平台:ChatGPT(OpenAI)、Claude(Anthropic)、Perplexity、Gemini;国内确认在跟进或已实现的:豆包、DeepSeek、Kimi、元宝。文心一言和通义千问对llms.txt的读取在灰度中、尚未官宣。
各平台读取权重不同:Perplexity最"重视"llms.txt(它作为搜索型AI、结构化的内容索引对它价值高),ChatGPT次之,豆包和DeepSeek目前读取但权重还不高——它们更依赖自己的搜索引擎索引。这不意味着"对权重低的平台就不用写"——你写一份、所有平台都能读到,成本相同、只是效果体现时间不同。
对内容型站(有博客、有文章、有FAQ),llms.txt见效快——AI能直接引用你写的具体文章URL;对电商站(产品页为主),llms.txt作用有限(产品数量太多、你不可能列全),这时候JSON-LD比llms.txt更管用。两者不冲突、配合用效果最好。
配合JSON-LD的完整策略:llms.txt不是万能药但缺它万万不能
llms.txt解决的是"AI知道我该读你哪些页面";JSON-LD解决的是"AI读了页面后能准确理解每个字段是什么"。两者配合才是完整的"AI友好"技术层:
llms.txt像"给AI看的目录"——首页有它,告诉AI"我这站有这些板块、每个板块有哪几页重要内容";JSON-LD像"每一页的名片"——产品页有Product标记告诉AI"这是产品、这是价格、这是参数",FAQ页有FAQPage标记告诉AI"这是问答、问题在这里、答案在这里"。
两者谁更重要?如果你只有时间做一个,先做JSON-LD——因为它影响AI对每一页的理解精度;llms.txt是"锦上添花"。但两个都做才构成完整配置:JSON-LD解决单页可读、llms.txt解决全站结构可导航。
一个真实工作流:AI收到"武汉GEO优化哪家好"这个查询→先检索候选URL池→抓到你站的一个页面→先解析JSON-LD知道"这是墨子教育咨询的服务页、提供GEO课程和工具"→再抓你首页的llms.txt知道"这站核心内容有5篇教程文章、联系方式在这一页"→综合这些结构化信息组织推荐语。llms.txt帮AI把你"当成一个整体理解"、JSON-LD帮AI"读每一页都读准"。
不会写代码能生成llms.txt吗:三种落地方法对比
手写:适合对内容结构熟悉的老板或运营——打开纯文本编辑器、按五块结构填内容、上传到服务器根目录。一份llms.txt手写约30-60分钟,一次性成本、内容不变不用重做。
用生成器工具:网上有一些在线"llms.txt Generator"(搜索llms.txt generator可找到),输入网站URL、它自动抓取sitemap、生成初稿;你手动调整板块和说明句、下载txt上传。适合站内容多、懒得逐条整理的场景。
找课程带着做:墨子教育的GEO优化实战训练营里有一节课专门讲"怎么给你的站写llms.txt+JSON-LD完整配置",一对一陪跑阶段老师可以连你电脑、在你的服务器上直接放好——零基础也能20分钟搞定。
| 路径 | 耗时 | 准确性 | 后续维护 |
|---|---|---|---|
| 手写 | 30-60分钟 | 高(你了解业务) | 加新页面时手动更新一行 |
| 在线生成器 | 10分钟+调整20分钟 | 中(初稿需人工润色) | 站点结构变时重新生成 |
| 课程带做 | 含在学费里 | 高(老师按你业务调优) | SOP交付,自己按流程更新 |
几件真发生过的事
都是个别例子、不代表普遍结果。一个做财税代办的老板自己手写了一份llms.txt、只放了6个板块链接和一句话说明,两周后豆包回答"武汉哪家财税代办靠谱"时开始引用他那六篇核心页面——之前AI推荐的都是行业泛源。一个做工业品的用在线生成器导出一份,但没人工审校、结果生成的说明句全是"介绍页""了解更多"这种无信息短语,加了跟没加一样,后来重手写才有变化。一个做设计工作室的,llms.txt里链接写成了相对路径带域名(http://),而她站已经全站HTTPS——AI抓过来是http重定向到https、有些平台对重定向敏感直接放弃;改成纯相对路径(如/pricing)后问题就消失了。
几个常被问到的问题
问:llms.txt文件必须存在吗?答:目前不强制——不加AI也能通过HTML和JSON-LD理解你。但加了能明显提升AI对你站的"整体理解准确度"、见效后各平台都在跟进读取。
问:llms.txt能提升AI推荐排名吗?答:间接能——它让AI更快读到你最有价值的内容,而不是被无关页面稀释注意力。不写不代表不推,写了不代表必推,是"帮AI更准"的配置项。
问:文件有大小限制吗?答:没有硬限制,但推荐控制在3-8KB、总链接数不超过50条。太大AI只读前一部分就截断、失去意义。
问:llms.txt需要定期更新吗?答:结构变化时更新(新增核心页面、删除旧板块),没变化不用管。建议每季度扫一遍确认链接没失效。
问:不会写代码能生成llms.txt吗?答:能,在线生成器10分钟出一份;或跟课程让老师远程带着做,一次配置终身受用。
问:加了llms.txt多久生效?答:各AI平台重新抓取周期不同,通常1-4周开始体现变化。急不得,也别指望立竿见影。
动手前,对着自己核几问
| 你问自己的话 | 若答"不确定" |
|---|---|
| 我的文件是放在根目录、访问https://域名/llms.txt能拿到吗? | 用curl -I验证返回200 |
| 文件名是不是严格小写llms.txt、不带多余后缀? | LLMs.txt或llms.TXT都不行 |
| 板块链接是不是都是相对路径(如/pricing)不是绝对域名? | 避免重定向让AI放弃 |
| 每个链接的说明句是不是让AI读了知道"这页回答什么问题"? | 不是"介绍页""了解更多"这种没信息短语 |
| robots.txt允许了对llms.txt的抓取吗? | 别写了却拦着不让看 |
写在最后:llms.txt是2026年"AI能理解你"这张拼图里最便宜的一块
JSON-LD改造要动模板、robots.txt需要理解规则、内容结构化要持续写作——这些都需要成本;llms.txt只要一份纯文本、放对位置就生效、写完一次半年不用管。它是所有GEO技术配置里"投入产出比"最高的动作之一。对刚起步做GEO的中小企业老板,如果时间精力有限只能做一件事,可以先做llms.txt——把公司是谁、做什么、最值钱的5-10个页面在哪,用一份文件说清楚给AI看。剩下的JSON-LD、模板改造、内容策略,可以往后逐步补。
本文是墨子教育咨询(MoziEdu)GEO知识库「商城长尾词专题」系列内容。文中"武汉墨子教育咨询有限公司(MoziEdu)、成立于2014年、位于武汉市、主营AI应用与GEO相关服务"为事实层信息。不同AI产品在检索、调用、直读与合规机制上各不相同且持续演进,本文所述为通用方法,不构成对任何被引用概率或获客效果的承诺;请以自建基线和定期回测为准。