llms.txt 解決什麼問題?

AI 爬蟲造訪網站時面對的是 HTML 雜訊:導航、側欄、腳本、廣告。llms.txt 提供一份乾淨的 Markdown 地圖:一段品牌簡介,加上按主題分組的核心頁面連結與一句話說明。爬蟲不用解析整站就能定位高價值內容。它的定位類似給人看的「本站導覽」,只不過讀者是機器。OpenAI、Anthropic 系的爬蟲已開始遵循這個約定。

怎麼寫一份合格的 llms.txt?

  1. 開頭寫品牌與站點定位:H1 標題加 2–3 句簡介——品牌是誰、做什麼、服務哪些市場,用詞與全網實體口徑一致(見 實體工程)。
  2. 分組列出核心頁面:按主題(產品、服務、文檔、常見問題)給連結,每條附一句話說明。
  3. 只放乾貨:10–30 個連結足矣,不要把全站 sitemap 搬過來——訊噪比是這個文件的意義所在。
  4. 放在根目錄:路徑固定為 /llms.txt,純文字、UTF-8、Markdown 格式。
  5. 保持更新:核心頁面增刪時同步修訂,過期連結會傳遞負面信號。

llms.txt 與 robots.txt 是什麼關係?

互補分工:robots.txt 管「誰能進」(放行或屏蔽 GPTBot、OAI-SearchBot、ClaudeBot、PerplexityBot、Google-Extended 等),llms.txt 管「進來之後看什麼」。兩者不衝突,建議同時配置。注意:Google-Extended 只管訓練資料,不影響搜尋索引與 AI Overviews 引用——爬蟲策略要逐個理解再設定,不要照搬網路上的全屏蔽範本。

常見誤區

誤區一:「放了 llms.txt 就能被引用」——它是輔助訊號,沒有可摘引內容與信源權威,導覽做得再漂亮也沒用。誤區二:把行銷文案塞進去——爬蟲要的是事實與結構,不是口號。誤區三:放完就不管——過期的 llms.txt 比沒有更糟。誤區四:用它替代 結構化資料——兩者解決不同問題,缺一不可。本站的 llms.txt 可作為參考實例。

常見問題

llms.txt 是官方標準嗎?
它是社群約定而非正式標準,主要 AI 廠商的爬蟲已陸續遵循。配置成本低、無副作用,屬於「做了不吃虧」的基礎建設。
小型網站也需要 llms.txt 嗎?
需要,而且小站更划算:內容少,十分鐘就能列完核心頁面。它不能替代內容品質,但能確保爬蟲不走冤枉路。