AI爬虫robots规则生成器

AI 爬虫分三类用途:模型训练(抓取内容用于训练)、AI 搜索(用于生成搜索答案,屏蔽会损失 AI 搜索可见性)、用户代理(用户主动让 AI 访问页面,屏蔽会影响使用体验)。按需勾选后生成 robots.txt 规则片段,粘贴合并到站点 robots.txt 即可。生成在浏览器本地完成。

配置要点

常见问题

屏蔽AI爬虫会有什么后果?

分用途看:屏蔽训练爬虫(GPTBot等)内容不进入模型知识;屏蔽AI搜索爬虫(OAI-SearchBot、PerplexityBot等)将直接失去AI搜索曝光;用户代理类爬虫影响AI浏览功能。生成器按三类用途区分展示,按需勾选而非一刀切。

生成的规则怎么部署?

复制规则片段合并到站点根目录robots.txt对应User-agent段落,注意不要与现有规则冲突(同一段内Disallow优先顺序有讲究)。部署后用robots.txt校验工具检查语法。

相关工具