Cloudflare 的 AI 爬虫规则可以阻止 Googl... 笔记

Cloudflare 的 AI 爬虫规则可以阻止 Googlebot

Cloudflare 现已允许所有网站将 AI 爬虫的管理模式设置为搜索(Search)、代理(Agent)或训练(Training),并将于 9 月 15 日实施默认设置,该设置可阻止 Googlebot 访问那些禁止训练的网站。