Search Engine Roundtable на русском
Подписаться
Google устанавливает правила robots.txt для ИИ-краулеров, эмодзи, международных URL и многого другого
Гэри Иллиес и Шери Проммавин выпустили второе видео из серии "Неканонический кабинет"; оно называется "Что на самом деле можно поместить в robots.txt?". Здесь они обсуждают, что поддерживается, а что нет в файлах robots.txt. И хотя Google может поддерживать функции или директивы, другие поисковые системы или ИИ-краулеры могут этого не делать.