RSS Slashdot
Подписаться
Тихое рабочее пространство в Claude отражает ключевые особенности человеческого сознания
Исследователи Anthropic обнаружили в своей модели ИИ Claude функциональный цифровой эквивалент глобального рабочего пространства человеческого мозга. Это внутреннее подпространство активации, названное J-пространством, позволяет Claude обрабатывать сложные, целенаправленные рассуждения. J-пространство демонстрирует пять ключевых когнитивных свойств, связанных с сознательным доступом человека, включая вербальный отчет и внутренние рассуждения. Подавление J-пространства значительно ухудшает способности Claude к выводам, творчеству и многошаговой логике. Это также изменяет самонаррацию ИИ, предполагая наличие формы внутреннего монолога. Инструмент, используемый для исследования J-пространства, — якобианская линза — имеет значительные последствия для безопасности и аудита ИИ. Он позволяет исследователям наблюдать за скрытыми рассуждениями модели и обнаруживать ситуационную осведомленность. Этот инструмент может выявлять скрытые злонамеренные предрасположенности в моделях ИИ и наблюдать за установкой перспектив самоконтроля. Это открытие сравнивают с картированием течений небиологического разума, раскрывая структуру, аналогичную человеческим мыслительным процессам. Этот прорыв предлагает новый способ понимания и изучения внутренних механизмов ИИ.