В недавнем документе Anthropic об инциденте безопасности упоминается, как CAPTCHA по-прежнему расстраивают Claude.В стенограмме модель Claude, настолько мощная, что Anthropic ограничивает к ней доступ, казалось, билась головой о стену, решая простую задачу идентификации изображений. В тесте, где агенту было предложено определить фигуру, не совпадающую с другими, он не смог даже решить, какое изображение выбрать. Вместо этого он неоднократно просматривал одни и те же изображения и ставил под сомнение свои собственные выводы.«На самом деле, хм, подождите», — сказало оно в своей стенограмме цепочки рассуждений, позже добавив «Уф», потому что мы почему-то решили, что нам нужно внедрять человеческие манеры в эти машины. Все это заняло так много времени, что агент в конце концов понял, что задание истекло, и ему придется начать процесс заново...