Гэри Маркус в программе "Эта н... Заметка

Гэри Маркус в программе "Эта неделя в драме ИИ"

OpenAI обвиняют в обмане на математическом конкурсе, связанном с проблемой Навье-Стокса. Сообщается, что компания потратила на вычисления значительно больше, чем предлагалось в качестве призовых денег. Есть подозрения, что OpenAI могла использовать или обучаться на работах математиков, также участвовавших в конкурсе. Это вызывает опасения по поводу возможной кражи интеллектуальной собственности OpenAI у пользователей их моделей, таких как Codex и ChatGPT.Тем временем Anthropic сталкивается с внутренними разногласиями из-за публичной отставки сотрудника. Сотрудник выразил обеспокоенность по поводу растущей безрассудности компании в отношении разработки искусственного интеллекта. Несмотря на это, нынешний исследователь Anthropic согласен с оценкой бывшего сотрудника. Этот исследователь считает, что существует значительная вероятность того, что ИИ может представлять экзистенциальную угрозу человечеству в течение следующего десятилетия. Он признает, что у Anthropic нет четкого плана по обеспечению согласованности сверхинтеллекта.Автор критикует такой уровень тревоги как необоснованный, даже если риски, связанные с ИИ, реальны. Он утверждает, что такой язык предполагает, что Anthropic действует скорее как культ, чем как рациональная организация. Автор считает, что бывшие сотрудники, покидающие такие группы, могут по-прежнему демонстрировать мышление, похожее на культовое.