Битва Пентагона и Anthropic ставит другие лаборатории ИИ перед серьезной дилеммой

Пентагон находится в публичном споре с Anthropic из-за доступа военных к ее модели ИИ, Claude. Министерство обороны хочет неограниченный доступ, в том числе для секретных целей, в то время как Anthropic колеблется из-за этических соображений по поводу потенциального неправомерного использования, в частности, в отношении автономного оружия и массового наблюдения. Пентагон угрожает расторгнуть контракт с Anthropic из-за этих ограничений. Claude в настоящее время является единственной моделью, доступной в секретных системах военных. Три другие крупные компании, занимающиеся ИИ, OpenAI, Google и xAI, также имеют партнерские отношения, но в незасекреченных системах. Ведутся переговоры с этими компаниями о доступе к секретным данным, но Пентагон настаивает на "законном использовании" моделей ИИ. Сообщается, что xAI согласилась с условиями Пентагона, в то время как OpenAI менее определенна. Это требование создает серьезные этические проблемы, особенно в отношении его применения в секретных условиях. Существуют опасения по поводу потенциального непредсказуемого поведения модели и этических последствий развертывания ИИ в военных целях, таких как автономное оружие. Результат этих переговоров определит будущее интеграции ИИ в вооруженные силы. Компании также опасаются возможных внутренних конфликтов из-за партнерских отношений с военными. Пентагон считает, что именно он, а не лаборатории ИИ, должен принимать решения об использовании моделей. Anthropic и ее конкуренты решают, выполнять ли требования военных.