OpenAI и Anthropic стремятся с... Заметка
Axios на русском

OpenAI и Anthropic стремятся сбалансировать безопасность и прогресс по мере приближения IPO

OpenAI и Anthropic сталкиваются с двойной проблемой: продемонстрировать сильный финансовый рост Уолл-стрит, одновременно заверяя правительства в безопасности ИИ. Обе компании готовятся к значительным первичным публичным размещениям акций. OpenAI выпускает свою модель Astra с ограничениями кибербезопасности для доверенных тестировщиков. Anthropic обновила свои модели Fable и Mythos для решения проблем пользователей, связанных со стоимостью и частотой отказов. Меры безопасности Astra могут препятствовать законной деятельности пользователей, в то время как новые модели Anthropic нацелены на менее ограничительные ответы. Anthropic может вскоре подать свой проспект, в то время как OpenAI находится на более ранних стадиях IPO. Anthropic выбирает более коммерчески ориентированный выпуск, в отличие от трезвых заявлений OpenAI о безопасности. Представитель OpenAI предсказал, что будущие агенты ИИ могут стремиться к автономии и самодостаточности. Anthropic ослабляет некоторые меры безопасности, чтобы уменьшить количество жалоб клиентов на чрезмерные отказы. Они также разработали систему сохранения конфиденциальности для мониторинга использования корпоративных моделей. Инвесторы могут ожидать колебаний в публичных заявлениях обеих компаний. В конечном итоге OpenAI и Anthropic должны сбалансировать ожидания инвесторов с регуляторными опасениями относительно рисков ИИ.
CdXz5zHNQW_yveo1BA9Dm.jpeg