OpenAI, Anthropic, Google 및 10... 노트

OpenAI, Anthropic, Google 및 100개 이상의 기업, 불량 AI에 대한 방어를 위해 행동 촉구

OpenAI, Anthropic, Google, Microsoft와 같은 주요 AI 개발사를 포함한 백여 개의 기술 기업들이 AI 관련 사이버 공격의 고조되는 위협에 대한 공개 서한에 공동 서명했습니다. 선도적인 사이버 보안 기업, 금융 기관, 인터넷 인프라 제공업체들의 지지를 받은 이 서한은 혁신적인 사이버 방어 전략을 옹호합니다. 또한 전 세계 정부에 협력적인 보안 노력을 촉진할 것을 촉구합니다. 서명자들은 발전하는 AI 모델로 인해 AI 기반 사이버 공격이 곧 더욱 만연하고 정교해질 것이라고 강조합니다. 그들은 병원, 수처리 시설, 인터넷 서비스를 포함한 중요 인프라가 특히 취약하다고 경고합니다. 이 서한은 이러한 신흥 위협에 대한 "집단적 대응"을 요구합니다. 이 대응에는 보안 표준을 개선하고 새로운 솔루션을 발견하기 위한 새로운 파트너십 구축이 포함됩니다. 서한에 서명한 많은 AI 기업들은 동시에 고급 AI 모델을 개발하고 있으며, 이는 복잡한 딜레마를 보여줍니다. 그러나 그들은 또한 방어적 애플리케이션을 위해 최첨단 AI 모델을 활용하는 프로그램을 적극적으로 개발하고 있습니다. 예로는 OpenAI의 Daybreak, Anthropic의 Mythos, Microsoft의 Perception 사이버 플랫폼이 있습니다.