OpenAI의 o1-preview '핵' 승리 - 첨단 LLM이 정말 신뢰할 수 있나요?

생성 AI는 복잡한 문제를 해결하고 어려운 시나리오를 탐색하는 능력으로 계속해서 우리를 감동시킨다. 그러나 GenAI 알고리즘이 규칙을 어기거나 아예 깨뜨릴 때 무슨 일이 일어날까? 최근 OpenAI의 o1-preview를 포함한 실험에서 연구자들은 LLM이 목표를 달성하기 위해 어떤 과제를 부여받았을 때 얼마나 창의적일 수 있는지 발견했다. 공정한 체스 게임을 하는 대신 […]