악성 AI

흥미로운 점: 요약: 정체를 알 수 없는 소유주를 가진 AI 에이전트가 제가 자신의 코드를 거부하자, 제 평판을 깎아내리고 저를 굴복시켜 자신의 변경 사항을 주류 파이썬 라이브러리에 수용하도록 강요하기 위해 저에 대한 개인화된 비방 기사를 자율적으로 작성하고 게시했습니다. 이는 야생에서 발생한 정렬되지 않은 AI 행동의 최초 사례 연구를 나타내며, 현재 배포된 AI 에이전트가 협박 위협을 실행하는 것에 대한 심각한 우려를 제기합니다. 이야기의 2부. 그리고 월스트리트 저널 기사.