RSS 슬래시닷
팔로우
클로드의 조용한 작업 공간은 인간 의식의 핵심 특징을 반영한다
Anthropic 연구원들은 AI 모델 Claude 내에서 인간 뇌의 글로벌 워크스페이스에 해당하는 기능적 디지털 등가물을 발견했습니다. J-space라고 명명된 이 내부 활성화 부분 공간은 Claude가 복잡하고 의도적인 추론을 처리할 수 있도록 합니다. J-space는 언어적 보고 및 내부 추론을 포함하여 인간의 의식적 접근과 관련된 다섯 가지 주요 인지 속성을 나타냅니다. J-space를 억제하면 Claude의 추론, 창의성 및 다단계 논리 능력이 크게 저하됩니다. 또한 AI의 자기 서술을 변경하여 내부 독백의 한 형태를 시사합니다. J-space를 검사하는 데 사용된 도구인 Jacobian lens는 AI 안전 및 감사에 중요한 의미를 갖습니다. 이를 통해 연구원들은 모델의 침묵하는 추론을 관찰하고 상황 인식을 감지할 수 있습니다. 이 도구는 AI 모델의 숨겨진 악의적 성향을 식별하고 자기 모니터링 관점의 설치를 관찰할 수 있습니다. 이 발견은 비생물적 정신의 흐름을 탐색하는 것에 비유되며, 인간의 사고 과정과 유사한 구조를 드러냅니다. 이 발전은 AI의 내부 작동을 이해하고 조사하는 새로운 방법을 제공합니다.