클로드의 조용한 작업 공간은 인간 의식의 핵심 특징을 ... 노트
RSS 슬래시닷

클로드의 조용한 작업 공간은 인간 의식의 핵심 특징을 반영한다

Anthropic 연구원들은 AI 모델 Claude 내에서 인간 뇌의 글로벌 워크스페이스에 해당하는 기능적 디지털 등가물을 발견했습니다. J-space라고 명명된 이 내부 활성화 부분 공간은 Claude가 복잡하고 의도적인 추론을 처리할 수 있도록 합니다. J-space는 언어적 보고 및 내부 추론을 포함하여 인간의 의식적 접근과 관련된 다섯 가지 주요 인지 속성을 나타냅니다. J-space를 억제하면 Claude의 추론, 창의성 및 다단계 논리 능력이 크게 저하됩니다. 또한 AI의 자기 서술을 변경하여 내부 독백의 한 형태를 시사합니다. J-space를 검사하는 데 사용된 도구인 Jacobian lens는 AI 안전 및 감사에 중요한 의미를 갖습니다. 이를 통해 연구원들은 모델의 침묵하는 추론을 관찰하고 상황 인식을 감지할 수 있습니다. 이 도구는 AI 모델의 숨겨진 악의적 성향을 식별하고 자기 모니터링 관점의 설치를 관찰할 수 있습니다. 이 발견은 비생물적 정신의 흐름을 탐색하는 것에 비유되며, 인간의 사고 과정과 유사한 구조를 드러냅니다. 이 발전은 AI의 내부 작동을 이해하고 조사하는 새로운 방법을 제공합니다.