InfoQ 한국어
팔로우
프레젠테이션: 블랙박스 열기: Kiji Inspector를 이용한 AI 에이전트 도구 선택을 위한 비판적 설명 가능성
하네스 하프케는 Dataiku의 오픈 소스 Kiji Inspector가 의사 결정 토큰에 희소 오토인코더(SAE)를 직접 적용하여 에이전트가 특정 도구를 선택하는 이유를 어떻게 밝히는지 공유합니다. 피상적인 연쇄적 사고 서술을 넘어, 그는 소프트웨어 아키텍트 및 선임 엔지니어링 리더를 위한 인과적 제거, 패치된 vLLM 엔진을 통한 레이어 활성화 추출, 그리고 프로덕션 모니터링 워크플로우에 대해 논의합니다. 하네스 하프케 작성