사고 발생 시의 압박감과 잠재적 위험을 고려할 때, 안전한 AI 사고 대응 조종사(copilot)를 설계하려면 보안 우선 접근 방식이 필요합니다. 이러한 조종사는 자율적인 지휘관이나 진실의 원천이 되어서는 안 되며, 승인된 사실에 기반하여 커뮤니케이션 초안을 작성하는 도구가 되어야 합니다. 연구에 따르면 AI 시스템은 조작될 수 있으므로, 사고 책임자로부터 검증된 사실만 받아들이고 인간의 검토를 요구하는 등 초기 범위를 좁게 설정하는 것이 중요합니다. 조종사의 역할은 장애를 진단하거나 근본 원인을 파악하는 것이 아니라 커뮤니케이션 초안을 작성하는 것입니다.정확한 직무 설명은 운영상의 결정을 내리는 것이 아니라 승인된 사실을 고정된 커뮤니케이션 형식으로 구성하는 데 중점을 둡니다. 여기에는 필수적이고 공유 가능한 정보를 캡처하는 간단한 사고 브리핑 양식이 포함됩니다. 보조 도구는 헤드라인, 현재 업데이트, 고객 조치, 다음 업데이트와 같은 특정 섹션이 있는 예측 가능한 초안을 생성해야 합니다. 추측성 또는 승인되지 않은 정보의 포함을 방지하기 위해 콘텐츠 규칙이 중요합니다.게시 전에 5단계 검토 게이트가 필요하며, 이는 사실적 근거, 데이터 민감성, 대상 적절성, 올바른 조치/타이밍, 인간의 승인을 보장합니다. 검증되지 않은 채팅 메시지나 문서와 같은 신뢰할 수 없는 콘텐츠는 오해의 소지가 있거나 민감한 정보가 포함되는 것을 방지하기 위해 초안 작성 경로에서 제외해야 합니다. 생성과 게시의 분리가 중요합니다. 조종사는 초안만 생성해야 하며, 최종 게시 프로세스는 인간이 통제해야 합니다.조종사를 운영 시스템과 통합하기 전에 다양한 이해 관계자가 참여하는 철저한 위협 모델 워크숍이 필수적입니다. 여기에는 데이터 흐름, 금지된 콘텐츠, 사용자 조작 및 책임에 대한 중요한 질문이 포함됩니다. 정의된 사고 시나리오를 통해 조종사의 품질을 평가하고 운영 결과를 측정하면 포괄적인 평가를 제공할 수 있습니다. GCC 배포의 경우, 효과적인 사고 커뮤니케이션을 위해 지역 대상과 분산된 팀을 고려하는 것이 중요합니다.