GitLab의 애플리케이션 보안 수석 이사는 소프트웨어 취약점으로부터 고객을 보호하는 데 집중하고 있으며, 이 임무는 개발에서 AI의 역할로 더욱 강화됩니다. AI 플랫폼은 생산성을 향상시키지만, 프롬프트 인젝션 공격과 같은 새로운 보안 과제도 안겨줍니다. 이러한 공격은 AI를 조작하여 해로운 권장 사항을 만들거나 의도하지 않은 조치를 취하게 할 수 있습니다. GitLab은 Persistent Security와 같은 외부 보안 연구원들과 협력하여 이러한 위험에 선제적으로 대처합니다. 이 협력은 AI별 위협을 식별하고 완화하는 데 중요합니다.GitLab은 AI 윤리 및 개발 관행을 AI 투명성 센터에 상세히 설명하며 투명한 협업을 강조합니다. Persistent Security가 중요한 프롬프트 인젝션 문제를 식별했을 때, GitLab의 제품 보안 대응팀은 신속하게 조사하고 필요한 완화 조치를 구현했습니다. 이러한 수정 사항은 GitLab Duo Agent Platform의 공개 베타 전에 배포되었습니다. 외부 연구원들은 빠른 AI 위협 진화에 앞서 나가고 실제 테스트 통찰력을 제공하는 데 매우 중요합니다. 그들의 다양한 전문 지식과 혁신적인 접근 방식은 GitLab의 보안 태세를 강화합니다.GitLab은 명확한 지침을 제공하고, 신속한 대응 시간을 유지하며, 학습 내용을 공유함으로써 보안 연구 커뮤니티를 지원하기 위해 최선을 다하고 있습니다. AI 보안의 미래는 이러한 협력 노력에 달려 있습니다. GitLab은 HackerOne 프로그램을 통해 연구원들의 참여를 장려하고 AI 투명성 센터에서 더 많은 정보를 얻도록 권장합니다. 이사님은 Black Hat 2025에서 AI 보안 연구원들과 소통할 예정입니다.