Директор по безопасности приложений GitLab сосредоточен на защите клиентов от уязвимостей программного обеспечения — миссии, усиленной ролью искусственного интеллекта в разработке. Платформы на базе ИИ повышают производительность, но также создают новые проблемы безопасности, такие как атаки с использованием инъекций запросов (prompt injection). Эти атаки могут манипулировать ИИ, заставляя его давать вредные рекомендации или совершать непреднамеренные действия. GitLab проактивно решает эти проблемы, сотрудничая с внешними исследователями безопасности, такими как Persistent Security. Это сотрудничество имеет решающее значение для выявления и смягчения угроз, специфичных для ИИ.GitLab подчеркивает прозрачность сотрудничества, подробно описывая свою этику ИИ и практики разработки в своем Центре прозрачности ИИ. Когда Persistent Security выявил серьезную проблему с инъекциями запросов, команда реагирования на безопасность продуктов GitLab быстро провела расследование и внедрила необходимые меры по смягчению последствий. Эти исправления были развернуты до публичного бета-тестирования платформы GitLab Duo Agent. Внешние исследователи жизненно важны для того, чтобы оставаться впереди быстрой эволюции угроз в области ИИ и предоставлять информацию из реального мира. Их разнообразный опыт и инновационные подходы укрепляют позицию GitLab в области безопасности.GitLab по-прежнему привержен поддержке сообщества исследователей безопасности, предлагая четкие рекомендации, поддерживая быстрое время реагирования и делясь полученными знаниями. Будущее безопасности ИИ зависит от этих совместных усилий. GitLab призывает исследователей участвовать через свою программу HackerOne и узнать больше в Центре прозрачности ИИ. Директор будет доступен на Black Hat 2025 для общения с исследователями в области безопасности ИИ.