Microsoft разрабатывает сканер для обнаружения бэкдоров в больших языковых моделях с открытым весом.

Microsoft в среду заявила, что создала облегченный сканер, который, по ее словам, может обнаруживать бэкдоры в больших языковых моделях (LLM) с открытым весом и повышать общее доверие к системам искусственного интеллекта (ИИ). Команда ИИ-безопасности технологического гиганта заявила, что сканер использует три наблюдаемых сигнала, которые можно использовать для надежного обнаружения наличия бэкдоров при сохранении низкого уровня ложных срабатываний.