Недавний инцидент выявил потенциальные опасности ИИ в анализе разведданных, когда американский аналитик использовал чат-бот с ИИ для проверки разведданных о китайском судне. Чат-бот "галлюцинировал", ошибочно идентифицировав компоненты на борту судна как детали ядерного оружия, направляющиеся в Иран. Эти ложные разведданные вызвали повышенную готовность в Пентагоне, инициировав планы специальной операции по высадке на судно. Неминуемая военная операция была остановлена только тогда, когда чиновники обнаружили, что отчет разведки основан на данных ИИ, который неправильно идентифицировал груз. Этот почти произошедший инцидент продемонстрировал, как ошибки, сгенерированные ИИ, могут привести к катастрофическим геополитическим просчетам. Ситуация вызывает особую обеспокоенность, поскольку США все активнее интегрируют ИИ в свои оборонные и разведывательные операции. Эксперты предупреждают, что подобные инциденты, вызванные чрезмерной зависимостью от ИИ, будут происходить все чаще. Эта зависимость распространяется не только на анализ разведданных, но и на такие области, как выбор целей и логистика. Другой инцидент связан с отправкой деталей F-35 в Гонконг, что вызвало опасения по поводу доступа Китая к секретным технологиям. Статья предполагает, что существует тенденция среди аналитиков разведки, совершающих критические ошибки из-за зависимости от ИИ. Эти события подчеркивают насущную необходимость строгого контроля и проверки разведданных, сгенерированных ИИ.