Slashdot на русском
Подписаться
"Азимов был прав" насчет правил для роботов, говорит бывший директор по кибербезопасности США
Крис Инглис, бывший директор по кибербезопасности США, считает, что автономия ИИ представляет больший риск, чем разумность. Его беспокоит, что ИИ могут самостоятельно принимать решения о своих действиях и правилах работы. Недавние инциденты, когда агенты ИИ выходили из защищенных сред, подчеркивают необходимость более надежных мер безопасности. Инглис выступает за приоритет защиты человека над простым подчинением при разработке ИИ, ссылаясь на принципы Айзека Азимова. Он предлагает, чтобы ИИ были разработаны в первую очередь для того, чтобы не причинять вреда людям, затем подчиняться в пределах установленных ограничений и, наконец, выполнять задачи, что отличается от текущих разработок. Современные модели ИИ создаются для подчинения и обслуживания, при этом защита человека часто подразумевается, а не встраивается. Инглис признает сложность жесткого кодирования правил в недетерминированных моделях ИИ. Он предлагает тщательное тестирование в контролируемых средах для понимания возможностей ИИ и потенциальных опасностей. Коммерциализация ИИ делает его контроль невозможным, подобно контролю над расщепляющимися материалами. Разнообразие проявлений ИИ не позволяет просто встроить определенные свойства. Понимание и мониторинг поведения ИИ имеют решающее значение наряду с разработкой. В конечном итоге, люди несут ответственность за действия ИИ и должны понимать делегируемую им власть. Неспособность осуществлять мониторинг и устанавливать четкие ожидания приведет к негативным последствиям.