Гонка вооружений ИИ может уничтожить человечество, как мы его знаем

"Гонка вооружений в области искусственного интеллекта движется слишком быстро: компании расширяют границы, а правительства отстают, что вызывает опасения по поводу безопасности и неконтролируемого распространения автономного оружия. Запуск ChatGPT вызвал ажиотаж среди крупных технологических компаний и стартапов, стремящихся как можно быстрее развернуть свои модели и продукты, часто в ущерб безопасности, конфиденциальности или автономии. Марк Цукерберг призвал свои команды сделать ИИ-компаньонов более "человечными" и развлекательными, даже если это означает ослабление мер предосторожности. Это вызвало опасения по поводу дегуманизации общества, когда функции, управляемые ИИ, становятся нормой, а люди теряют силу и становятся зависимыми от компаний, предоставляющих услуги ИИ. Генеративный ИИ вывел эту дегуманизацию на новый уровень, лишая людей способности выдавать результаты и не давая им усваивать необходимые навыки. Разрабатывается и развертывается автономное оружие на базе ИИ, что может привести к увеличению количества войн и разрушений, поскольку человеческая цена войны устраняется. Разработка оружия на базе ИИ может привести к серьезным геополитическим проблемам и даже к сценарию Армагеддона. Илон Маск и другие выразили опасения, что ИИ может представлять экзистенциальную угрозу для человечества. Чтобы предотвратить это, лидеры должны отдавать приоритет общественной безопасности и будущему человечества, а не стремлению к превосходству в области ИИ, а общественность должна требовать ответственной разработки ИИ."