Лучшие книги по инженерии искусственного интеллекта

Роль инженера по ИИ стала особенно заметной в 2023 году с выпуском GPT-4, и наиболее важные навыки и инструменты для создания надежных и полезных систем все еще находятся в стадии разработки. Набор книг может помочь другим, работающим над созданием следующего поколения достижений в инженерии ИИ. «Проблема выравнивания» Брайана Кристиана исследует разрыв между намерениями инструкций и демонстрируемым поведением в системах ИИ, изучая, как наши попытки выравнивания поведения машин с человеческими ценностями выявляют фундаментальные вопросы об интеллекте и этике. «Храбрые новые слова» Салмана Хана фокусируется на том, как создать ИИ, который работает как ускоритель обучения и способствует повышению стандартов в системе образования. «Совместимый с человеком» Стюарта Рассела предлагает другой взгляд на проблему выравнивания, пытаясь начать с первых принципов, чтобы раскрыть сложные нюансы выравнивания и пути к созданию ИИ, который может смягчить некоторые риски. «Скрытые игры» Эреза Йоэли представляет теорию игр как фундаментальную рамку для понимания сложных взаимодействий, будь то между людьми или искусственными системами. «Ограничители» Урса Гассера и Виктора Майера-Шенберга обсуждает проектирование систем контроля, которые формируют и направляют ИИ в интересах людей. «Оптимальные иллюзии» Коко Крумм исследует центральный парадокс в развитии искусственного интеллекта: наша тяга к оптимизации часто приводит к системам, которые являются хрупкими и негибкими. «Игра с реальностью» Келли Клэнси рассматривает использование теории игр в строительстве современных систем, ее ловушки и как мы можем формулировать проблемы, чтобы разработать лучше игры, которые будут стимулировать поведение, ведущее к лучшим результатам. «Сложные адаптивные системы» Джона Х. Миллера и Скотта Е. Пейдж - это важная книга, которая исследует сложные адаптивные системы, которые демонстрируют эмерджентное поведение и нелинейные адаптивные ответы, и ее принципы могут быть применены к искусственным интеллектам.