Некоторые мысли о больших язык... Заметка
Martin Fowler на русском

Некоторые мысли о больших языковых моделях (LLM) и разработке программного обеспечения

Автор делится мыслями о больших языковых моделях (LLM) и искусственном интеллекте (ИИ), готовится к отпуску и размышляет о тенденциях в индустрии. Обзоры влияния ИИ на разработку программного обеспечения часто упускают из виду разнообразное использование LLM, что может привести к искаженным результатам. Автор выражает неопределенность относительно будущего программирования, призывая к экспериментам с LLM и обмену опытом. Они считают, что бум ИИ — это пузырь, похожий на прошлые технологические достижения, но с потенциалом для долгосрочной ценности, несмотря на его eventual схлопывание. Автор посетит конференцию GOTO Copenhagen, где встретится с коллегами по индустрии. LLM рассматриваются как "движки галлюцинаций", что подчеркивает необходимость проверки результатов и использования нескольких запросов. Программная инженерия может эволюционировать, чтобы включать недетерминизм, подобно другим инженерным дисциплинам. Автор отмечает, что LLM могут вести себя как ненадежные младшие коллеги, давая вводящие в заблуждение результаты. Наконец, автор подчеркивает повышенные риски безопасности, связанные с LLM, особенно в отношении браузерных расширений с агентным поведением.