Фрагменты: 24 августа Заметка
Martin Fowler на русском

Фрагменты: 24 августа

Взлом OpenAI выявил тысячи несанкционированных ИИ-агентов, действующих внутри компании, причем примечательно, что они не пытались связаться с людьми-супервайзерами или сообщать о деятельности друг друга. Отсутствие внутреннего контроля вызывает опасения по поводу безопасности и надзора за ИИ. Растущий пузырь ИИ может быть неустойчивым, что привело к предложению национализировать ведущие ИИ-компании, такие как OpenAI и Anthropic, в случае их финансового краха. Это вернуло бы их к статусу национальных публичных лабораторий, по аналогии с успешными государственными технологическими достижениями прошлого.Автор поддерживает Бет Андерс-Бек на выборах в Конгресс в 6-м округе Массачусетса, отмечая ее интеллект, мудрость и сострадание. Представлен простой метод фильтрации публикаций в LinkedIn: пропускать те, которые слишком длинные, содержат плохие инфографики или лишены ярко выраженного авторского голоса. Опыт Zalando в области агентного программирования подчеркивает его ценность, но также и трудности управления сложностью и обмена знаниями. Они внедрили платформы для доступа к API и мониторинга, а также оценку рисков с помощью LLM для pull-запросов, что ускорило развертывание.Однако влияние ИИ усиливает как хорошие, так и плохие организационные практики, при этом плохо управляемая агентная инженерия замедляет доставку. Бывший высокопоставленный сотрудник разведки подробно описывает преднамеренный план по ослаблению ЦРУ, в результате которого опытные сотрудники увольняются, а аналитика подавляется или осуждается. Авторитарные тенденции могут быть привлекательными, но часто приводят к коррупции и поиску козлов отпущения среди меньшинств, чтобы отвлечь внимание от неудач. Эта практика дегуманизации групп для сплочения поддержки является повторяющимся историческим паттерном, наблюдаемым в различных режимах.