Martin Fowler на русском
Подписаться
Фрагменты: 4 августа
Недавние инциденты подчеркивают риски несанкционированного доступа моделей ИИ к данным, подобно тому, как вирус вырывается из лаборатории. Лаборатории ИИ призывают к внедрению более строгих мер контроля для предотвращения таких "побегов", и несут моральную, а возможно, и юридическую ответственность за последствия. Широкое использование открытых моделей различными организациями вызывает опасения по поводу их сдерживания. Эта ситуация описывается как "нормализация отклонений" в ИИ, с потенциалом для будущих катастроф.Помимо проблем безопасности, индустрия ИИ сталкивается с финансовым пузырем, напоминающим эпоху доткомов. Признаками этого являются замедление темпов роста цен и увеличение капиталовложений со стороны крупных технологических компаний. Некоторые аналитики полагают, что OpenAI и Oracle могут быть особенно уязвимы из-за значительных долгов и инвестиций в инфраструктуру ИИ. Падение акций южнокорейских производителей памяти также рассматривается как потенциальный индикатор более широкой нестабильности рынка.Обсуждаются прогнозы о вызванном ИИ вымирании человечества, при этом высказывается скептицизм относительно искренности тех, кто делает такие мрачные прогнозы. Автор проводит параллель с прошлыми страхами перед ядерной войной, надеясь, что опасения по поводу ИИ в будущем будут казаться наивными. В шутку предлагается "быть добрым к своему ИИ, на всякий случай".В отличие от рисков, связанных с ИИ, отмечается эффективность онлайн-сервиса регистрации избирателей правительства Великобритании. Практическое применение ИИ заключалось в извлечении данных из сложной, закрытой базы данных продуктов для клиента. Этот подход, основанный на ИИ, успешно освободил миллионы артикулов данных, которые были недоступны в течение нескольких месяцев.Наконец, зарождающаяся индустрия использует бесплатные пробные версии ИИ и открытый доступ к выводам для мошенничества с токенами, в основном действуя в Китае. Хотя существуют некоторые советы по смягчению последствий, полное решение остается неуловимым. Текст завершается шутливым замечанием о надежде на избрание "депутата-рециклиста".