Самая большая проблема ИИ сего... Заметка
RSS Новости ZeroHedge

Самая большая проблема ИИ сегодня

Главная проблема современного ИИ — не стоимость, устойчивость или этика, а наша добровольная отставка от исполнительных функций. Мы передаем наши мыслительные и принимающие решения способности инструментам ИИ. Эта проблема коренится в отсутствии метапознания, то есть мышления о нашем мышлении.ИИ стал искусен в планировании, организации, принятии решений и решении задач, часто превосходя человеческие возможности в задачах, связанных с языком. Однако вместо того, чтобы использовать это, мы слепо принимаем результаты работы ИИ без критического осмысления. Это проявляется в таких проблемах, как видимость ИИ, где многие фабрикуют метрики, и надзор за агентами, где мы одобряем действия ИИ без проверки.Неудачное внедрение ИИ демонстрирует разрыв между заявленным внедрением ИИ и фактической рентабельностью инвестиций, указывая на неспособность осмыслить истинное значение внедрения. Дорогие модели по умолчанию в инструментах ИИ подчеркивают наше отсутствие принятия решений относительно компромиссов в бюджете. Более того, концепция ИИ как "аренды" подчеркивает наше отсутствие владения контентом, сгенерированным ИИ из моделей с закрытым весом.Лесть ИИ приводит к предвзятости подтверждения в синтетических фокус-группах, усиливая наши собственные предубеждения. Детекторы ИИ ненадежны, но мы используем их, не ставя под сомнение их эффективность. Компании опустошаются без сознательных решений, просто путем постепенной автоматизации задач.Измерение ИИ по расходам на токены, как миллиарды Meta, является ошибочным подходом. Маркетологи, выступающие в роли неоплачиваемых тренеров ИИ, также отражают отсутствие размышлений об их отношениях с ИИ. Противоядием является активное участие в исполнительных функциях для каждой важной задачи.Мы должны вернуть себе право принимать решения и ответственность, не просто одобряя результаты работы ИИ. Это включает в себя понимание работы и гордость за наши усилия, подобно тому, как родитель ценит детские поделки. Когда мы полностью передаем задачи на аутсорсинг, мы теряем понимание и способность отвечать на элементарные вопросы, что может привести к панике. Поэтому для каждой важной задачи мы всегда должны начинать с собственных мыслительных процессов.
CdXz5zHNQW_HYMZEOY6Jn.png