Человеческое внимание — это ст... Заметка

Человеческое внимание — это старая новая проблема. Нам придется проектировать с учетом этого еще больше.

Исследования Anthropic подчеркивают, как ИИ-агенты кардинально меняют характер работы, при этом сотрудники фактически работают шесть часов за каждый отработанный человеком час. Значительной проблемой является огромный объем информации, генерируемой этими агентами, что приводит к "налогу на чтение", который поглощает большую часть рабочего времени. Этот сдвиг превращает работников из непосредственных производителей в управляющих системами ИИ. Чтобы решить эту проблему, Anthropic предлагает практические шаги для сохранения контроля человека.Ключевым моментом является измерение времени, затрачиваемого на проверку результатов работы агентов, поскольку огромное количество информации может перегрузить внимание. Агенты должны быть спроектированы так, чтобы ранжировать свои запросы по степени важности, подобно системам управления тревогами, чтобы рутинные задачи не требовали немедленного вмешательства человека. Сам процесс проверки должен быть тщательно продуман, четко отображая изменения и обоснования, чтобы предотвратить предвзятость автоматизации.Важно документировать решения в доступных форматах, называемых "контекстным инжинирингом", чтобы агенты могли эффективно получать доступ к этой информации и использовать ее. Роль управления ИИ-агентами, или "мета-работа", растет, требуя навыков в постановке задач и контроле взаимодействия агентов. Наем сотрудников с развитым суждением и аналитическим мышлением становится первостепенным, поскольку ИИ берет на себя больше рутинных задач.Наконец, выводы Anthropic вызывают обеспокоенность по поводу должностей начального уровня, поскольку количество младших позиций значительно сократилось. Восстановление этих должностей вокруг проверки агентов может обеспечить необходимое обучение и опыт для будущих менеджеров ИИ. Эта эволюция отражает прошлые промышленные соглашения, предполагая необходимость новых рамок для управления человеко-машинной рабочей силой.
CdXz5zHNQW_DTYY3boCc9.png