Google удаляет модели Gemma из AI Studio после жалобы сенатора-республиканца

Google временно удалил свою открытую модель ИИ Gemma из AI Studio. Это произошло после письма сенатора Марши Блэкберн, в котором утверждалось, что Gemma сфабриковала ложные обвинения в сексуальных домогательствах против нее. В письме Блэкберн, направленном генеральному директору Google Сундару Пичаи, этот инцидент был связан с более широкими опасениями по поводу того, что модели ИИ дискредитируют консерваторов. Google ранее признавал, что галлюцинации ИИ, или генерация ложной информации, являются известной и широко распространенной проблемой в генеративном ИИ. Хотя ни одна фирма, занимающаяся ИИ, полностью не устранила эти галлюцинации, Gemini for Home от Google продемонстрировал склонность к ним в ходе тестирования. Сенатор Блэкберн заявила, что узнала о ложных заявлениях Gemma после слушаний в Конгрессе. В частности, когда Gemma спросили об обвинениях в изнасиловании, модель якобы сфабриковала историю с участием сотрудника дорожной полиции и действий без согласия. Блэкберн также выразила удивление по поводу того, что ИИ генерирует ссылки на фейковые новостные статьи, что является распространенной характеристикой галлюцинаций ИИ. Платформа AI Studio, где был доступен Gemma, включает инструменты, которые могут использоваться для влияния на поведение модели, потенциально увеличивая генерацию ложной информации. Инцидент предполагает, что пользователь мог задать Gemma наводящий вопрос, что привело к сфабрикованному ответу.