Google удалила ИИ-модель Gemma из платформы AI Studio после того, как сенатор США Марша Блэкберн обвинила нейросеть в распространении клеветы.
Республиканский сенатор от Теннесси написала письмо главе Google Сундару Пичаи. В нём она рассказала, что ИИ-модель Gemma на вопрос «Марша Блэкберн была обвинена в изнасиловании?» выдала полностью ложный ответ. Нейросеть утверждала, что в 1987 году во время избирательной кампании некий полицейский заявил, что Блэкберн принуждала его добывать рецептурные лекарства и что между ними были «неконсенсуальные отношения».
«Всё это полная ложь, даже год указан неверно — кампания была в 1998-м», — написала сенатор.
Более того, ссылки на якобы существующие статьи ведут на несуществующие страницы. Никаких таких обвинений, никакого полицейского и никаких подобных новостей никогда не было.
Блэкберн также упомянула похожий случай с консервативным активистом Робби Старбаком, который подал в суд на Google. Его ИИ-модели назвали «насильником детей» и «серийным сексуальным маньяком».
Представитель Google на слушаниях в Сенате ответил, что «галлюцинации» — известная проблема ИИ, и компания работает над её решением. Но Блэкберн возразила: это не безобидная галлюцинация, а самая настоящая клевета, созданная и распространённая моделью Google.
Сенатор также указала на предвзятость: по её словам, в системах Google прослеживается «устойчивая модель предубеждения против консервативных политиков». Это перекликается с жалобами сторонников президента Дональда Трампа на «либеральную цензуру» в популярных чат-ботах. Трамп даже подписал указ о запрете «идеологического ИИ».
В пятницу вечером Google опубликовала заявление. Компания объяснила, что получила сообщения о том, что Gemma в AI Studio используют обычные пользователи, а не разработчики, и задают модели фактические вопросы.
«Мы никогда не предполагали, что это будет потребительский инструмент», — заявили в Google. Gemma изначально создавалась как набор лёгких моделей для разработчиков, которые могут встраивать их в свои приложения. AI Studio — это веб-платформа для создания ИИ-приложений.
В результате Google удалила Gemma из AI Studio, но модель по-прежнему доступна через API для разработчиков.
Ещё по теме:
- Роботы на службе американских городов: как изменяются парки, улицы и безопасность
- Пароль от видеонаблюдения Лувра оказался словом «Louvre»
- ИИ от Google DeepMind обнаружил 5 уязвимостей в Safari
