Новая функция Google c («Обзор от ИИ»), которая предоставляет агрегированные результаты, составленные искусственным интеллектом, над некоторыми поисковыми выдачами, похоже, выдаёт неточные, а в некоторых случаях и опасные результаты.
Пользователи социальных сетей сразу же обратили внимание на то, что представленная ранее в этом месяце функция, заменившая органические результаты поиска, выдаёт достаточно сомнительные ответы. Например, система, занимающая более 90% рынка в поисковом пространстве, дала совет по поводу соскальзывания сыра с пиццы, который вызвал недоумение: чтобы сыр не падал с теста, нужно просто добавить клей.
Но неаппетитные рецепты – не самые вредные результаты, которые может выдать ИИ. По словам одного из пользователей X, на запрос о дезинфекции стиральной машины Google предложил потенциально смертельно опасный выход – воспользоваться ипритом (химическим отравляющим веществом).
И если многие крупные языковые модели, в том числе Chat GPT от OpenAI или Llama, используют Интернет для получения обучающих данных без разрешения, то AI Overview от Google, похоже, занимается откровенным плагиатом. По словам одного из пользователей X, Google добавила термин «любимое блюдо моего ребенка» к рецепту смузи, позаимствовав формулировку с сайта, на котором был размещён похожий состав.
Google, разрабатывающий AI Overview в ответ на CoPilot от Microsoft и Open AI, утверждает, что программа приносит пользу небольшим сайтам, позволяя им попадать в результаты поиска и охватывать больше поисковиков.
«Благодаря AI Overviews люди посещают большее количество разнообразных сайтов, чтобы получить помощь в решении более сложных вопросов», – говорится в анонсе. «Мы видим, что ссылки, включенные в AI Overviews, получают больше кликов, чем если бы страница появлялась в виде обычного веб-листинга по данному запросу».
Критики опасаются, что результаты, генерируемые искусственным интеллектом, будут препятствовать переходу по ссылкам к поставщикам информации, которую Google получает из источников, что в конечном итоге приведёт к сокращению числа публикаций, на которые опирается AI Overview. News Media Alliance, организация, представляющая интересы издателей, призвала к более активным действиям против ИИ-моделей, обучающихся на контенте без разрешения.
«Компании, занимающиеся разработкой искусственного интеллекта, признают ценность этого контента, о чём свидетельствуют рыночные соглашения, и полагаются на качественный контент для обучения своих систем. Продолжающееся неограниченное использование ИИ-компаниями ценного контента издателей без соответствующей компенсации является незаконным», – заявил президент и генеральный директор Альянса Даниэль Коффи в заявлении о судебном иске против OpenAI.
Под результатами, сгенерированными искусственным интеллектом, Google размещает предупреждение «генеративный ИИ является экспериментальным», но результаты всё равно представляют собой проблему в эпоху растущей зависимости от контента, сгенерированного компьютером.
В прошлом году Google заявила, что ИИ – это будущее поиска. Но какой в этом смысл, если поиск будет ещё глупее, чем раньше?
Ещё по теме:
- Игра What the Car? отправляется в постапокалиптическое будущее с новым эпизодом: «Песчаная буря»
- Первый в мире микрокомпьютер выставили на аукцион
- Apple объяснила и исправила ошибку с «воскресшими» фотографиями в iOS 17.5.1
