Французский аналог ChatGPT с треском провалился и ушёл в офлайн через три дня из-за абсурдных ответов

Блюда из яиц коровы — не вопрос! А как насчёт рецепта приготовления метамфетамина?

1 мин.
Французский аналог ChatGPT с треском провалился и ушёл в офлайн через три дня из-за абсурдных ответов

Пока китайский DeepSeek наносит удар по мировой индустрии ИИ своими относительно недорогими, но мощными моделями, во Франции случилась неудачная попытка создать собственную альтернативу ChatGPT. Разработанная консорциумом OpenLLM-France языковая модель «Люси» (Lucie), презентованная как «прозрачный» и надёжный чат-бот, оказалась не столь успешной. Она давала странные советы, отказывалась отвечать на элементарные вопросы и даже предложила добавить «яица коровы» в рацион людей.

Среди наиболее удивительных ответов Lucie — нежелание сообщать, сколько будет 2 + 2 (посчитав вопрос «недостаточно нейтральным»), а также составление подробного руководства по приготовлению метамфетамина. Кроме того, бот неоднократно путал концепцию «куриные яйца» и «яйца коровы», что вызывало и смех, и опасения.

Запустив Lucie в четверг, компания Linagora Group уже в субботу решила приостановить работу сервиса. На фоне неоднозначных ответов, руководство признало, что продукт пока не готов к публичному использованию: его назвали «неоптимизированной моделью» без каких-либо средств защиты от опасного или некорректного контента. Разработчики также подчеркнули, что Lucie — это исключительно «языковая модель», а не «модель знаний», и что команда поспешила с официальным релизом.

Ситуацию уже сравнивают с провалом ранней версии Bard от Google, вызвавшего критику даже у сотрудников компании, а также с громким скандалом вокруг бота Tay от Microsoft в 2016 году, который за сутки «научился» ксенофобии и расизму, разговаривая с провокаторами в сети. Аналогичная тенденция демонстрирует, что при запуске языковых моделей без должных ограничений и процедур контроля неожиданности вполне возможны.

Ситуация с Lucie стала своеобразным примером того, насколько важно уделять внимание тестированию и системам безопасности при запуске чат-ботов, основанных на больших языковых моделях. Пока во всём мире идёт активная конкуренция, Linagora попыталась быстро показать свой ответ ChatGPT. Однако практика показала, что поспешность может привести к резкому удару по репутации.

Тем не менее, остановив Lucie на доработку, OpenLLM-France возможно извлечёт уроки и представит более выверенную версию в будущем.


Ещё по теме:

Мы в Telegram, на Дзен, в Google News и YouTube