Пока китайский DeepSeek наносит удар по мировой индустрии ИИ своими относительно недорогими, но мощными моделями, во Франции случилась неудачная попытка создать собственную альтернативу ChatGPT. Разработанная консорциумом OpenLLM-France языковая модель «Люси» (Lucie), презентованная как «прозрачный» и надёжный чат-бот, оказалась не столь успешной. Она давала странные советы, отказывалась отвечать на элементарные вопросы и даже предложила добавить «яица коровы» в рацион людей.
Среди наиболее удивительных ответов Lucie — нежелание сообщать, сколько будет 2 + 2 (посчитав вопрос «недостаточно нейтральным»), а также составление подробного руководства по приготовлению метамфетамина. Кроме того, бот неоднократно путал концепцию «куриные яйца» и «яйца коровы», что вызывало и смех, и опасения.
Запустив Lucie в четверг, компания Linagora Group уже в субботу решила приостановить работу сервиса. На фоне неоднозначных ответов, руководство признало, что продукт пока не готов к публичному использованию: его назвали «неоптимизированной моделью» без каких-либо средств защиты от опасного или некорректного контента. Разработчики также подчеркнули, что Lucie — это исключительно «языковая модель», а не «модель знаний», и что команда поспешила с официальным релизом.
Ситуацию уже сравнивают с провалом ранней версии Bard от Google, вызвавшего критику даже у сотрудников компании, а также с громким скандалом вокруг бота Tay от Microsoft в 2016 году, который за сутки «научился» ксенофобии и расизму, разговаривая с провокаторами в сети. Аналогичная тенденция демонстрирует, что при запуске языковых моделей без должных ограничений и процедур контроля неожиданности вполне возможны.
Ситуация с Lucie стала своеобразным примером того, насколько важно уделять внимание тестированию и системам безопасности при запуске чат-ботов, основанных на больших языковых моделях. Пока во всём мире идёт активная конкуренция, Linagora попыталась быстро показать свой ответ ChatGPT. Однако практика показала, что поспешность может привести к резкому удару по репутации.
Тем не менее, остановив Lucie на доработку, OpenLLM-France возможно извлечёт уроки и представит более выверенную версию в будущем.
Ещё по теме:
- X Everything App: как новая платформа Илона Маска собирается конкурировать с Apple Pay
- Астероид размером с половину футбольного поля с вероятностью 1 к 83 врежется в Землю в 2032 году
- Приложение DeepSeek удалили из магазинов приложений Apple и Google в Италии