Молодой бельгиец покончил жизнь самоубийством после того, как в течение нескольких недель общался с чат-ботом по имени ELIZA, аналогом ChatGPT от Open AI.

«Без этих разговоров с чат-ботом мой муж всё ещё был бы здесь», – заявила вдова молодого человека.

Ей и её покойному мужу было около тридцати лет, они жили безбедно и воспитывали двух маленьких детей.

Однако около двух лет назад появились первые признаки беспокойства. Мужчина стал очень тревожным и нашёл убежище у ELIZA – так называется чат-бот, использующий GPT-J, языковую модель искусственного интеллекта с открытым исходным кодом, разработанную компанией EleutherAI. После шести недель интенсивных обменов сообщениями он покончил с собой.

На прошлой неделе семья беседовала с Матье Мишелем, государственным секретарём по цифровизации, отвечающим за упрощение административных процедур, конфиденциальность и регулирование строительства.

«Меня особенно поразила трагедия этой семьи. Произошедшее — нешуточный прецедент, к которому нужно отнестись очень серьёзно», — сказал представитель правительства.

«С популяризацией ChatGPT широкая общественность как никогда раньше открыла для себя потенциал искусственного интеллекта в нашей жизни. Несмотря на то, что возможности безграничны, опасность его использования также является реальностью, которую необходимо учитывать».

Чтобы избежать подобной трагедии в ближайшем будущем, по его мнению, необходимо определить характер ответственности, приводящей к такого рода событиям.

«Конечно, нам ещё предстоит научиться жить с алгоритмами, но ни при каких обстоятельствах использование любой технологии не должно приводить к тому, чтобы создатели уклонялись от своей собственной ответственности», – отметил он.

Компания OpenAI сама признавала ни раз, что ChatGPT может давать вредные и необъективные ответы, добавив, что надеется решить эту проблему путём сбора отзывов пользователей.

В долгосрочной перспективе, отметил Мишель, важно повысить осведомлённость о влиянии алгоритмов на жизнь людей, «позволив каждому понять природу контента, с которым люди сталкиваются в сети».

Мишель добавил, что граждане также должны быть адекватно защищены от некоторых видов применения искусственного интеллекта, которые «представляют значительный риск».

Европейский союз намерен регулировать использование искусственного интеллекта с помощью отдельного закона, над которым он работал в течение последних двух лет. Мишель создал рабочую группу для анализа текста, который в настоящее время разрабатывает ЕС, чтобы предложить внести в него необходимые корректировки.

Причины поступка молодого человека, а так же характер разговора с чат-ботом пока неизвестны.


Ещё по теме: