Молодой бельгиец покончил жизнь самоубийством после того, как в течение нескольких недель общался с чат-ботом по имени ELIZA, аналогом ChatGPT от Open AI.
«Без этих разговоров с чат-ботом мой муж всё ещё был бы здесь», – заявила вдова молодого человека.
Ей и её покойному мужу было около тридцати лет, они жили безбедно и воспитывали двух маленьких детей.
Однако около двух лет назад появились первые признаки беспокойства. Мужчина стал очень тревожным и нашёл убежище у ELIZA – так называется чат-бот, использующий GPT-J, языковую модель искусственного интеллекта с открытым исходным кодом, разработанную компанией EleutherAI. После шести недель интенсивных обменов сообщениями он покончил с собой.
На прошлой неделе семья беседовала с Матье Мишелем, государственным секретарём по цифровизации, отвечающим за упрощение административных процедур, конфиденциальность и регулирование строительства.
«Меня особенно поразила трагедия этой семьи. Произошедшее — нешуточный прецедент, к которому нужно отнестись очень серьёзно», — сказал представитель правительства.
«С популяризацией ChatGPT широкая общественность как никогда раньше открыла для себя потенциал искусственного интеллекта в нашей жизни. Несмотря на то, что возможности безграничны, опасность его использования также является реальностью, которую необходимо учитывать».
Чтобы избежать подобной трагедии в ближайшем будущем, по его мнению, необходимо определить характер ответственности, приводящей к такого рода событиям.
«Конечно, нам ещё предстоит научиться жить с алгоритмами, но ни при каких обстоятельствах использование любой технологии не должно приводить к тому, чтобы создатели уклонялись от своей собственной ответственности», – отметил он.
Компания OpenAI сама признавала ни раз, что ChatGPT может давать вредные и необъективные ответы, добавив, что надеется решить эту проблему путём сбора отзывов пользователей.
В долгосрочной перспективе, отметил Мишель, важно повысить осведомлённость о влиянии алгоритмов на жизнь людей, «позволив каждому понять природу контента, с которым люди сталкиваются в сети».
Мишель добавил, что граждане также должны быть адекватно защищены от некоторых видов применения искусственного интеллекта, которые «представляют значительный риск».
Европейский союз намерен регулировать использование искусственного интеллекта с помощью отдельного закона, над которым он работал в течение последних двух лет. Мишель создал рабочую группу для анализа текста, который в настоящее время разрабатывает ЕС, чтобы предложить внести в него необходимые корректировки.
Причины поступка молодого человека, а так же характер разговора с чат-ботом пока неизвестны.
Ещё по теме: