Илон Маск, группа экспертов и представителей индустрии искусственного интеллекта (ИИ) призывают приостановить на шесть месяцев обучение систем, которые могут быть мощнее, чем GPT-4. Об этом они заявили в открытом письме, ссылаясь на потенциальные риски для общества и всего человечества.
Письмо, опубликованное некоммерческим институтом Future of Life Institute и подписанное более чем 1000 человек, включая Маска, сооснователя Apple Стива Возняка и генерального директора Stability AI Эмада Мостака, призывает приостановить разработку продвинутого ИИ до тех пор, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких проектов.
GPT-4 – это новейшая версия языковых моделей систем OpenAI. Её предыдущая версия, GPT-3.5, стала основой для популярного чат-бота ChatGPT компании OpenAI, запущенного в ноябре 2022 года.
«Мощные ИИ-системы должны разрабатываться только тогда, когда мы будем уверены, что их эффекты окадутся положительными, а риски – управляемыми», – говорится в письме.
В письме также описываются потенциальные риски для общества и цивилизации от ИИ-систем, способных конкурировать с человеком, в виде экономических и политических дестабилизаций. Авторы письма призывают разработчиков сотрудничать с политиками по вопросам управления и регулирования таких систем.
Письмо появилось на фоне возрастающих этических и юридических опасений по поводу продвинутых ИИ-систем, таких как ChatGPT. В понедельник полицейское управление Евросоюза Europol предупредило о возможном злоупотреблении системой в целях фишинга, дезинформации и киберпреступности.
С момента запуска ChatGPT в 2022 году компания OpenAI, поддерживаемая Microsoft, стимулировала конкурентов запускать аналогичные продукты и интегрировать его или подобные технологии в свои приложения и сервисы.
Ещё по теме: