Несколько нынешних и бывших сотрудников OpenAI и Google DeepMind выступили с открытым письмом, в котором предупреждают об опасностях продвинутого ИИ и отсутствии контроля за компаниями, работающими над ИИ-технологиями.
По мнению сотрудников, развитие ИИ несёт в себе ряд рисков, включая дальнейшее укоренение существующего в мире неравенства, манипуляции и дезинформацию, а также потерю контроля над автономными ИИ-системами, что, как говорится в письме, может привести к вымиранию человечества.
Компании, занимающиеся разработкой искусственного интеллекта, имеют «сильные финансовые стимулы» для того, чтобы продолжать разработку и не делиться информацией о мерах защиты и уровне риска.
«Мы не думаем, что на них можно положиться в том, что они будут делиться ею добровольно», — отмечается в письме, в котором говорится, что нынешние и бывшие сотрудники должны высказать свое мнение.
Сотрудники в конечном итоге призывают компании, занимающиеся разработкой искусственного интеллекта, обеспечить надёжную защиту источников раскрывающих информацию о рисках, связанных с искусственным интеллектом:
- Избегайте создания или принудительного исполнения соглашений, препятствующих критике по поводу проблем, связанных с рисками.
- Предложите сотрудникам проверенный анонимный процесс, позволяющий донести информацию о связанных с рисками проблемах до совета директоров, регулирующих органов и независимых организаций, обладающих соответствующим опытом.
- Поддерживайте культуру открытой критики, позволяющую сотрудникам высказывать общественности, совету директоров, регулирующим органам и т. д. опасения, связанные с рисками, касающимися технологий, при условии защиты коммерческой тайны.
- Не допускайте репрессий в отношении сотрудников, которые публично делятся конфиденциальной информацией, связанной с рисками, после того как другие процессы не дали результатов.
Письмо подписали 13 человек, в том числе семь бывших сотрудников OpenAI, четыре нынешних, один бывший сотрудник Google DeepMind и ещё один действующий сотрудник Google DeepMind. OpenAI угрожает работникам потерей их долевого участия за высказывания, а также заставляет их подписывать «драконовские» NDA, которые препятствуют критике в адрес компании.
Письмо появилось в тот момент, как Apple готовится анонсировать множество функций, основанных на искусственном интеллекте, в iOS 18 и других обновлениях программного обеспечения в ближайший понедельник. компания работает над собственными функциями искусственного интеллекта, которые будут встроены в приложения по всей операционной системе, а также заключила соглашение с OpenAI для интеграции функций ChatGPT в iOS 18.
Ещё по теме:
- Житель Индии установил рекорд по скорости печати носом на клавиатуре
- Apple провела переговоры о запуске Apple TV+ в Китае
- Энтузиаст добавил в iPod Classic вибромотор, Bluetooth и SSD
