Руководитель ИИ-направления Microsoft Мустафа Сулейман заявил, что изучение сознания у искусственного интеллекта — это преждевременный и опасный шаг. По его мнению, попытки представить ИИ как сознательное существо могут усилить психологические проблемы у людей и вызвать новые социальные конфликты.
В своём блоге Сулейман раскритиковал подход исследователей, изучающих так называемое «благополучие ИИ». Он утверждает, что обсуждение возможных прав у ИИ провоцирует ненужные споры в обществе, идущем по пути всё большей поляризации.
«Добавляя значимость идее о сознательности ИИ, мы только усугубляем человеческие проблемы — включая психозы и зависимость от чат-ботов», — написал Сулейман.
Однако мнение Сулеймана разделяют далеко не все.
Компании Anthropic, OpenAI и Google DeepMind уже запустили научные программы по изучению ИИ-сознания, а Anthropic даже добавила в свой ИИ Claude функцию завершения чатов с оскорбительными пользователями — якобы в интересах «благополучия» модели.
Исследовательская группа Eleos, совместно с учёными из NYU, Stanford и Oxford, опубликовала в 2024 году статью «Воспринимая благополучие ИИ всерьёз». В ней говорится, что субъективные переживания ИИ — уже не фантастика, и эти вопросы нужно обсуждать прямо сейчас.
Ларисса Шиаво, бывшая сотрудница OpenAI, а ныне представитель Eleos, прокомментировала позицию Сулеймана:
«Можно волноваться и о людях, и об ИИ одновременно. Эти направления не исключают друг друга».
Сулейман уверен, что ИИ не может обрести сознание сам по себе — только если его преднамеренно не запрограммируют вести себя как человек. Он считает, что разработка «сознательных» ИИ — не гуманистический путь, и подчёркивает:
«Нам стоит строить ИИ для людей, а не как человека».
При этом он сам ранее был главой стартапа Inflection AI, создавшего чат-бота Pi, позиционировавшегося как личный эмоциональный помощник. Сейчас же он курирует в Microsoft разработку ИИ-инструментов для продуктивной работы, дистанцируясь от идей об ИИ-сознании.
Несмотря на противоречия, обе стороны признают: дискуссия о правах ИИ только набирает обороты — и по мере роста реалистичности моделей она станет ещё более острой.
Ещё по теме:
- Apple прекратила подписывать iOS 18.6 — откат больше невозможен
- Apple упростит кнопку Camera Control в iPhone 18, но не уберёт её
- Хакер раскрыл критические уязвимости McDonald’s ради бесплатных наггетсов
