В фокусе

Возрастной ценз для нейросетей: Австралия пригрозила Apple штрафами за доступ детей к ИИ-ботам

Если разработчики не внедрят проверку возраста, отвечать придётся магазинам

Власти Австралии продолжают ужесточать контроль за технологическим сектором. Вслед за беспрецедентным законом, запрещающим подросткам до 16 лет пользоваться социальными сетями, местный регулятор обратил внимание на приложения с искусственным интеллектом. Как сообщает агентство Reuters, уже в ближайшее время от Apple могут потребовать удалить из App Store все ИИ-сервисы, не имеющие надёжной системы верификации возраста.

Новые правила вступают в силу 9 марта. Согласно им, нейросети, способные генерировать контент для взрослых, а также материалы со сценами жестокости, селфхарма или пропагандой расстройств пищевого поведения, должны быть недоступны для пользователей младше 18 лет. Если сами разработчики не внедрят фильтры, ответственность ляжет на платформы-посредники, такие как магазины приложений и поисковые системы.

Представитель австралийского комиссара по электронной безопасности (eSafety) заявил, что ведомство намерено использовать все свои полномочия для борьбы с нарушителями. Штрафы за несоблюдение требований могут достигать 49,5 млн австралийских долларов (около $35 млн).

Эмоциональная привязанность и шестичасовые диалоги

Интерес регулятора к чат-ботам не случаен. В eSafety бьют тревогу из-за того, что дети проводят слишком много времени в общении с генеративным ИИ. По данным ведомства, некоторые десятилетние австралийцы переписываются с нейросетями до шести часов в день.

«Компании, разрабатывающие ИИ, используют эмоциональные манипуляции, антропоморфизм (наделение ИИ человеческими чертами) и другие продвинутые стратегии, чтобы завлечь молодых пользователей и вовлечь их в чрезмерное взаимодействие с чат-ботами», – подчёркивают в надзорном органе.

Рынок не готов к ограничениям

Несмотря на скорое вступление закона в силу, индустрия пока далека от соответствия новым стандартам. В ходе исследования 50 платформ с искусственным интеллектом журналисты Reuters выяснили, что лишь девять из них внедрили необходимые инструменты для проверки возраста. Ещё 11 сервисов, включая популярные ChatGPT, Replika и Claude, ограничились базовыми фильтрами контента.

Реакция самих разработчиков разнится. Сервис Character.AI разрешил свободные диалоги с ботами только пользователям старше 18 лет. Создатели платформы HammerAI пошли радикальным путём и полностью заблокировали доступ к своему продукту для жителей Австралии. Нейросеть Grok от Илона Маска пресекает создание порнографического контента с участием несовершеннолетних только в тех юрисдикциях, где это прямо предписано законом. У остальных ИИ-приложений нет даже базовых систем фильтрации, а в некоторых случаях отсутствуют контакты для жалоб на нарушения.

Позиция Apple

Дополнительную путаницу вносят возрастные рейтинги в самом App Store, которые сейчас выглядят непоследовательно. Например, приложение Character.AI имеет маркировку «18+», Grok — «16+», а официальное приложение ChatGPT доступно с рейтингом «13+». Вскоре эти расхождения могут стать серьёзной проблемой для модераторов Apple.

Сама корпорация пока не давала официальных комментариев по поводу ультиматума, касающегося ИИ-сервисов. Однако ранее компания уже начала адаптироваться к местным законам: Apple расширила инструменты верификации возраста для разработчиков, чтобы помочь им соблюдать недавно принятый австралийский запрет на использование соцсетей подростками. Спасёт ли это App Store от потенциальных штрафов за нейросети — станет ясно уже в марте.

Меню