Apple обновила Правила проверки приложений (App Review Guidelines), уточнив требования к сервисам с пользовательским контентом и программам, которые меняют своё назначение после одобрения в App Store. Изменения направлены в том числе против приложений, создающих интимные изображения без согласия человека с помощью генеративного ИИ.
Компания уже запрещала в App Store порнографические материалы и сервисы, генерирующие сексуализированные изображения. Однако отдельные разработчики обходили проверку: при модерации приложение могло выглядеть безобидным, а его запрещённые возможности становились доступными позднее — например, после обновления, удалённой настройки или изменения функциональности на стороне сервера.
Требования к модерации контента
В пункте 1.2 Apple прямо закрепила обязанность приложений заранее предотвращать появление или оперативно удалять интимные изображения, опубликованные без согласия изображённого человека. Это требование распространяется и на материалы, созданные генеративными инструментами искусственного интеллекта.
Речь идёт, в частности, о так называемых «раздевающих» сервисах: они используют загруженные пользователями фотографии реальных людей, чтобы сгенерировать откровенные изображения. Подобный контент может быть создан без ведома и разрешения человека на снимке.
Для платформ с пользовательскими публикациями по-прежнему обязательны механизмы фильтрации нежелательных материалов, отправки жалоб и блокировки других аккаунтов. Новая формулировка делает акцент на превентивной модерации, а не только на реакции после обращения пострадавшего или других пользователей.
Запрет на скрытые возможности
Отдельное уточнение появилось в правиле 2.5.19. Apple запретила приложения со скрытыми или не заявленными при проверке функциями. Под ограничение попадают программы, которые вводят модераторов в заблуждение относительно своего назначения, а после публикации открывают доступ к другим возможностям.
Такая схема известна как «подмена» (bait-and-switch): разработчик отправляет на проверку одну версию продукта, а затем фактически превращает его в другой сервис. Подобный подход ранее использовали мошеннические, вредоносные и российские банковские приложения, стремившиеся попасть в App Store в обход действующих правил.
Эксплуатация и альтернативное распространение
Apple также уточнила положения раздела 5, посвящённого юридическим требованиям. Приложения, которые содействуют торговле людьми или эксплуатации детей, будут удаляться из App Store. Кроме того, компания намерена блокировать их распространение через альтернативные каналы дистрибуции, где такая возможность предусмотрена законодательством и платформенными правилами.
Мнение редакции
Новые формулировки важны не только для борьбы с интимными дипфейками. Они уточняют общий запрет на подмену назначения приложения после проверки — и потому могут затронуть российские банки, возвращающие свои сервисы в App Store под видом сторонних программ. Если модераторам показывают одну функциональность, а пользователям после одобрения открывают банковские операции, такая схема подпадает под описанный Apple запрет независимо от того, связан ли продукт с генеративным ИИ. Последствия предусмотрены не только для приложения: компания может не только удалить его из магазина, но и исключить разработчика из Apple Developer Program.
клиентов этих банков это прежде всего риск того, что очередное приложение станет сложнее найти и установить, а его доступность в магазине окажется ещё менее предсказуемой. Но считать обновление отдельной кампанией против российских банков было бы преувеличением: Apple прямо указывает, что запрет на скрытые функции существовал и раньше. Пока речь об уточнении правил, а не о доказанном усилении блокировок. Главный вопрос — изменится ли практика проверки: сама по себе более строгая формулировка ещё не означает, что Apple научилась быстрее распознавать замаскированные банковские сервисы.
