Apple пересмотрела правила своей программы поиска уязвимостей из-за роста числа отчётов, подготовленных с помощью ИИ. Специалисты по кибербезопасности компании получили слишком много сообщений низкого качества и перестали успевать оперативно проверять все обращения.
Программы поиска ошибок давно помогают технологическим компаниям находить проблемы в своих продуктах прежде, чем ими воспользуются злоумышленники. ИБ-эксперты изучают системы, обнаруживают слабые места и передают информацию производителям, получая за ценные находки вознаграждение.
Развитие ИИ изменило привычный порядок работы — даже пользователи без глубоких навыков анализа могут запускать нейросети для поиска потенциальных проблем и составления отчётов. Количество обращений в результате резко выросло.
В Apple признали, что ИИ действительно помогает быстрее находить реальные ошибки в программном обеспечении. Вместе с полезными находками компания получает большой массив сообщений с неточными данными, ошибочными выводами или обращений, требующих серьёзной перепроверки.
Поэтому вместо анализа по-настоящему опасных уязвимостей компании Apple приходится тратить время на разбор массы предположений, которые не подтверждаются после изучения.
Для разгрузки системы обработки обращений Apple ввела ограничения на количество одновременно открытых отчётов от одного исследователя. Участники программы больше не смогут отправлять неограниченное число новых сообщений в один момент.
Компания предусмотрела возможность расширения лимита для авторов, которые находят по-настоящему серьёзные проблемы. Apple также добавила 30-дневный период ожидания перед отправкой новых отчётов через внутреннюю систему.
