На профильных форумах уже не первый месяц обсуждается проблема, с которой сталкиваются многие разработчики программного обеспечения с открытым исходным кодом. Речь идёт об огромном количестве некачественных отчётов об ошибках, генерируемых ИИ-инструментами. По словам аналитиков, эту ситуацию можно сравнить с распространением в социальных сетях дезинформации, с чем безуспешно пытаются бороться системы проверки фактов.
Эксперт по информационной безопасности из Python Software Foundation Сет Ларсон заявил во время общения с журналистами, что в последние несколько месяцев он наблюдает стремительный рост числа спам-отчётов об уязвимостях, которые генерируются большими языковыми моделями. Подобные отчёты на первый взгляд выглядят правдоподобно, из-за чего разработчики тратят большую часть своего рабочего дня на анализ этих документов и их дальнейшее опровержение.
По словам специалистов, эта проблема особенно актуальна на данный момент для крупных проектов с открытым исходным кодом – Python, WordPress и Android, выступающих в качестве основы современного интернета. Большинство подобных проектов поддерживается относительно небольшой группой энтузиастов-волонтёров, работающих бесплатно. При этом реальные уязвимости в активно применяемых библиотеках кода представляют критическую опасность, так как их эксплуатация злоумышленниками способна нанести грандиозный ущерб в масштабах всей системы.
Как отмечают аналитики, большие языковые модели с каждым месяцем всё чаще применяются для генерации кода. Хотя многие разработчики давно негативно отзываются о полезности этой технологии в работе, при этом, например, такие популярные инструменты, как GitHub Copilot или генератор кода ChatGPT, действительно могут неплохо справляться с созданием базовой структуры проекта, а также помогать в поиске необходимого функционала в программах и библиотеках.
Но, по словам экспертов, любые языковые модели сейчас зачастую генерируют ошибочный или же неполный код, так как у них нет понимания самого принципа программирования на концептуальном уровне. Они просто функционируют на основе вероятностных моделей, предугадывая вероятный результат, учитывая полученные ранее обучающие данные.
При этом обычным разработчикам для создания полноценного проекта требуется наличие глубокого понимания используемого языка программирования, навыков по отладке кода и видения общей архитектуры приложения.
Ещё по теме: