Компания Google столкнулась с очередным вызовом в сфере безопасности искусственного интеллекта: всего за сутки технологическому гиганту пришлось отключить новую функцию своего популярного картографического сервиса Google Earth. Инструмент, призванный расширить возможности пользователей, моментально превратился в генератор фейков.
На этой неделе разработчики представили обновление, которое позволяло любому желающему создавать изображения с помощью нейросетей и накладывать их прямо на спутниковые снимки реального мира. Предполагалось, что это поможет визуализировать различные объекты на местности, однако пользователи нашли технологии совсем другое применение.
Уже к середине следующего дня интернет заполнили пугающе реалистичные кадры катастроф и разрушений, созданные на базе реальных географических координат. Из-за возникшей угрозы дезинформации руководству Google пришлось экстренно отключить нововведение и признать поспешность его релиза.
Среди наиболее резонансных подделок, созданных пользователями за считанные часы, оказался снимок пассажирского самолёта, якобы врезающегося в небоскрёб на Манхэттене. Другие энтузиасты «построили» секретный ядерный объект на территории Ирана и опубликовали детальные спутниковые кадры бомбардировки Москвы.
Подобный контент, неотличимый на первый взгляд от реальной съёмки из космоса, вызвал серьёзную тревогу у экспертов. В условиях высокой международной напряжённости подобные фейки могут стать мощным оружием в информационных войнах и спровоцировать панику среди населения.
Реакция Google показывает, насколько уязвимы современные технологические платформы перед неконтролируемым использованием генеративного ИИ. Разработчики в очередной раз наступили на те же грабли, ещё раз доказав опасность выпуска сырых продуктов без должной модерации.
Мнение редакции
Когда даже спутниковые снимки, традиционно считавшиеся неопровержимым доказательством, можно подделать в пару кликов, верификация информации становится главным навыком современности. Мы всё же надеемся, что этот прецедент заставит ИТ-гигантов ответственнее подходить к безопасности своих продуктов.
Да, технологии развиваются стремительно, но люди остаются людьми и ведут себя как обычно. Дайте человеку в руки мощный инструмент без ограничений, и он первым делом начнёт проверять систему на прочность, нарушая все мыслимые правила и создавая хаос. Иллюзия того, что новые функции будут использоваться исключительно во благо, неизбежно разбивается о человеческую природу в первые же часы после релиза.
