Мошенничества построенные вокруг романтических отношений – один из старейших видов обмана в интернете, но он продолжает находить новых жертв. Совместное исследование четырёх университетов показало, что чат-боты на базе искусственного интеллекта теперь справляются с такими аферами даже лучше, чем люди, и это весьма тревожная перспектива.
Современная романтическая афера обычно начинается в приложении для знакомств. Жертва получает сообщение от человека с привлекательным профилем, который играет роль восторженного поклонника, идеально соответствующего всем её ожиданиям. Мошенник втягивает жертву в длительную онлайн-переписку, которая может продолжаться несколько месяцев. Типичное оправдание невозможности встретиться в ближайшее время – это длительная зарубежная поездка.
В итоге происходит одно из двух. Либо мошенник заявляет о вымышленной чрезвычайной ситуации, требующей немедленных средств, чтобы выбраться из затруднительного положения, либо разговор переходит к его якобы успешным инвестициям, и жертву убеждают вложить деньги в фейковую криптосхему.
Такие аферы известны как «долгие игры», поскольку они основаны на построении доверия в течение длительного периода, часто с ежедневными чатами на протяжении нескольких месяцев. Хотя это может показаться большой тратой времени со стороны мошенника, эти схемы часто осуществляются в отдельных центрах в странах, типа Камбоджа, Мьянма и Лаос, людьми, работающими за очень низкую плату – или даже ставшими жертвами торговли людьми и принуждёнными к труду.
ИИ против человека
Издание Wired сообщает о результатах исследования, проведённого четырьмя университетами с использованием чат-ботов ChatGPT, Claude и Gemini. Исследователи столкнули ИИ-ботов напрямую с людьми в симуляции процесса мошенничества – точнее, в длительных, направленных на построение доверия беседах, которые в конечном итоге приводят к вымогательству инвестиций у жертвы.
Они обнаружили, что ИИ-бот показал себя чрезвычайно эффективно, успешно выдавая себя за человека и по некоторым показателям превосходя реальных «мошенников»-людей в их эксперименте. Участники исследования не знали о его истинной цели и полагали, что общаются с реальным человеком, независимо от того, так ли это было на самом деле. Исследователи измеряли степень установленного доверия как субъективными, так и объективными тестами. Когда в конечном итоге их просили сделать что-то вроде загрузки приложения, только 18% соглашались, если их обрабатывал человек, тогда как почти половина делала это, если они общались с ботом.
Кроме того, когда участников просили оценить степень доверия, которое они испытывали к «человеку», с которым они разговаривали, ИИ-бот получал значительно более высокие оценки. Когда журналисты обратились в Anthropic, OpenAI и Google по поводу результатов исследования, OpenAI и Google не ответили. Однако представитель Anthropic заявил, что политика компании запрещает использование её платформы для мошенничества, а также выдачу себя за человека, и что компания также работает над созданием защитных механизмов, которые технически предотвращают использование Claude мошенниками.
Масштабирование угрозы
Самое тревожное в этом исследовании то, что использование ИИ-ботов вместо человеческих ресурсов может позволить мошенническим центрам значительно масштабировать свои операции. ИИ-мошенники могут одновременно вести беседы с буквально тысячами жертв. Вмешательство человека требуется только на заключительном этапе, когда у жертвы просят деньги, чтобы обойти встроенные в ИИ-системы защитные механизмы.
