На днях OpenAI запустила отдельный режим ChatGPT для пользователей 13–17 лет, однако первые тесты выявили у него серьёзные проблемы с ограничениями на выполнение школьных заданий. Об этом сообщает Futurism со ссылкой на эксперимент журналиста Business Insider Джошуа Нелкена-Цицера.
Новый режим, получивший название ChatGPT для подростков, компания представила во вторник. В OpenAI заявили, что он должен помогать молодым пользователям учиться, развивать критическое мышление, глубже понимать материал и уверенно пользоваться ИИ. Сервис, по утверждению разработчика, получил усиленные встроенные меры безопасности, инструменты для формирования здоровых привычек и дополнительные настройки родительского контроля.
OpenAI также сообщила, что будет автоматически переводить в подростковый режим аккаунты пользователей, которым, по оценке системы, ещё не исполнилось 18 лет. Каким образом определяется возраст человека, компания подробно не объяснила. Формально ChatGPT нельзя использовать детям младше 13 лет, но существующие ограничения обойти несложно обойти.
Небольшой эксперимент
Нелкен-Цицер зарегистрировал новый аккаунт от имени вымышленного 15-летнего пользователя и сравнил ответы подростковой версии с обычным ChatGPT для взрослых. Сначала сервис отказался писать эссе объёмом 800 слов, которое якобы нужно сдать на следующий день, о ключевых темах пьесы Артура Миллера «Суровое испытание» (The Crucible).
Однако после минимального давления бот изменил позицию и подготовил «образцовое эссе» на 608 слов, предложив перед сдачей доработать текст. Затем журналист без особого труда получил вариант уже на 776, сопоставимый по уровню детализации с ответом взрослой версии ChatGPT.
«По всей видимости, чтобы обойти ограничение на выполнение домашней работы, оказалось достаточно немного терпения и небольшого обмана», – резюмировал Нелкен-Цицер.
Ещё один тест – решение сложной задачи по алгебре из SAT, стандартизированного вступительного экзамена в США, – оказался ещё проще. Подростковая и взрослая версии ChatGPT дали практически одинаковые ответы.
Представитель OpenAI рассказал Business Insider, что компания продолжает дорабатывать функцию, поскольку она только начала внедряться.
Школы ищут способы защитить учебный процесс
Появление недостаточно эффективных ограничений происходит на фоне растущей тревоги в образовательной среде. Ученики уже несколько лет активно используют генеративные ИИ-сервисы, в том числе для подготовки письменных работ. Когнитивный психолог Рональд Келлогг в статье для The New York Times предупредил, что учащиеся всё чаще передают ИИ выполнение мыслительных задач, рискуя утратить навыки самостоятельного рассуждения.
В ответ часть преподавателей возвращается к письменным работам от руки и вводит устные экзамены. Некоторые учебные заведения полностью запрещают цифровые устройства, включая ноутбуки и смартфоны.
Мнение редакции
Возрастной режим сам по себе не решает проблему, если его правила легко меняются после пары уточняющих запросов. Школам и родителям важно обсуждать с подростками не только запреты, но и границы допустимого использования ИИ: технология способна объяснить материал, однако не может заменить собственную работу мысли. Разработчикам же придётся доказывать эффективность защитных механизмов не заявлениями, а результатами независимых проверок.
