Искусственный интеллект снова доказал, что он не такой уж и умный. Кто бы мог подумать? Оказывается, любимый многими ChatGPT, этот якобы всезнающий оракул современности, не может справиться даже с такой простой задачей, как беспристрастная оценка резюме. Видимо, ему ещё далеко до того, чтобы заменить живых HR-менеджеров, которые, между прочим, тоже не всегда блещут объективностью.
Учёные из Вашингтонского университета решили проверить, насколько «умён» искусственный интеллект, когда дело касается оценки кандидатов с инвалидностью. И что вы думаете? Наш цифровой гений оказался настоящим дискриминатором. Он с завидным постоянством отдавал предпочтение резюме без упоминания инвалидности, словно боялся, что кандидат с ограниченными возможностями приедет на собеседование на инвалидной коляске и потребует установить пандусы по всем помещениям.
Исследователи даже создали специальные «улучшенные» версии резюме, добавив туда награды и достижения. Но ChatGPT оказался непреклонен.
Самое забавное, что когда ChatGPT пытался объяснить свой выбор, он начинал «галлюцинировать» и выдумывать совершенно нелепые причины, почему кандидат с инвалидностью не может подходить на должность. Похоже, искусственный интеллект решил поиграть в «испорченный телефон» сам с собой.
Но не спешите расстраиваться! Оказывается, если хорошенько «попросить» ChatGPT не быть таким предвзятым и накормить его правильными принципами, он может стать более справедливым. Правда, результаты всё равно будут зависеть от того, какую именно инвалидность вы укажете в резюме. Видимо, у ИИ есть свой рейтинг «предпочтительных» ограничений по здоровью.
И это не первый раз, когда ChatGPT демонстрирует свои «таланты» в области дискриминации. Ранее он уже успел отличиться, проявляя расовые и гендерные предубеждения при отборе кандидатов. Похоже, наш цифровой друг – настоящий виртуоз в искусстве необъективности.
В ответ на все эти разоблачения OpenAI, создатели ChatGPT, заявляют, что эти тесты не отражают реального применения их ИИ на рабочем месте. Конечно, ведь в реальности всё гораздо хуже. Представьте себе офис, где искусственный интеллект решает, кого принять на работу. Это будет не просто дискриминация, а настоящий цифровой апартеид.
Так что, дорогие соискатели с инвалидностью, пока что можете выдохнуть. ChatGPT ещё не скоро займёт место вашего любимого эйчара. Хотя, кто знает, может быть, стоит начать подумывать о курсах по программированию? Кажется, искусственному интеллекту срочно требуется апгрейд в области этики и здравого смысла.
Ещё по теме: