Apple выпустила свои первые инструменты Apple Intelligence и представила новые Mac, оптимизированные для работы с искусственным интеллектом. Однако, несмотря на весь ажиотаж вокруг ИИ, технология имеет очевидные ограничения в плане «интеллекта». Одно из таких ограничений было подчёркнуто в недавнем эксперименте, проведённом исследовательской командой Apple в области ИИ.

Тестирование возможностей

В прошлом месяце команда исследователей Apple опубликовала новую научную работу, посвящённую ключевому ограничению искусственного интеллекта. В статье рассматривается, как современные ИИ-модели справляются с простыми арифметическими задачами, которые обычно решают школьники.

Майкл Хильцик в своей статье для The Los Angeles Times приводит пример такой задачи:

«Попробуйте решить эту арифметическую задачу:

Оливер собирает 44 киви в пятницу. Затем он собирает 58 киви в субботу. В воскресенье он собирает вдвое больше киви, чем в пятницу, но пять из них были немного меньше среднего размера. Сколько киви у Оливера?»

Если вы ответили «190», то вы справились так же хорошо, как средний школьник, правильно решив задачу. Расчёт простой: пятничные 44 плюс субботние 58 плюс воскресные 88 (44 умноженные на 2) дают 190.

Однако более 20 современных моделей искусственного интеллекта, протестированных исследовательской командой Apple, не смогли дать правильный ответ. ИИ-боты постоянно ошибались в решении этой достаточно простой задачи.

Ограничения современных моделей ИИ

В исследовательской работе Apple отмечается, что даже самые продвинутые модели испытали «катастрофическое падение производительности» при попытке ответить на простые математические задачи, особенно когда в них присутствовали нерелевантные данные. В данном примере упоминание о том, что «пять из них были немного меньше среднего размера» является лишней информацией, которую школьники обычно игнорируют, а ИИ воспринимает буквально.

Это ставит под сомнение текущие возможности искусственного интеллекта и его способность к логическому рассуждению. В статье делается вывод, что современные ИИ-модели не способны к подлинному логическому мышлению.

Критический взгляд на «интеллект»

Несмотря на то, что многие могут предположить, что подобные проблемы легко исправить путём увеличения объёмов данных, улучшения моделей или повышения вычислительных мощностей, команда Apple с этим не согласна.

«Может ли масштабирование данных, моделей или вычислений фундаментально решить это? Мы так не думаем.» — заявляют исследователи.

В конечном счёте, цель исследования Apple не в том, чтобы снизить энтузиазм по поводу возможностей ИИ, а в том, чтобы внести долю здравого смысла и предостеречь от чрезмерного доверия к «интеллекту»... искусственного интеллекта.

ИИ может выполнять некоторые задачи так, как будто он чрезвычайно умён, но во многих отношениях этот «интеллект» не соответствует нашим ожиданиям.

Ещё по теме: