8 ℃
Искусственный интеллект (ИИ) не обладает мышлением в привычном понимании — к такому выводу пришли специалисты Университета штата Аризона. Исследование размещено на платформе научных препринтов arXiv.
Как утверждают авторы работы во главе с профессором Суббарао Камбхампати, тексты, генерируемые ИИ, лишь создают иллюзию осмысленных рассуждений. На деле они представляют собой статистически сформированные последовательности, лишённые глубинного смысла или логического хода.
Учёные сравнили веру в «мышление» ИИ с мышлением «культа карго» — когда наблюдаемое внешне поведение ошибочно принимается за осмысленное действие. Например, модели могут «думать вслух» или использовать вводные слова вроде «хм» и «давайте посмотрим», хотя это всего лишь имитация, созданная для повышения доверия пользователя.
Более того, исследователи выяснили, что даже если промежуточные шаги ответа ИИ выглядят как бессмыслица, итог может быть правильным — просто потому, что модель подбирает наиболее вероятный по контексту результат.
Авторы призвали разработчиков нейросетей сосредоточиться на реальной точности и эффективности моделей, а не на стилизации «под человека». По их словам, попытки представить ИИ как мыслящее существо вводят пользователей в заблуждение.
