Искусственный интеллект может работать совсем не так, как человеческий мозг. К такому выводу пришли исследователи York University — и это ставит под сомнение то, как учёные используют ИИ для изучения мозга.
Новое исследование выявило неожиданную слабость в моделях ИИ, которые широко применяются для понимания того, как мозг обрабатывает визуальную информацию. Даже модели, точно предсказывающие активность нейронов, могут опираться на внутренние процессы, которых в мозге нет. А значит, их надёжность в нейробиологических исследованиях — большой вопрос.
Нейросети научились предсказывать мозг — но в одну сторону
Много лет исследователи полагались на искусственные нейронные сети (artificial neural networks, ANNs) — компьютерные системы, созданные для распознавания объектов на изображениях, — чтобы изучать, как работает зрение. За последнее десятилетие эти модели стали одними из главных инструментов для объяснения зрительной системы мозга. Они хорошо воспроизводят паттерны активности нейронов, и именно поэтому нейробиологи так их ценят.
Но тут возникает вопрос: если ИИ успешно имитирует реакции мозга, значит ли это, что он и обрабатывает визуальную информацию так же?
«Системы искусственного интеллекта часто описывают как «похожие на мозг», потому что они могут предсказывать активность в частях мозга, которые помогают нам распознавать объекты, — говорит доцент York University Kohitij Kar, старший автор исследования. — До сих пор учёные в основном проверяли это в одном направлении: могут ли модели ИИ предсказывать активность мозга».
Обратный тест вскрыл проблему
Команда York University решила подойти с другой стороны. Вместо того чтобы измерять, насколько хорошо ИИ предсказывает активность клеток мозга, исследователи проверили, может ли записанная активность мозга предсказывать то, что происходит внутри моделей ИИ.
Логика простая: если системы действительно работают как мозг, связь должна быть двусторонней. Чтобы это проверить, учёные разработали метод reverse predictivity testing — тестирование обратной предсказательной способности. Он позволяет оценить сходства, которые обычные тесты попросту упускают.
«В конечном счёте нам нужны вычислительные модели, чтобы по-настоящему понять нейронные механизмы распознавания объектов. Как мы видим движение объектов? Хотя это очень простая задача, которую мы выполняем каждый день, вычислительно это очень сложная проблема», — говорит Kar, Canada Research Chair in Visual Neuroscience и член York's Centre for Vision Research и Centre for Integrative and Applied Neuroscience.
В команду вошла постдокторант York University Sabine Muzellec, стажёр программы Connected Minds. Исследователи изучили реакции на широкий набор визуальных изображений: 1320 естественных фотографий и реалистичных синтетических картинок с 10 знакомыми объектами — медведем, слоном, лицом, яблоком, автомобилем, собакой, стулом, самолётом, птицей и зеброй. Объекты появлялись на фоне разных природных сцен, интерьеров и улиц. Добавили и 300 дополнительных изображений: те же субъекты в других визуальных стилях — контуры, рисунки, упрощённые представления и художественные интерпретации.
Мозг предсказывает нейросеть хуже, чем нейросеть — мозг
Результаты показали заметное расхождение между искусственным интеллектом и биологическим зрением.
Модели ИИ в целом успешно предсказывали реакции записанных нейронов — специализированных клеток, которые передают информацию по всему мозгу. Но стоило обратить процесс вспять, и те же нейронные реакции оказывались гораздо менее эффективны в предсказании многих внутренних признаков моделей.
Особенно показательно, что при сравнении активности нейронов разных мозгов между собой такой проблемы не было.
«Результаты были поразительными. Хотя модели ИИ могут довольно хорошо предсказывать нейроны, которые мы записали в мозге, мозг не может в равной степени предсказать многие внутренние признаки модели. Интересно, что это не так, когда нейроны одного мозга сравниваются с нейронами другого», — говорит Kar.
Получается, система ИИ может выдавать результаты, близкие к результатам мозга, но опираться при этом на совершенно иные внутренние механизмы. Совпадение с реакциями мозга ещё не значит, что процессы под капотом одинаковые.
Kar предупреждает: по мере развития ИИ это различие будет становиться всё важнее. Если совершенствовать модели только по тому, насколько точно они предсказывают нейронную активность, разрыв между ними и реальным мозгом приматов может накапливаться. А это подорвёт главную причину, по которой нейробиологи вообще берут эти системы: возможность строить реалистичные объяснения работы мозга.
«Находки предполагают, что сегодняшние системы ИИ решают визуальные задачи частично с использованием внутренних стратегий, которые мозг может не использовать. Важно, что те части моделей ИИ, которые согласуются с мозгом, также лучше предсказывают реальное поведение человека», — говорит Kar.
Почему это важно за пределами компьютерного зрения
Последствия выходят далеко за рамки распознавания картинок. ИИ всё чаще помогает исследователям разрабатывать эксперименты, изучать поведение человека и разбираться в неврологических и психологических состояниях. Многие из этих применений держатся на предположении, что модели ИИ обрабатывают информацию похоже на человеческий мозг.
Если предположение неверно, исследователи могут делать вводящие в заблуждение выводы из моделей, которые выглядят точными снаружи, но внутри работают иначе.
«Наши находки ставят под сомнение то, насколько на самом деле сегодняшние системы ИИ похожи на мозг приматов. Мы показываем, что модели, которые ранее считались похожими на мозг, полагаются на внутренние компоненты, которые мозг, по-видимому, не использует. Мы предоставляем тщательно проверенную диагностическую метрику для этой области», — говорит Muzellec.
Системы ИИ, которые точнее воспроизводят функцию мозга, могли бы в итоге улучшить исследования состояний — от посттравматического стрессового расстройства до аутизма. Но пока выявленные различия напоминают об осторожности: использовать существующие модели для изучения поведения человека или руководства клиническими исследованиями нужно с оглядкой.
Та же тревога касается и других областей нейробиологии. Похожие модели ИИ уже применяются для изучения слуха, языка и движения. Если эти системы тоже опираются на внутренние процессы, отличные от биологических, исследователям, возможно, придётся пересмотреть, насколько много они могут рассказать о нервной системе.
Не отказаться, а сделать ИИ честнее
Авторы не предлагают отказаться от искусственных нейронных сетей. Наоборот, их находки дают способ сделать эти модели полезнее и научно надёжнее.
Если определить, какие признаки модели ИИ соответствуют реальной нейронной активности, можно целенаправленно разрабатывать системы, которые точнее отражают биологические механизмы восприятия.
«Наш подход помогает определить, какие части ANN действительно соответствуют активности мозга, позволяя нам строить более надёжные модели для понимания того, как люди видят и интерпретируют мир, — говорит Kar. — Это особенно важно для нашей исследовательской программы по аутизму, которая опирается на модели нейротипичного мозга как на базовую линию».
Нейротипичный мозг — это мозг с паттернами неврологического развития и функционирования, которые обычно считаются типичными. Точные модели таких паттернов нужны исследователям, изучающим, как восприятие и обработка информации могут различаться при состояниях вроде аутизма.
Чтобы другие учёные могли применить находки на практике, команда выпустила общедоступный набор инструментов для тестирования. Разработчики ИИ могут оценить по нему собственные модели и найти точки роста.
Исследование опубликовано в Nature Machine Intelligence. Это новый подход к оценке искусственного интеллекта: он выходит за рамки измерения того, насколько хорошо система выполняет задачу. Понимание того, достигает ли ИИ своих результатов через процессы, действительно напоминающие мозговые, авторы считают не менее важным.
В перспективе открытие могло бы направить разработку нового поколения моделей ИИ. Таких, которые не только распознают мир с впечатляющей точностью, но и дают более точную картину того, как человеческий мозг осмысливает увиденное.
Материалы предоставлены York University. Оригинальный текст написан Sandra McLean. Содержание может быть отредактировано с точки зрения стиля и длины.