Спор о том, может ли искусственный интеллект обрести сознание, зашел в тупик, а науке о сознании нужен свой Эйнштейн — к такому выводу пришли философ Харальд Вильче из Линчёпингского университета в Швеции и Кен Арчер, эксперт Microsoft по ответственному ИИ. Их совместное эссе опубликовал британский портал Institute of Art and Ideas.

Авторы обращают внимание на странную двойственность в этом споре. Самые горячие оптимисты насчет машинного сознания — это те, кто сводит разум к работе нейронов: если сознание — просто механизм, почему бы ему не заработать на кремнии, пишут они. Скептики же, которые не согласны сводить человеческий разум к «простым вычислениям», меняют мнение, как только речь заходит об ИИ: любой, даже впечатляющий результат машины они объясняют «просто вычислениями». Оба лагеря совершают одну и ту же ошибку: понимают объяснение как поиск механизма.

Великие упрощения в физике Галилея, Ньютона, Максвелла и Эйнштейна основывались на поиске более глубокой общей структуры, которая делает разные явления понятными сразу. Успех рождал соблазн превращать найденные общие структуры в воображаемую машину. Классический пример — эфир XIX века: раз свет — волна, решили физики, ей нужна среда, в которой она колеблется. Эйнштейн совершил прорыв, потому что решился отказаться от самого требования механизма.

С сознанием наука, по мысли Вильче и Арчера, может ошибаться так же. Поиски нейронных коррелятов очень важны для медицины, но из них не следует, что сознание — это «то, что делает мозг». Знаменитая «трудная проблема» философа Дэвида Чалмерса о том, почему работа механизмов вообще сопровождается субъективным опытом, сформулирована слишком рано: она заранее объявляет необъяснимым все, что не вписывается в механистическую картину, вместо того чтобы видеть в этом подсказку о ее неполноте.

«Сознание нужно сводить к более глубоким основаниям. Проблема в том, что сегодняшние сторонники такого сведения делают это недостаточно глубоко», — пишут Вильче и Арчер. Языковые модели, по их оценке, работают на «осадке языка», застывших следах чужого восприятия и суждений, а не на живом потоке, который этот осадок откладывает. У них нет ни непрерывности между диалогами, ни удержания прошлого и предвкушения будущего. Поэтому вопрос о машинном сознании, заключают исследователи, еще даже не поставлен как следует — не то что не решен.