Связанные материалы: реификация, антропоморфизм, телеологизация, ретроспективизация, сознание как способность различения, онтологическая подмена в нейробиологической риторике.
Введение
Объяснение способности должно показать условия и устройство, благодаря которым эта способность осуществляется. Однако описание механизма нередко вводит внутри него нового деятеля, уже умеющего делать именно то, происхождение чего требовалось объяснить. Внешне объяснение перемещается от целого к его части, но логически остаётся на исходной позиции.
Гомункулярная ошибка позволяет обнаружить такую неподвижность объяснения. Её предмет — не употребление слов «мозг», «система», «модуль» или «агент» само по себе, а скрытый перенос объясняемой способности внутрь предполагаемого механизма.
Определение
Гомункулярная ошибка возникает, когда механизм, введённый для объяснения способности субъекта или системы, сам наделяется той же способностью без объяснения её устройства.
Минимальная структура ошибки:
субъект совершает X
→ X объясняется внутренним механизмом M
→ M также совершает X
→ происхождение способности X осталось необъяснённым
Название связано с образом гомункула — маленького человека внутри человека. Но буквальный внутренний человечек не требуется. Его роль может выполнять мозг, отдельная область мозга, нейронная сеть, модуль, программа, репрезентация или любая другая часть, которой приписали готовую способность видеть, понимать, выбирать или интерпретировать.
Внутренняя картина и внутренний наблюдатель
Классический пример строится так:
человек видит предмет, потому что мозг строит его внутреннюю картину.
Построение некоторого внутреннего состояния может быть частью механизма зрения. Но само наличие картины ещё не объясняет видение. Возникает вопрос:
кто или что видит эту картину?
Если предполагается внутренний наблюдатель, объяснение воспроизводит исходную задачу в уменьшенном масштабе:
внешний предмет
→ изображение в мозге
→ внутренний наблюдатель видит изображение
Теперь требуется объяснить, как видит внутренний наблюдатель. Если внутри него появляется следующая картина и следующий наблюдатель, начинается бесконечный регресс.
Проблема не в том, что внутренние состояния или репрезентации невозможны. Проблема возникает, когда словом «репрезентация» уже предполагается тот, для кого нечто представлено, но позиция этого различающего не раскрывается.
Перенос интерпретации
Та же ошибка появляется во фразе:
мозг интерпретирует сигнал.
Она может обозначать установленное преобразование входа: разные сигналы вызывают разные изменения состояния и поведения. Тогда «интерпретирует» используется как функциональное сокращение, которое можно раскрыть без обращения к пониманию.
Но возможна другая конструкция:
субъект понимает значение сигнала, потому что мозг понимает, что этот сигнал означает.
Здесь объясняемая способность к различению значения уже помещена внутрь мозга. Смена грамматического субъекта создаёт впечатление причинного шага, хотя логическая форма не изменилась:
субъект различает значение
→ мозг различает значение
→ нейронная сеть различает значение
→ модуль различает значение
Размер носителя уменьшается, но способность остаётся готовой на каждом уровне.
Гомункул без образа человека
Гомункулярное объяснение не обязано звучать антропоморфно. Оно может быть изложено техническим языком:
центральный исполнитель выбирает релевантное представление;
система оценки определяет значимость входа;
модуль сознательного доступа решает, какую информацию передать дальше;
механизм распознавания устанавливает, что находится перед системой.
Каждая такая формулировка может быть корректным названием функции. Ошибка возникает, если название функции выдаётся за описание её выполнения.
Например, «модуль распознавания распознаёт лицо» сообщает, где исследователь разместил функцию в модели, но ещё не показывает, каким образом различие лица производится. Гомункулом здесь становится не человекоподобное существо, а непрозрачный блок, на вход которого поступает задача, а на выходе появляется уже готовый результат.
Функциональное имя не является механизмом
Назвать часть по результату её работы удобно:
- система принятия решений;
- механизм внимания;
- модуль понимания речи;
- детектор ошибки;
- хранилище памяти.
Но такое имя движется от наблюдаемой способности к предполагаемому носителю:
обнаружено действие X
→ введена часть «исполнитель X»
→ действие X объяснено существованием «исполнителя X»
Если независимое устройство части не показано, возникает круг. «Детектор обнаруживает ошибку» может быть кратким обозначением уже описанной процедуры сравнения. Но если никакого критерия, сравнения и преобразования не предъявлено, слово «детектор» лишь прячет отсутствие объяснения.
Бесконечный регресс
Гомункулярная ошибка часто ведёт к регрессу, но наличие явного регресса не обязательно. Иногда рассуждение останавливается на слове, которое дисциплина принимает как достаточное:
кто понимает высказывание?
→ субъект
как субъект понимает?
→ смысл интерпретирует мозг
как мозг интерпретирует?
→ это функция нейронного механизма интерпретации
Последняя строка прекращает задавать вопрос, но не отвечает на него. Регресс скрывается внутри функционального названия.
Если же объяснение продолжать тем же способом, получится цепочка:
субъект видит
→ мозг видит внутреннее представление
→ подсистема читает представление
→ нейрон распознаёт сигнал
→ молекулярный механизм определяет его значение
На каждом шаге носитель становится меньше, но отношение к значению, образу или выбору сохраняется без разложения. Гомункул уменьшается, а необъяснённая способность остаётся прежней.
Не всякая декомпозиция гомункулярна
Разложение способности на подсистемы является нормальным способом исследования. Оно не содержит ошибки, если способности частей проще исходной и их совместная работа показывает, как возникает результат.
Например, объяснение сортировки может включать операции сравнения, обмена и остановки. Ни одна из них не обязана заранее уметь сортировать весь массив. Их организация производит результат, который требовалось объяснить.
Различие можно выразить так:
корректная декомпозиция:
сложная способность X
→ более простые операции A, B, C
→ показано, как A, B, C совместно осуществляют X
гомункулярная декомпозиция:
сложная способность X
→ внутренняя часть, уже способная к X
При этом слова могут совпадать. В инженерном описании «агент выбирает действие» может быть допустимым уровнем абстракции, если процедура выбора определена независимо. Поэтому наличие глагола субъектного действия — повод проверить объяснение, а не достаточное доказательство ошибки.
Гомункулярная ошибка и реификация
Эти ошибки могут сопровождать друг друга, но различают разные переходы.
Реификация происходит, когда категория описания превращается в сущность, свойство или причину:
наблюдаемая динамика
→ названа «выбором»
→ выбор помещён внутрь системы как её свойство
Гомункулярная ошибка возникает, когда этим внутренним «выбором» объясняется способность выбирать:
система выбирает
→ потому что внутренний механизм совершает выбор
Можно реифицировать категорию, не строя гомункулярного объяснения. И можно допустить гомункулярную ошибку с вполне реально существующей частью системы, если ей без объяснения приписана способность целого.
Гомункулярная ошибка и антропоморфизм
Антропоморфизм переносит человеческую форму действия на нечеловеческое:
нейрон решает, передавать ли сигнал.
Гомункулярная ошибка имеет более специальную логическую структуру:
субъект принимает решение, потому что нейроны принимают решения.
Вторая фраза не только очеловечивает нейроны, но и переносит объясняемую способность решения на уровень механизма. Поэтому одно высказывание может быть одновременно антропоморфным, реифицирующим и гомункулярным, однако основания квалификации будут различными.
реификация:
категория стала свойством объекта
антропоморфизм:
объект получил форму человеческого действия
гомункулярная ошибка:
способность целого была без объяснения передана его части
Где находится субъект различения
Особенно существенна ошибка в объяснениях сознания и смысла. Если субъект определяется через способность производить различия, нельзя объяснить эту способность введением внутреннего механизма, который уже различает.
Фраза
мозг отделяет значимое от незначимого
требует установить:
- относительно кого или чего существует значимость;
- каким критерием производится разделение;
- является ли результат физическим различием состояний или переживаемым различием смысла;
- не был ли критерий наблюдателя незаметно помещён внутрь механизма.
Физически разные реакции системы на разные входы ещё не тождественны различению значения субъектом. Чтобы утверждать тождество, необходимо отдельное онтологическое основание. Иначе позиция исследователя, который видит различие выходов, превращается во внутреннего наблюдателя системы.
Как распознать ошибку
Для проверки объяснения полезно задать несколько вопросов:
- Какая именно способность должна быть объяснена?
- Какой части или механизму она затем приписана?
- Стала ли способность части проще способности целого?
- Показано ли устройство операции или дано только её функциональное имя?
- Можно ли описать действие части, не употребляя глагол, обозначающий исходную способность?
- Потребуется ли внутри предложенного механизма ещё один наблюдатель, толкователь или принимающий решение?
- Не перенесено ли различение исследователя внутрь исследуемой системы?
Сильный диагностический приём — раскрыть действующее лицо каждого глагола:
система представляет объект — для кого?
мозг читает сигнал — посредством какого различия?
модуль оценивает результат — по чьему или какому критерию?
механизм выбирает — между какими альтернативами и как образован критерий выбора?
Если ответ снова содержит скрытого исполнителя той же способности, объяснение осталось гомункулярным.
Как выйти из гомункулярного объяснения
Недостаточно заменить субъектный глагол техническим термином. Нужно либо раскрыть устройство операции, либо честно обозначить границу объяснения.
Вместо:
мозг распознаёт лицо,
можно описать установленную зависимость:
при предъявлении изображений определённые преобразования входа приводят к устойчивому различию состояний системы и к разным ответам.
Такое описание ещё не решает вопрос о переживаемом узнавании, но и не выдаёт его за уже решённый.
Полное объяснение должно показать переходы между уровнями, не помещая результат следующего уровня в предыдущий как готовую способность:
физическое изменение
→ различие состояний системы
→ организация поведения
→ сообщение субъекта о восприятии
Если требуется перейти от этих зависимостей к переживанию, пониманию или смыслу, этот переход должен быть сформулирован как отдельная проблема, а не закрыт глаголом «интерпретирует».
Граница критики
Обнаружение гомункулярной ошибки не доказывает, что мозг, нейронные сети или внутренние представления не участвуют в осуществлении способности. Оно устанавливает более узкий результат: предложенное описание ещё не объяснило эту способность, если просто приписало её внутренней части.
Также не всякий высокий уровень описания обязан каждый раз раскрываться до физического основания. В конкретной задаче допустимо пользоваться функциональным блоком как известным. Требуется лишь не смешивать два утверждения:
мы условно считаем функцию X заданной на этом уровне модели;
мы объяснили происхождение способности X.
Первое может быть методологически достаточным. Второе требует показать устройство, которое не предполагает X в готовом виде.
Краткая формула
Гомункулярная ошибка — это объяснение способности посредством внутреннего носителя, которому та же способность уже приписана.
Её схема:
целое делает X
→ потому что часть делает X
→ вопрос о возможности X перенесён внутрь системы
Корректная декомпозиция не уменьшает субъекта, а заменяет исходную способность более простыми операциями и показывает, как из их организации получается объясняемый результат.
