DragonRU (dragon_ru) wrote,
DragonRU
dragon_ru

Categories:
Что это я все о политике и о политике? Тут и другие темы есть, где я никак не пойму - то ли я дурак, то ли авторитеты с мировым именем. Я про известный аргумент "китайской комнаты" про невозможность создания искуственного интеллекта. Напомню его, если кто не в курсе.

Представим себе изолированную комнату, в которой находится Джон Сёрл, который не знает ни одного китайского иероглифа. Однако у него есть записанные в книге точные инструкции по манипуляции иероглифами вида «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два», но в этих инструкциях отсутствует информация о значении этих иероглифов и Сёрл просто следует этим инструкциям подобно компьютеру.
Наблюдатель, знающий китайские иероглифы, через щель передаёт в комнату иероглифы с вопросами, а на выходе ожидает получить осознанный ответ. Инструкция же составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа. Фактически инструкция — это подобие компьютерного алгоритма, а Сёрл исполняет алгоритм так же, как его исполнил бы компьютер.
В такой ситуации наблюдатель может отправить в комнату любой осмысленный вопрос (например, «Какой цвет вам больше всего нравится?») и получить на него осмысленный ответ (например, «Синий»), как при разговоре с человеком, который свободно владеет китайской письменностью. При этом сам Сёрл не имеет никаких знаний об иероглифах и не может научиться ими пользоваться, поскольку не может узнать значение даже одного символа. Сёрл не понимает ни изначального вопроса, ни ответа, который сам составил. Наблюдатель, в свою очередь, может быть уверен, что в комнате находится человек, который знает и понимает иероглифы.
Таким образом Сёрл заключает, что хотя такая система и может пройти тест Тьюринга, но при этом никакого понимания языка внутри системы не происходит, а значит тест Тьюринга не является адекватной проверкой мыслительных способностей.

На мой взгляд, все, что доказывает это рассуждение - так это то, что ИскИн, как и любая другая программа, может исполняться на самой разной элементной базе, даже на такой экзотической. Да, этот контраргумент является достаточно очевидным, и его пытаются опровергнуть и сам Серл, и Пенроуз. Но вот как они это делают - вызывает у меня очередной фейспалм.

Начну с аргумента Серла.
В качестве контраргумента Сёрл предлагает заставить запомнить человека формальные правила ответов для системы. По мнению философа, система, которая теперь будет состоять только из человека, всё равно не сможет понять китайский язык

А про виртуальные машины Серл вообще слышал? Да? А тогда чего его удивляет, что система, на которой запускается виртуальная машина, может не иметь ни малейшего представления о том, что именно эта виртуальная машина делает?

Да и контраргумент Пенроуза не лучше.

как указывает Серл, это может привести к определенной форме дуализма. Дуализм — это философское мировоззрение, апологетом которого был в высшей степени влиятельный философ и математик XVII века Рене Декарт, утверждавший, что существуют две различные субстанции: «разумная субстанция» и обычная материя. Влияют ли они друг на друга, и если да, то каким образом — это уже отдельный вопрос. Ключевое положение этой точки зрения заключается в гипотезе о том, что «разумная субстанция» не может состоять из материи обычной и способна существовать независимо от нее. «Разумная субстанция» в представлениях сильного ИИ — это логическая структура алгоритма. Как я отмечал выше, ее физическое воплощение не имеет никакого значения. Алгоритм обладает неким бесплотным существованием, никак не связанным с конкретной физической реализацией. Насколько серьезно мы должны воспринимать такой вид существования — вопрос, к которому мне придется вернуться в следующей главе. Он представляет собой часть более глобального вопроса о платонистической реальности абстрактных математических объектов.
Пока же я обойду эту общую тему стороной и отмечу только, что сторонники сильного ИИ, по-видимому, принимают всерьез возможность подобного существования в случае алгоритмов, полагая, что те являются самой «сущностью» их мыслей, чувств, понимания и сознательного восприятия. В связи с этим Серл указал на примечательный в своей ироничности факт: теория сильного ИИ может привести к крайней форме дуализма — к той точке зрения, к которой сторонники сильного ИИ менее всего хотели бы иметь отношение!
В общем, из этого набора громких слов я понял только то - что в абсолютно точно той же степени это самое рассуждение применимо и к любому другому алгоритму. Даже к алгоритму перемножения двух чисел. Но Пенроуза это почему-то не подталкивает к выводу, что алгоритма перемножения двух чисел не существует.  Наверное потому, что вызванная различными значениями понятия "существовать" путаница оказывается слишком очевидной.

В общем, это я чего-то не понимаю, или философы и в самом деле написали более 750 статей на тему мысленного эксперимента, не стоящего и выеденного яйца?
Subscribe
  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 34 comments