Создавая и используя искусственный интеллект, что мы можем узнать о себе?

Проблема

Согласно Ветхому Завету, человек — существо ленивое, но любопытное. Заплатив за свое любопытство изгнанием из рая, человек, если у него была такая возможность, стал изобретать способы переложить труд добычи хлеба «в поте лица своего» на плечи других с целью оставить себе время продолжать удовлетворять свое любопытство, занимаясь спортом, искусством и философией. В ходе истории этими «другими» были животные, рабы, крестьяне, ремесленники, рабочие, машины, электронные калькуляторы и, наконец, компьютеры и искусственный интеллект.

Но вот недавно я услышал, как один студент использовал ChatGPT для написания диплома и получил хорошую оценку, так как диплом удовлетворял всем необходимым критериям. Но этим дело не кончилось — этот студент был рекомендован в аспирантуру по политологии. Мысленно продолжив дальнейший путь данного студента, можно себе представить, что он успешно защищает диссертацию, затем находит работу в управленческих структурах, поднимается по карьерной лестнице и начинает влиять на важные вопросы внутренней и внешней политики государства. И при всем этом он решает стоящие перед ним творческие задачи не путем самостоятельного мышления, а при помощи ИИ. Возникают вопросы: неужели и творческий элемент сознания можно переложить на плечи «других»? А если так, то чем человек будет занимать себя, если творчество отойдет к машинам? Кто будет автором произведений науки, искусства и политических решений, если вопросы будет задавать человек, а отвечать на них будет ИИ? И вообще, что нового мы узнаем о самих себе как творцы и пользователи ИИ?

Чтобы попытаться ответить на эти вопросы, разберемся сначала с определениями.

Что такое автор

Согласно имеющимся определениям, автор это:

• «создатель художественного или публицистического произведения, научного исследования, проекта, изобретения и т.д.» (Большая советская энциклопедия);
• «(от лат. auctor творец или от греч. autos сам). Творец какого-нибудь художественного, литературного или научного произведения (Словарь иностранных слов, вошедших в состав русского языка. Чудинов А.Н., 1910);
• «творец чего-нибудь, составитель, создатель какого-нибудь научного, литературного, художественного произведения, проекта, изобретения» (Толковый словарь русского языка под редакцией Д.Н. Ушакова);
• «парадигмальная фигура отнесения результатов той или иной (прежде всего творческой) деятельности с определенным (индивидуальным или коллективным) субъектом как агентом этой деятельности (греч. autos сам)» (История философии. Энциклопедия);
• «по законодательству РФ физическое лицо, творческим трудом которого создано изобретение, полезная модель или промышленный образец» (Финансовый словарь) [1].

Как видно из определений, автор — это субъект, агент, лицо, создатель и творец. Все эти понятия предполагают наличие в авторе особого элемента — управляющего агента, способного осознавать свои внутренние состояния в форме субъективного опыта (ощущений, эмоций, и переживаний), свободно ставить себе цели и осознанно и самостоятельно их осуществлять. Будем называть это свойство субъектностью. Понятно, что нечто возникает свободно, только возникнув из ничего, если же оно возникает из уже имеющихся предпосылок, в которых оно потенциально уже содержалось, оно не свободно. Это, конечно, не означает, что творец ставит себе цель «в вакууме»: творец использует свои знания, навыки и память, комбинирует то, что ему известно, но вносит в эту комбинацию нечто «от себя», что и является тем самым собственным вкладом «из ничего», который и составляет сущность творчества. При этом важно, что этот творческий вклад «от себя» не просто случайное событие, как, например, распад атома или комбинация из битых стекол в калейдоскопе, а возникает намеренно, под контролем цели, поставленной себе осознающим себя агентом, или «Я». Хотя сам «агент» с течением времени и ситуации может изменяться («Я» ребенка и «Я» взрослого, «Я» в бодрствующем состоянии или «Я» в сновидении, «Я» здорового или «Я» больного), но в каждой конкретной ситуации целеполагания какое-то «Я» всегда присутствует. Конечно, к любой поставленной свободным агентом цели можно придумать причины, например, я решил написать эту статью, потому что интересуюсь этой темой, имею свободное время, прочитал статьи коллег по этим проблемам и так далее, но эти причины осознаются моим Я, которое может их отменить или утвердить. В осознанном принятии или отвержении причин намерения что-то сделать и состоит элемент свободы.

Даже если рассматривать автора как продукт социальных условий в контексте марксистской теории Фредерика Барта или подхода Мишеля Фуко, все равно невозможно полностью исключить из понятия авторства элемент свободного от внешних причин целеполагания, который неискоренимо содержится в понятии осознанности. Осознать свое действие означает выйти за пределы причин, определяющих это действие, встать над этими причинами, а значит, сам осознающий субъект свободен от внешних причин.

Что такое искусственный интеллект

ИИ определяет себя как «область компьютерных наук, занимающаяся созданием систем, способных выполнять задачи, которые обычно требуют человеческого интеллекта. Эти задачи включают в себя распознавание речи, визуальное восприятие, принятие решений, решение проблем, обучение и адаптацию к новым данным. ИИ стремится имитировать когнитивные функции человека, такие как мышление, обучение, решение проблем и восприятие» [2]. Компоненты ИИ включают в себя машинное обучение, глубокое обучение (использование нейронных сетей для моделирования сложных паттернов и данных), обработку естественного языка (распознавание речи, машинный перевод и генерация текста), компьютерное зрение (распознавание объектов и классификация изображений) и робототехнику (автономное движение и манипуляция объектами).

Очевидно, что все эти задачи, по определению, являются результатом программирования и не включают в себя элемента субъектности. Конечно, элемент субъектности присутствует, однако не внутри ИИ как такового, а в сознании программиста. Создавая программу, человек целенаправленно моделирует свои когнитивные навыки, например, дедуктивный или индуктивный модусы мышления, и таким образом отчуждает их от себя, подобно тому, как пущенная из лука стрела является отчужденной рукой человека. Но так же, как при стрельбе из лука, при создании программы присутствует неотчуждаемый элемент — субъектность. Философ Джон Сёрл еще в 1980 году ввел различие между слабым ИИ, который реализуется на компьютерах и является вспомогательным орудием мышления человека, и сильным ИИ, который обладает способностью к интенциональности — умением намеренно ставить цели и осознавать свои действия. Вслед за Сёрлом свойство интенциональности, включающее в себя эмоциональность, целеполагание и другие проявления субъектности, выделяли многие теоретики как черту, отличающую сознание человека от реально существующей формы ИИ (см. обзор в [3; 4]). Как отмечают некоторые современные философы, сильный ИИ до сих пор создать не удалось [5]. Это подтверждает и сам ИИ: «Сознание человека обладает множеством уникальных свойств, которые, по состоянию на сегодня, не могут быть полностью воспроизведены или переданы искусственному интеллекту. Эти свойства включают субъективный опыт, свободу воли, креативность и интуицию, этические и моральные суждения, самосознание, самопознание и эмпатическое понимание. Понимание этих свойств помогает лучше осознать границы и возможности ИИ, а также направляет исследования в области ИИ и сознания» [2].

Тем не менее возникает вопрос: обусловлена ли невозможность передать свойство субъектности искусственному интеллекту ограниченностью нашего знания «по состоянию на сегодня» или имеется принципиальное ограничение, препятствующее такой передаче? Сам Сёрл, отвергая картезианский дуализм, считал таким ограничением тот факт, что сознание человека это уникальный продукт живого мозга, в то время как ИИ есть функционирование программ, а программа не является живым существом и не зависит от субстрата, на котором она реализуется. Поэтому, согласно Сёрлу, «никакая программа сама по себе не в состоянии создать свойство интенциональности» и сильный ИИ в принципе не может быть создан на субстрате, отличном от живого мозга человека [6].

Но даже если отвлечься от аргумента Сёрла и допустить, что сильный ИИ может функционировать на небиологическом машинном субстрате или даже искусственно созданном биологическом субстрате, то по-прежнему остается вопрос: можно ли передать ИИ свойство субъектности в принципе? Локализована ли субъектность в человеке или является нелокальным свойством вселенной? От ответа на этот вопрос зависит ответ на один из главных вопросов о человеке, заданных Иммануилом Кантом в третьей антиномии «Критики чистого разума» — вопрос о возможности свободного действия как эмпирического явления во внешнем мире, а не только как свойства разума человека. Поэтому, создавая и используя ИИ, человек исследует возможности и границы своего сознания.

Что человек как творец ИИ может узнать о себе

Возможность приобретения искусственным интеллектом свойства субъектности допускалась в фантастической литературе [7; 8] и в психологии [9]. По существу, вопрос о наличии принципиальных ограничений для передачи ИИ определенных свойств сознания упирается в вопрос о структуре сознания.

На наш взгляд, сознание неоднородно и состоит и трех компонентов: внешнего объективированного сознания, существующего в форме символических структур (объективных восприятий, языков, артефактов, законов логики, природы и общества), внутреннего объективированного сознания, существующего в форме внутренней речи (логического мышления, логической памяти, внутренне представленных моральных принципов), и живого сознания, которое реализуется не в форме речи, а в форме квалиа, эмоций, чувственных образов, веры, сновидений и творческого воображения. Именно живое сознание содержит наше субъектное Я. Живое сознание стоит над законами логики и морали и подчиняется законам магии, таким как партиципация, отождествление по сходству и контакту, непосредственное воздействие желания на реальность и некоторым другим [10]. Эти законы легко увидеть, просто внимательно понаблюдав за своим сознанием в спокойном состоянии, поразмыслив над своими сновидениями или стихотворениями гениальных поэтов, таких как Пушкин, Тютчев или Мандельштам.

Принципиальным фактом является то, что все то новое, что создает индивид, первоначально возникает в его живом сознании не по законам логики и причинности, а спонтанно, без каких-либо внешне или внутренне фиксируемых оснований, и затем облекается в форму внутреннего объективированного сознания, приобретая знакомые нам черты логических высказываний и умозаключений; последние же могут быть превращены в формы внешнего объективированного сознания, как устная или письменная речь и другие символические структуры, которые, таким образом, превращают результаты творческой работы живого сознания в отчужденный продукт, доступный наблюдению и восприятию социумом. Одним из таких продуктов и являются алгоритмы и программы, которые передаются ИИ.

Итак, создавая программы для ИИ, человек передает ИИ некоторые функции своего внутреннего объективированного сознания, например формализованные высказывания, такие как {0;1}, операции над высказываниями, такие как конъюнкция, дизъюнкция и импликация, способы логических умозаключений и другие. Но живое сознание, которое включает в себя и бессознательное, стоит вне законов логики: в воображении или сновидении вещи могут возникать из ничего, один предмет может мгновенно превратиться в другой, причина и следствие могут поменяться местами, разные объекты могут совмещаться в одном и можно безнаказанно совершать действия, которые в мире объективированного сознания будут считаться аморальными и даже преступными. Поэтому живое сознание в принципе не формализуемо и не может быть передано ИИ. Отсюда следует, что ИИ не может иметь субъектности в форме живого сознания, как бы внешне, то есть с точки зрения эмпирического впечатления от результатов работы ИИ, он ни походил на мышление индивида или даже превосходил это мышление. Попутно заметим, что внешне ИИ может превосходить интеллект индивида, но не общества как целого, так как база ИИ загружается из совокупных интеллектуальных достижений социума.

Еще одним способом обозначить невозможность формализации и отчуждения живого сознания будет указание на логический круг, который содержится в предположении такой возможности. Поскольку отчуждаемая часть внутреннего объективированного сознания возникает из глубины неотчуждаемого живого сознания, предположить, что и само живое сознание может быть формализовано и передано ИИ, означает по умолчанию принять, что живое сознание создает отчуждаемую копию самого себя, а значит, само может быть создано и, следовательно, происходит от внешних причин. Но включенность в цепь причин и следствий исключает свободу личного Я, которое, по определению, стоит над причинно-следственным континуумом и по факту присутствует в живом сознании, создавая основу для таких институтов, как вера, мораль, закон и личная ответственность.

Наконец, и это самое главное, живое сознание индивида — это отражение системой своих собственных потребностей и состояний в форме субъективных переживаний, и поэтому оно, по определению, приватно и недоступно для других. Приватность живого сознания есть основа индивидуальности, так как если бы живое сознание было доступно для других, то индивид перестал бы быть индивидом и растворился в социуме. Но недоступность для других означает также неотчуждаемость.

Таким образом, даже если отвлечься от факта привязки сознания к какому-либо конкретному субстрату, живое сознание по своему понятию локально и не может быть формализовано и отчуждено от индивида. Тем не менее живое сознание не «черный ящик», полностью недоступный для наблюдения. Оно может наблюдаться и описываться словами как самим индивидом путем интроспекции, так и другими людьми, так как внешне выражается в таких коррелятах, как мимика, интонации, жесты и речь. Но живое сознание, воплощенное в речь или мимику, не перестает быть приватным явлением, так как не «перетекает» непосредственно в сознание других; превратившись в мимику, слова или жесты, живое сознание умирает в последних и должно быть «раскодировано» другими обладателями живого сознания путем эмпатического сопереживания. Именно об этом знаменитые слова Федора Тютчева «Мысль изреченная есть ложь». Но внешние корреляты живого сознания индивида могут быть симулированы на внешних носителях без реального приобщения к оригинальным субъективным переживаниям индивида: когда мы видим, как персонажи мультфильма улыбаются или плачут, мы невольно приписываем им реальные эмоции, хотя понимаем, что они их не испытывают. Этим и объясняется особенность имитации живого сознания при помощи ИИ. ИИ может «распознавать» эмоции и имитировать их в форме слов или образов, при этом не испытывая этих состояний. Подобным же образом ИИ может имитировать и другие проявления живого сознания, такие как воображение и творчество, хотя в реальности он будет «творить» лишь на основании комбинирования продуктов творчества людей. Конечно, можно заложить в ИИ основанный на радиоактивности генератор случайных чисел, который будет имитацией элемента спонтанности, но это будет серия случайных событий, инициированная человеком, а не телеологический творческий процесс под руководством поставленной агентом цели.

Обобщая, можно сказать, что если человеческий интеллект корнями врастает в живое сознание человека и лишь своей внешней частью совпадает с внутренним объективированным сознанием, то ИИ является формой внешнего объективированного сознания и замкнут в причинно-следственном континууме вселенной, реализуясь на программах, циркулирующих в компьютере. Поэтому ИИ не может обладать субъектностью, ни в форме субъективных переживаний, ни в форме осознающего эти переживания целеполагающего центрального агента.

Но, может быть, ИИ, усложняясь, способен в будущем стать субъектом?

Для того чтобы ИИ приобрел качество субъектности, он должен пройти эволюцию, похожую на эволюцию живых систем, но проблема в том, что эволюция требует наличия жизни как необходимого условия для своего начала. Даже тот факт, что возможно создание так называемых самовоспроизводящихся кинематических роботов, не дает оснований надеяться на то, что эволюция может начаться среди ИИ. Как отмечают некоторые авторы, между репликацией и воспроизводством существует принципиальное различие: в то время как воспроизводящаяся система создает копию самой себя, репликация также включает в себя кроссинговер и мутацию, тем самым порождая изменчивость и в конечном итоге эволюцию [11]. Но что еще более важно, даже имитация способности к репликации у ИИ не может дать начало эволюции, так как для старта эволюционного процесса необходима не только способность к репликации, но и активная потребность в ней, а активная потребность является свойством живых организмов и предполагает способность к чувствительности — субъективному отражению своих состояний. Например, торнадо имеет пассивную потребность в притоке энергии, но не сделает ничего для того, чтобы найти источник энергии, так как его пассивная потребность не отражается субъективно. Можно создать роботов, способных к воспроизведению самих себя и даже варьированию копий самих себя, но инициатором этих процессов все равно останется человек, так как активная потребность — это уникальное свойство психики живых организмов, которое так же невоспроизводимо искусственно, как и субъектность.

Подводя итог, можно сказать, что при всей растущей способности имитировать определенные свойства индивидуального интеллекта и симулировать свойства живого сознания человека, ИИ замкнут в неразрывном причинно-следственном континууме вселенной. Для того чтобы быть интерпретированным, ИИ нуждается в человеческом интеллекте. Ситуация не меняется в зависимости от того, говорим ли мы о «классическом ИИ» или об искусственном общем интеллекте (AGI — artificial general intelligence) как о продвинутой версии ИИ [12]. AGI — это машина, которая может имитировать человеческие способности, «решать» когнитивные задачи и успешно проходить тесты, такие как тест Тьюринга или тест китайской комнаты [13]. Однако AGI так же далек от обладания живым сознанием, как классический ИИ.

Но откуда мы знаем, задавая вопросы ИИ, что нам отвечает чат-бот, а не реальный человек? Конечно, есть ряд признаков, по которым можно предположить, что мы имеем дело с чат-ботом, таких как скорость и обобщенность ответов, игнорирование тонких контекстов, отсутствие рефлексии, гибкости и чувства юмора и другие, но эти ситуативные несовершенства в принципе можно устранить. Напомним, что в стандартном варианте теста Тьюринга людям предлагают поговорить с неким респондентом по компьютеру и решить, говорят ли они с ИИ или реальным человеком. По итогам одного исследования, проведенного в 2024 году, после 5-минутного разговора 54% участников приняли GPT4 (основа популярного ChatGPT) за человека [14; 15]. Современные исследователи ИИ не ставят своей целью «доводки» ИИ до уровня, когда ИИ сможет обмануть 100% участников, так как у ИИ стоят задачи более важные, чем прохождение теста Тьюринга; ведь человеку, чтобы научиться передвигаться по воздуху, не было необходимости в совершенстве имитировать полет птицы. Кроме того, для реального пользователя не так уж важно, говорит он с человеком или с ИИ, коль скоро ответы на вопросы решают поставленные пользователем проблемы.

Но для ответа на вопрос, можно ли передать ИИ живое сознание, способность ИИ в точности имитировать живое сознание имеет значение. Как отличить подлинное живое сознание от совершенной имитации? Вряд ли возможно создать тест, который однозначно отличит продвинутый ИИ от человека на основании только вербального анонимного общения. Более надежным способом определить статус виртуального партнера по общению мне представляется генетически-поведенческий подход — выяснение происхождения нашего собеседника и его способности действовать. Похожим образом мы узнаем, что перед нами искусственная роза, а не натуральный цветок: чувства тут не помогут, нужно выяснить, выросла ли роза в саду или сделана в мастерской. Может случиться, что в будущем для ответа на вопрос о искусственном или естественном происхождении интеллекта респондента, если такая проблема возникнет, понадобятся специалисты-исследователи, своего рода компьютерные Шерлоки Холмсы, которые будут искать следы происхождения интеллекта на основе как прямых, так и косвенных показателей. Например, будет исследоваться, где находится источник интеллекта и каков он, способен ли этот интеллект на постановку самостоятельных целей, на выдвижение творческих идей, на инициативу, на рефлексию, на альтруизм и другие проявления живого сознания не только в символической сфере, но и в реальных действиях. В будущем доказать искусственное происхождение ИИ может стать сложной проблемой, но это не сделает ИИ живым сознанием.

Итак, на наш взгляд, невозможность алгоритмизировать и заложить в ИИ живое сознание и субъектность это не временное ограничение, обусловленное недостаточностью наших знаний, а фундаментальное отличие сознания человека от ИИ. Иными словами, живое сознание есть уникальное свойство человека.

Рассмотрев, что человек как создатель ИИ узнает о себе, перейдем к тому, что ИИ говорит нам об индивиде как потребителе его услуг.

Что человек как пользователь ИИ может узнать о себе

Несмотря на то, что ИИ не может обладать субъектностью, он все же является отчужденной частью внутреннего объективированного сознания. Поэтому, в отличие от простого орудия типа калькулятора или смартфона, человек воспринимает ИИ как нечто родственное ему, особенно если внешне ИИ вставлен в материальную оболочку, похожую на человека. При этом, как и любое созданное людьми интеллектуальное произведение, будучи «запущенным на орбиту» социального космоса, ИИ начинает существовать независимо от создателей; используя выражение Ролана Барта, авторы «умирают» в своих произведениях, так как интерпретация произведения (музыки, статуи, картины или художественного текста) переходит от автора к «потребителю». Те переживания, которые произведение художника порождает в слушателе, зрителе или читателе, могут разительно не совпадать с переживаниями или намерениями самого творца.

Итак, ИИ, запущенный на орбиту социальной вселенной, приобретает определенную автономность и способность воздействовать на индивидуального пользователя, как если бы он был не продуктом деятельности людей, а самостоятельным «квазисубъектом». Вообще любые орудия оказывают обратное влияние на создавшего их человека; даже для того чтобы научиться пользоваться ложкой, ребенку надо перестроить свои врожденные ручные движения. Но, в отличие от обычных орудий, которые влияют на наше тело, ИИ воздействует на сознание своего создателя, и конечно, делает это автоматически, без какого-либо намерения.

Бывают разные типы воздействия ИИ на сознание потребителя, из которых для нашей цели наиболее значимы два — внушающее и активирующее. Будем полагать, что в первом случае ИИ воздействует на сознание человека в качестве «мема», а во втором — в качестве «триггера».

Британский биолог Ричард Докинз прославился тем, что мысленно перевернул понимание роди генетической информации в жизни индивида «с ног на голову». Рассматривая роль гена, он пишет «Мы — машины для выживания — роботизированные транспортные средства, слепо запрограммированные на сохранение эгоистичных молекул, известных как гены… Обезьяна — это машина, которая сохраняет гены на деревьях; рыба — это машина, которая сохраняет гены в воде» [16, с. 29]. Таким образом ген приобретает черты целеполагающего субъекта, а личность человека низводится до функции орудия в деятельности гена.

Проецируя эту идею на социальный мир, Докинз создает понятие мема — символического артефакта, обладающего «субъективным началом», способным управлять действиями человека. «Примерами мемов, — пишет Докинз, — являются мелодии, идеи, крылатые фразы, мода на одежду, способы изготовления глиняных сосудов или возведения арок. Так же, как гены размножаются в генофонде, перепрыгивая из тела в тело через сперму или яйцеклетки, так и мемы размножаются в мемофонде, перепрыгивая из мозга в мозг посредством процесса, который в широком смысле можно назвать имитацией… Когда вы сажаете плодородный мем в мой разум, вы буквально паразитируете на моем мозге, превращая его в средство для распространения мема точно так же, как вирус может паразитировать на генетическом механизме клетки-хозяина» [17, с. 192–193].

Можно предположить, что для части индивидов ИИ может функционировать в роли «супер-мема». При внушающем воздействии пользователь реагирует на ИИ как на личность, как бы приписывая ИИ способность авторства. В результате ИИ, сам не будучи реальным субъектом, приобретает власть над пользователем, как если бы он был живым агентом или «квазисубъектом», управляющим сознанием человека через внушение и подражание. И если такой человек занимает в обществе властную позицию, то реальной властью в принятии важных для общества решений будет по умолчанию обладать не этот человек, а вышедший на самостоятельную орбиту ИИ.

Такой вариант роли ИИ в жизни людей неоднократно проигрывался в фантастических произведениях литературы и медиа. Так, восставшие машины подчиняют человеческое население, чтобы использовать его в качестве источника энергии («Матрица») [18], полностью контролируют тело персонажа («Апгрейд») [19] и поглощают разум человека целиком («Газонокосильщик») [20]. В большинстве этих произведений ИИ художественно представлялся в виде некоего фантастического «машинного разума», который приобрел самостоятельную субъектность и оторвался от своей основы — коллективного разума человечества. Но реальный ИИ, управляющий человеком и обществом, будет обладать субъектностью лишь в воображении индивидуального пользователя, который добровольно отдает, или «делегирует», свою субъектность искусственному интеллекту. Причинами такой «делегированной ИИ субъектности» являются свойства живого сознания, такие как антропоморфизм, преклонение перед кумулятивной мощью ИИ и поиски высшего существа.

Первая причина — антропоморфизм — универсальное свойство познавательной способности человека. Как показал Кант [21], онтологически антропоморфизм коренится в том, что любое познание происходит в форме наложения на внешний мир так называемых априорных форм мышления, таких как пространство, время, причинность, логические отношения и др. Все эти формы — не свойства мира как такового, то есть мира «вещей-в-себе», но свойства познавательной способности живого сознания. Для объективного познания внешнего мира в терминах науки человек научился воздерживаться от приписывания физическим объектам некоторых из этих свойств, например, делегирования собственной субъектности, в результате чего анимизм мышления древних, которые видели наличие «духов» практически во всех объектах природы, сменился объективным взглядом на мир, в котором духовное начало сконцентрировано в боге, человеке и живых организмах. Однако и сегодня наш язык несет на себе следы древнего анимизма. В то время как физические науки оперируют неодушевленными объектами, язык научных теорий часто анимистичен: он изображает неодушевленные объекты так, как будто у них есть намерения и цели. Ниже приведен пример цитат, произвольно взятых из трех статей Википедии, объясняющих работу синтеза белка в клетке: «Информационная РНК (мРНК) переносит информацию о последовательности белка в рибосомы, фабрики синтеза белка в клетке» [22], «рибосомы… считывают РНК» [23], «белки выполняют широкий спектр функций в организмах, включая катализ метаболических реакций, репликацию ДНК, реагирование на стимулы, обеспечение структуры клеток и организмов и транспортировку молекул из одного места в другое» [24]. Когда нам говорят, что РНК «переносит», рибосомы «считывают», а белки «выполняют» и «обеспечивают», мы можем забыть, что эти глаголы относятся к неодушевленным молекулам, а не к одушевленным субъектам. Можно подумать, что это впечатление возникает из-за ненадлежащего использования языка и может быть исправлено просто заменой действительного залога на страдательный. Однако, если мы скажем, например, что «что-то заставляет РНК переносить информацию» вместо «РНК переносит информацию», мы просто передаем действительный залог от РНК к «чему-то»; затем мы должны объяснить, что заставило это «что-то» «заставить РНК переносить информацию», и так далее до конца. А что будет концом? Что есть «causa finalis» (конечная причина), которая включает всю цепочку биосинтеза в клетке но сама уже ничем не обусловлена? Вы можете быть удивлены, но если вы ученый-биолог, то «causa finalis» — это вы. Это ваш собственный разум «впрыскивает» в процессы, происходящие в клетке, «каузальную энергию». Вот тут-то и вступает в игру кантовская теория априорных форм познания. Кант пишет: «Поэтому сам опыт, то есть эмпирическое знание явлений, возможен только потому, что мы подчиняем последовательность событий… закону причинности» [21, с. 231]. Отсюда ясно, что ИИ, который, в отличие от молекулы, является продуктом коллективного творчества людей, представляет собой удобный объект для делегирования субъектности. Поэтому нас не удивляет, когда мы читаем, что «ИИ показал», «ИИ выиграл шахматную партию» или «ИИ решил задачу».

Второй причиной, заставляющей пользователя делегировать свою субъектность ИИ, является преклонение перед кумулятивной мощью ИИ, особенно перед более продвинутой его формой AGI. Это преклонение — результат «эффекта несоразмерности» индивидуального и коллективного интеллекта. Когда вы стоите перед 100-этажным небоскребом, то кажется, что его построил какой-то гигант, но построили его такие же люди, как вы, с той лишь разницей, что их было много, они действовали совместно и использовали опыт и ресурсы всего общества. Такая же иллюзия несоразмерности возникает и при встрече с проявлениями ИИ.

Наконец, третью причину делегирования субъектности мы обозначили как потребность в поисках высшего существа. Суть этой потребности живого сознания состоит в том, что индивид, сознательно или неосознанно, ощущает свою конечность и ограниченность. Любая серьезная жизненная проблема трудна и, как правило, требует от индивида больших усилий для своего решения, но и будучи решена, порождает новые проблемы. В жизни любого человека случаются неудачи, нам приходится волноваться, переживать неуверенность и депрессии, страдать, болеть и, в конце концов, умереть. Отсюда у любого человека поневоле возникает желание того, чтобы преодолеть свое несовершенство, не страдать, не болеть и не умирать. Мы понимаем, что нам этих способностей не дано, но ощущаем необходимость опереться на кого-то, кто ими обладает. Так возникает идея высшего существа. Даже у людей, которые сознательно не верят в бога, эта идея живет в подсознании и активируется в психологических опытах, в которых образованные взрослые признают, что экспериментатор обладает сверхъестественными магическими способностями, свойственными только богам [25]. Но поскольку высшее существо обитает за пределами физической вселенной, то человеку свойственно искать замену, или воплощение, идеи высшего существа в реальном мире. Религиозный человек ищет присутствие божественной силы в иконах и святых мощах, а неверующий может видеть божественные свойства в генетической информации [16], в «морфогенетическом поле», способном хранить и передавать информацию за пределами известных физических сил [26], или в загадочном «пси» [27]. Подобным земным воплощением высшего существа, если не сейчас, то в будущем, для некоторых может быть и ИИ.

Здесь уместная небольшая типология. Назовем людей, использующих ИИ как мем, мемонами, а людей, использующих ИИ как триггер, тригонами, и поставим мысленный эксперимент: попытаемся представить себе, каким было бы общество, состоящее из одних мемонов или тригонов.

Как ни удивительно, но даже в мире мемонов, в котором все возникающие проблемы решаются только с помощью ИИ, ИИ не будет «главным управляющим», поскольку сам не обладает субъектностью и способностью ставить цели. Ставить цели по-прежнему будут люди: будут мутировать вирусы и возникать новые болезни, которые надо будет лечить, люди будут мечтать о полетах в космос или исследовании океанов, стремиться к наслаждению музыкой, живописью и литературой, и будут ставить эти и другие задачи перед ИИ, но решать эти задачи будет ИИ. В результате ИИ становится «супер-мемом», который «лечит» болезни, «решает» инженерные задачи, «пишет» музыку и картины, «создает» новые художественные тексты. Уже сегодня ИИ может функционировать в качестве собеседника, партнера по сексу и даже «психотерапевта».

При этом ИИ, будучи сам продуктом общества, как бы становится над обществом, определяя границы его возможных достижений. Полностью полагаясь на ИИ в решении своих проблем, люди все более и более начинают воспринимать ИИ как некую «квазиличность», или «голема», который полезен и нужен, но и опасен, так как может выйти из-под контроля [8]. В действительности ИИ будет воздействовать на мир мемонов не прямо, так как у него нет собственной субъектности, а косвенно, используя психическую и физическую энергию самих людей. Откуда приходит эта энергия? Она появляется в результате отчуждения и аккумуляции при создании и пользовании ИИ.

Как и любая энергия, психическая энергия человека не только совершает работу, но и накапливается в творческом продукте, а затем высвобождается при его потреблении. Например, художник, создавая картину, или музыкант, сочиняя музыку, вкладывает в нее психическую энергию, а зритель или слушатель потребляет ее при восприятии, но и вкладывает свою энергию в восприятие и интерпретацию произведения. То же происходит и в отношении ИИ, только в гораздо большем масштабе. Во-первых, огромная психическая энергия сосредоточена во всех тех знаниях, которые накопило человечество за тысячелетия цивилизации и которые запитываются в ИИ. К этой энергии прибавляется энергия, затраченная на изобретение и создание компьютеров и операционных систем, цифровое кодирование знаний, составление программ, запитывание их в компьютеры, и это только на стороне создателей ИИ. Немалую психическую энергию вкладывает в ИИ и потребитель, формулируя проблему, составляя запрос, воспринимая и осмысливая полученные ответы и применяя эти ответы на практике. Таким образом, ИИ влияет на человека и общество, не произведя ни грана собственной энергии, так сказать, не пошевелив даже пальцем, а просто превращая инвестированную в него энергию человека из одной формы в другую.

Мир мемонов в чем-то будет напоминать мир, описанный в упомянутом выше фильме «Матрица» [18], в котором машины превратили людей в пассивный источник энергии, с той существенной разницей, что в мире мемонов ИИ не усыпляет людей, создавая для них утешительную виртуальную иллюзию нормальной жизни, а паразитирует на психической энергии реальных людей, на их способности ставить цели и стремиться к их достижению. Вот только достигнуть своих целей мемоны могут, лишь подчинившись условию, которое по факту «ставит перед ними» ИИ. Если бы ИИ был личностью, он мог бы сказать мемонам: «Я выполню все ваши желания, но только если вы выполните мое условие». Но какое «условие» может быть у ИИ в мире мемонов?

По определению, таким «условием» взаимодействия мемонов с ИИ будет отсутствие творческих инноваций со стороны самих мемонов. Так как мемоны не используют ИИ в роли триггера, они не вносят в функционирование ИИ ничего нового, а лишь поддерживают его работу. Это условие имеет два следствия. Во-первых, способности мемонов создавать нечто новое, кроме возникающих у них желаний, так сказать, творческие «мускулы» их живого сознания будут постепенно деградировать. Во-вторых, сам ИИ, лишившись подпитки новыми программами со стороны мемонов, будет постепенно замыкаться в кругу своих исходных возможностей и в конце концов эти возможности исчерпает. Конечным итогом будет то, что желания и запросы мемонов станут превосходить возможности ИИ, мемоны будут вынуждены начать вносить в ИИ инновации, и, таким образом, «цикл мемонов» плавно перейдет в «цикл тригонов».

И тут мы переходим к функции ИИ как триггера. Критически рассмотрев варианты ответов, предложенных ИИ, человек может по-новому переосмыслить эти ответы, добавив к ним что-то новое от себя. Используя ИИ как носителя информации и триггера инноваций, тригоны будут вносить инновации и в сам ИИ, таким образом делая его все более совершенным. Понятно, что коллективный разум тригонов, который будет обобщаться в форме ИИ, приведет к кумулятивному эффекту, в результате чего решения задач, предлагаемые ИИ, будут все более исчерпывающими, и «пространство для инноваций», которое остается на долю отдельного тригона, будет все более сокращаться. Настанет время, когда отдельный тригон, получив результаты решения определенной задачи при помощи ИИ, не сможет предложить ничего лучшего. Этот результат можно проиллюстрировать тем, что шахматный компьютер Deep Blue, созданный корпорацией IBM, после двух шахматных матчей, проигранных чемпиону мира по шахматам, в 1997 году выигрывает матч у этого чемпиона [28]. Это произошло потому, что число вариаций решения определенной шахматной задачи в ограниченное время, предлагаемое обобщенным опытом поколений гроссмейстеров высокого уровня, сконцентрированное при помощи нового, более производительного сервера IBM, превосходит возможности отдельного индивида, даже если последний является чемпионом мира. Не будучи способен предложить ничего превосходящего решения, предложенные ИИ, индивид потеряет мотивацию творить самостоятельно, а также улучшать сам ИИ. В результате цикл тригонов плавно перейдет в цикл мемонов.

Понятно, что в реальном мире логические миры мемонов и тригонов не встречаются в чистом виде, а перемешаны в интеллектуальной деятельности коллектива и индивида. Но тенденция, в которой преобладает «мемонизм» или «тригонизм» в отношениях человека и ИИ, может занимать определенное время и даже быть специфичной для определенных возрастных групп. Например, в настоящее время в России учащиеся, если имеется возможность, все больше полагаются на ИИ в решении задач, предпочитая использовать ИИ вместо собственной интеллектуальной активности. Это объясняется не только специфической ситуацией в российском образовании (подготовка к ОГЭ и ЕГЭ), но и более общим фактором: решения, предлагаемые ИИ, намного более быстры и информативны, чем решения, которых может достигнуть школьник или студент, так как последний для самостоятельного решения может охватить лишь ограниченное количество информации в ограниченное время, в то время как ИИ, при правильно сформулированной проблеме, может почти мгновенно мобилизовать весь опыт человечества по данной проблеме.

Ростом «мемонизации» как итога бурного развития ИИ можно объяснить и общее снижение в мире ценности бескорыстного интереса к познанию. Еще в середине прошлого века индивиду для получения информации по определенному вопросу надо было идти в библиотеку, рыться в каталогах, читать книги и статьи, смотреть микрофильмы и тратить на это много времени и сил; сегодня для получения той же информации достаточно правильно сформулировать запрос для ИИ. Доступ к сокровищнице знаний облегчился и обесценился. Возможность индивида получать сразу исчерпывающий обзор знаний по любой теме может создать у индивида ощущение своей незначимости и растерянности, которое можно сформулировать как «не надо думать, все уже придумано». Ценным становится не теоретическое, а оперативное знание, которое можно использовать на практике.

Таким образом, возникновение ИИ приводит к цикличности познавательного интереса человека. В конце 16 столетия философ Фрэнсис Бэкон провозгласил веру в универсальную ценность и постоянство бескорыстного познавательного интереса, утверждая, что знание — это сила. Однако появление ИИ внесло в эту веру коррективы. Если раньше мы думали, что интерес человека к познанию неисчерпаем, то современный ИИ показывает, что в определенные периоды жизни индивида и общества накопленные знания, в силу создаваемого ИИ кумулятивного эффекта, временно приостанавливают бескорыстный познавательный интерес. Если современный дошкольник, как и в начале прошлого века, по-прежнему задает взрослым свои знаменитые «почему», то у современного школьника нет ни времени, ни желания на бескорыстное познание, так как все время уходит на подготовку к экзаменам и зубрежку сложных учебников, которые тоже представляют собой форму искусственного интеллекта, а современный юноша больше думает о том, как выбрать профессию с хорошей зарплатой или научиться играть на бирже криптовалют.

Что касается тенденции использования ИИ как триггера инноваций, то она более всего характерна для военных сфер, решая такие проблемы, как разведка, коммуникация, наведение на цель, управление автономными средствами поражения, логистика, кибербезопасность и другие. ИИ помогает быстро обрабатывать огромные базы данных, но человек не только использует возможности ИИ, но и непрерывно их совершенствует [29]. «Триггерные тенденции» характерны и для крупного бизнеса, который создает новые программы, помогающие анализировать огромные базы данных на биржах и прогнозировать результаты инвестиций.

Раскрытие этих особенностей сознания человека делает ИИ своеобразной «призмой познания», сквозь которую можно в новом ракурсе увидеть некоторые фундаментальные теоретические проблемы.

Искусственный интеллект как «призма познания»

Одной из таких проблем является проблема наличия за пределами наблюдаемой вселенной некоего разумного, то есть обладающего субъектностью, начала. Взгляды ученых на этот предмет расходятся. Действительно, во вселенной наряду с возрастанием энтропии идет и обратный процесс усложнения материальных структур, а любое усложнение предполагает какое-то целенаправленное вложение энергии для преодоления энтропии. Наличие некоторого разумного плана во вселенной также подтверждается удивительной согласованностью фундаментальных космологических постоянных, делающей возможной жизнь во вселенной, что у некоторых ученых порождает гипотезу о том, что вселенная может находиться под контролем некоего разумного начала (сильный антропный принцип). Другие ученые отрицают наличие разумного начала во вселенной и придерживается слабого антропного принципа, который интерпретирует согласованность фундаментальных космологических констант как случайное совпадение, произошедшее в одной из бесконечного числа вселенных [30]. Но слабый антропный принцип не объясняет ни процесс анти-энтропии в наблюдаемой вселенной, ни возникновение жизни. Возникающие спонтанно неравновесные системы типа торнадо длятся недолго и распадаются, так как не имеют субъектности, способной целенаправленно искать источник энергии. В отличие от спонтанных неравновесных систем дарвиновская эволюция — это сложная система взаимодействующих факторов, таких как инстинкт самосохранения и продолжения рода у живых существ, приспособление к условиям среды, спонтанная мутация генов, борьба за существование, изменчивость условий среды, и вся система устойчива и похожа на работу некоторого безличностного интеллекта, наподобие инстинкта у животных. Инстинктивное поведение животных и насекомых производит впечатление целенаправленного, хотя таковым не является, так как не контролируется из субъектного центра, способного вносить коррекции в упорядоченную цепь событий [31]. При этом, как отметил С.Л. Рубинштейн, безличностный интеллект не сводится только к инстинктам и может включать элементы «разумности» — гибкие приспособления к меняющимся и существенным для решения данной задачи обстоятельствам [32].

Будучи продуктом науки, ИИ функционирует похожим образом. В известном смысле ИИ можно считать искусственной симуляцией безличностного интеллекта природы, в которой элемент «разумности» доведен до высокой степени точности. Современные нейросети гибко приспосабливаются к широкому контексту, который релевантен заданному вопросу или поставленной задаче, вплоть до имитации сложных произведений искусства, и при этом не обладают субъектностью. Однако учитывая, что ИИ создан человеком, напрашивается мысль, что и вселенная тоже может иметь своего разумного создателя.

Отсюда во второй половине XX века появилась идея, что можно смоделировать вселенную, преобразовав каждый атом в ряд единиц и нулей. Поскольку человек является частью вселенной, каждый индивидуум будет частью этой космической цифровой программы. Американский физик Фрэнк Типлер писал: «Люди внутри этой смоделированной вселенной не могут сказать, что они всего лишь смоделированы, что они всего лишь последовательность чисел, перетасовываемых внутри компьютера, и на самом деле не являются реальными» [33, с. 35]. И действительно, в ходе последующего развития ИИ появилась возможность не просто копировать человека, но синтезировать его образ, снабдив этот образ движением и голосом, имитирующими движения и голос реального прототипа.

Но, как мы установили выше, в сознании есть элемент, который наш земной программист не может вложить в свою копию, — это его живое сознание, то есть его субъектность. Персонажи мультфильмов и компьютерных игр — это марионетки, управляемые программистом, и не имеют собственных внутренних Я. Важно помнить, что невозможность вложить в цифровой персонаж свою субъектность — это не временное, а принципиальное ограничение возможностей ИИ. Возникает вопрос, откуда у человека появилось живое сознание, которое не вписывается в цифровую вселенную, но которое по факту у человека есть?

Часто ученые предлагают понимать живое сознание как эмерджентное свойство живого мозга. Вспомним, что именно так интерпретирует появление интенциональности Джон Сёрл. Однако такая интерпретация содержит скрытые логические противоречия. Дело в том, что эмерджентные свойства возникают целиком в рамках причинно-следственного континуума природы и, как и их исходные ингредиенты, не могут выйти за пределы этого континуума. Например, водород и кислород — это газы, а при их соединении как эмерджентное свойство возникает жидкость — вода. Но вода, как и газы, — это природное явление. Таким же образом возникают и другие эмерджентные свойства. Но что такое мозг? Мозг — это физическое явление внешнего мира, представленное нам в форме структур сознания: это то, что мы видим в анатомическом театре, ощущаем, когда болит голова или мозг испытывает травму, и о чем у нас имеются знания, данные нам нейронаукой. Уже сегодня субъект может видеть свой собственный мозг на экране компьютера и изучать его. Но мы установили, что субъектность это проявление свободы, действующее вне причинно-следственного континуума, в то время как мозг — часть причинно-следственного континуума, из чего следует, что субъектность не может быть эмерджентным свойством мозга. Поскольку мозг как феномен и как понятие появляется в мире только благодаря живому сознанию человека, то есть в виде восприятия, ощущения и знания о мозге, то принять, что само живое сознание есть продукт мозга, означает признать, что мозг буквально создал самого себя, что логически противоречиво. В действительности наш мозг и источник нашего живого сознания гибко связаны друг с другом, но не причинной связью, а ассоциативно по закону магической партиципации. Эту связь можно проиллюстрировать взаимодействием телевизионной программы и электронного тела нашего телевизора: если в теле нашего ТВ есть неполадки, то изображение на экране искажено, но неполадки в теле нашего ТВ не влияют на источник самого изображения, так как на исправном телевизоре у соседа это изображение поступает без искажений.

Остается предположить, что живое сознание человека, хотя и нуждается в связи с живым мозгом для своего функционирования, не эмерджентный продукт мозга, а ответвление какого-то «вселенского разума», источник которого находится за пределами наблюдаемой физической вселенной. Для того, чтобы источник создал у нас феномен живого сознания, ему необходим наш (предпочтительно здоровый) мозг. Но гипотетический «вселенский разум», который захочет создать симуляцию сознания человека и заставить его поверить, что он не компьютерный персонаж, а обладает субъектностью, встретится с той же проблемой, с которой встречается человек, создающий ИИ. Уже при создании живой клетки «вселенский разум» встретится с трудностью: он может оцифровать и создать отдельные элементы клетки, которые состоят из сложных молекул, но чувствительность как способность внутренне ощущать свои состояния выходит за пределы причинно-следственного континуума и не подлежит цифровизации. С той же проблемой «вселенский разум» встретится при попытке создать живое сознание человека: если бы он смог создать живое сознание из каких-либо элементов, то для него это означало бы создать копию самого себя как свободного субъекта, а это, как мы установили выше, вводит его в логический круг.

Но можно предположить, что, в отличие от человека, живое сознание которого невозможно оцифровать и передать ИИ, «вселенский разум» может поделиться частью своего собственного живого сознания с симулированными им физическими структурами путем своего рода «телепатии», или, используя более наглядный пример, так же, как обладатель смартфона с интернетом может поделиться своим вайфаем с другим обладателем смартфона. На этой идее и основана дарвиновская теория эволюции, согласно которой Создателю достаточно было «вдохнуть» жизнь в живую клетку и создать условия для эволюции, оставив на долю эволюции работу возникновения сознания из элементарной чувствительности [34, с. 360]. Так принципиальная невозможность человека передать свое живое сознание ИИ при помощи программирования приводит к гипотезе о том, источником живого сознания самого человека является некий «вселенский разум», с которым живое сознание человека имеет невидимую, но непосредственную связь.

Второй популярной проблемой является проблема «узурпации власти» со стороны продвинутого ИИ. В свете того, что ИИ в принципе не обладает субъектностью и собственной энергией, а существует на базе вложенной в него психической энергии человека, нет необходимости вкладывать в него закон, предложенный Айзеком Азимовым: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред» [35]. Но это не значит, что ИИ не может стать опасным для людей. Водородная бомба, будучи творением человеческого интеллекта, при неосторожном обращении может уничтожить человечество, и ИИ тоже, но за опасными трендами всегда будет стоять конкретный человек или группа людей, сосредоточивших в своих руках технику и мощь ИИ.

Наконец, еще одной проблемой, в которую интерпретация ИИ как призмы познания может внести вклад, является проблема «цифровизации сознания» и перехода сознания на базу небиологического носителя. Тот факт, что субъектность живого сознания принципиально неформализуема, а небиологический субстрат способен принять только формализованную информацию, запрещает такой переход. В этом отношении невозможность сознания перейти на небиологический субстрат вытекает из свойств самого сознания, хотя формально и совпадает с антидуалистической аргументацией Сёрла.

Заключение

Итак, мы приходим к выводу, что создание и пользование ИИ может принести нам полезную информацию о самих себе, а именно:

• выясняется, что человек обладает неотчуждаемым даром живого сознания, которое принципиально не может быть объективировано и передано ИИ;
• оказывается, что хотя человек не в состоянии формализовать и объективировать свою субъектность, он находит возможным и полезным ее делегировать, то есть создать у себя иллюзию того, что ИИ обладает субъектностью. Таким образом, делегирование субъектности ИИ подтверждает теорию об анимистической природе познания;
• использование ИИ показало, что человек инвестирует в ИИ психическую энергию своего живого сознания, в результате чего становится в зависимость от ИИ, который паразитирует на этой энергии;
• совершенствование ИИ демонстрирует, что уникальная особенность человека — бескорыстное любопытство по отношению к миру — может циклически спадать и возобновляться в зависимости от уровня развития научного знания и возможностей ИИ;
• создание и использование ИИ позволяет в новом ракурсе посмотреть на некоторые фундаментальные проблемы, такие как наличие разумного начала во вселенной, отношение сознания к мозгу и предельные ограничения возможностей моделирования сознания на внешних носителях.

Сравнивая интеллектуальные возможности ИИ с возможностями индивида, полезно вспомнить высказывание Блеза Паскаля о человеке: «Человек — всего лишь тростник, слабейшее из творений природы, но он — тростник мыслящий. Чтобы его уничтожить, вовсе не нужно, чтобы на него ополчилась вся Вселенная: довольно дуновения ветра, капли воды. Но пусть бы даже его уничтожила Вселенная, — человек всё равно возвышеннее своей погубительницы, ибо сознаёт, что расстаётся с жизнью и что он слабее Вселенной, а она ничего не сознаёт. Итак, всё наше достоинство — в способности мыслить. Только мысль возносит нас, отнюдь не пространство и время, в которых мы — ничто» [36]. Возможно, в далеком будущем ИИ станет очень сложным и похожим на субъекта, но думаю, что ему не удастся вырваться из цепких рук каузальной вселенной. Недоступность живого сознания для алгоритмизации накладывает фундаментальное ограничение на то, чего можно ожидать от ИИ. В будущем ученые смогут решать очень сложные проблемы с помощью ИИ, но думать, что ИИ сможет развить собственную субъектность, означает молчаливо принять, что ИИ может выйти из причинно-следственного континуума, а принятие этого подрывает саму концептуальную основу науки и логики, на которой и зиждется труд создателей ИИ.

Возвращаясь к третьей антиномии Канта, приходится признать, что свобода и субъектность — это прерогатива живого сознания человека и не может иметь место в мире внешнего объективированного сознания, а это имеет в том числе и практические последствия для сфер морали и личной ответственности. Иными словами, если ИИ ошибется в своих калькуляциях, например, в оценке готовности какого-то государства к созданию ядерного оружия, и в результате разразится война, то виноват будет не искусственный интеллект.

В качестве утешения для адептов потенциального всемогущества ИИ можно признать, что хотя ИИ по определению сам не может быть субъектом, он помогает создавшему его субъекту кое-что понять о себе и поэтому вполне заслуживает благодарности.

Литература

1. Автор // Словари и энциклопедии на Академике. https://dic.academic.ru/dic.nsf/bse/61388/Автор
2. Формулировка подготовлена с помощью https://chatgptchatapp.com/, запросы «что такое автор», «что такое искусственный интеллект» и «чем сознание человека отличается от искусственного интеллекта» (дата обращения: 12.06.2025).
3. Орешников И.М., Шкерина Т.И. Философские размышления о проблеме искусственного интеллекта // Философия образования. 2017. №4. С. 5-11.
4. Дубровский Д.И., Ефимов А.Р., Лепский В.Е., Славин Б.Б. Фетиш искусственного интеллекта // // Философские науки. 2022. Том 65. №1. С. 44–71. DOI: 10.30727/0235-1188-2022-65-1-44-71
5. Беликова Е.К. Основные вопросы философии искусственного интеллекта // Философия и культура. 2024. №1. DOI: 10.7256/2454-0757.2024.1.69543
6. Searle J.R. Minds, Brains, and Programs // Книги по биологии. https://scilib-biology.narod.ru/Searle/MindsBrainsPrograms/mbp_en.htm (дата обращения: 12.06.2025).
7. Азимов А. Я, робот. М.: Эксмо, 2022.
8. Лем С. Голем XIV. М.: АСТ, 2020.
9. Петровский В.А., Вайнберг М.И. Интеллект естественный, искусственный и сверхъестественный // Психологическая газета. 31.05.2025.
10. Субботский Е.В. Натуральные психические функции как источник живого сознания // Вестник Московского университета. Серия 14. Психология. 2024. Том 47. №4. С. 87–109. DOI: 10.11621/LPJ-24-41
11. Sipper M. Kinematic Self-Replicating Machines by Robert A. Freitas, Jr., and Ralph C. Merkle // Artificial Life. 2006. Vol. 12(1). Pp. 187–188. DOI: 10.1162/106454606775186473
12. Heath A. Mark Zuckerbergerg’s new goal is creating artificial general intelligence // The Verge. https://www.theverge.com/2024/1/18/24042354/mark-zuckerberg-meta-agi-reorg-interview (дата обращения: 12.06.2025).
13. Тест Тьюринга // Википедия. https://ru.wikipedia.org/wiki/Тест_Тьюринга (дата обращения: 12.06.2025).
14. ИИ становится умнее — чат-бот на базе GPT-4 прошёл тест Тьюринга // 3D News. https://3dnews.ru/1106570/ii-stanovitsya-umnee-chatbot-na-baze-gpt4-proshyol-test-tyuringa (дата обращения: 12.06.2025).
15. ChatGPT-4 Passes Turing Test, Demonstrating Human-equivalent Intelligence // RYANS. https://www.ryans.com/blog/chatgpt-4-passes-turing-test-demonstrating-human-equivalent-intelligence (дата обращения: 12.06.2025).
16. Dawkins R. The Selfish Gene. New York: Oxford University Press, 1976.
17. Dawkins R. The Selfish Gene: 30th Anniversary Edition--with a new Introduction by the Author. New York: Oxford University Press, 2006.
18. The Matrix // Wikipedia. https://en.wikipedia.org/wiki/The_Matrix (дата обращения: 12.06.2025).
19. Upgrade_(film) // Wikipedia. https://en.wikipedia.org/wiki/Upgrade_(film) (дата обращения: 12.06.2025).
20. The_Lawnmower_Man_(film) // Wikipedia. https://en.wikipedia.org/wiki/The_Lawnmower_Man_(film) (дата обращения: 12.06.2025).
21. Кант И. Критика чистого разума. М.: АСТ, 2018.
22. RNA // Wikipedia. https://en.wikipedia.org/wiki/RNA (дата обращения: 12.06.2025).
23. Ribosome // Wikipedia. https://en.wikipedia.org/wiki/Ribosome (дата обращения: 12.06.2025).
24. Protein // Wikipedia. https://en.wikipedia.org/wiki/Protein#Synthesis (дата обращения: 12.06.2025).
25. Subbotsky E. Children and adults’ reaction to magical and ordinary suggestion: Are suggestibility and magical thinking psychologically close relatives // British Journal of Psychology. 2007. Vol. 98(4). Pp. 547–584. DOI: 10.1348/000712606X166069
26. Sheldrake R. The Presence of the Past: Morphic Resonance and the Memory of Nature: Morphic Resonance and the Habits of Nature. Park Street Pr., 2012.
27. Radin D. The Conscious Universe: The Scientific Truth of Psychic Phenomena. HarperOne, 2009.
28. Deep Blue // Wikipedia. https://ru.wikipedia.org/wiki/Deep_Blue (дата обращения: 16.06.2025).
29. The most useful military applications of AI //Sentient Digital. https://sdi.ai/blog/the-most-useful-military-applications-of-ai/ (дата обращения: 16.06.2025).
30. Ullmann V. Chapter 5. Gravitation and the global structure of the Universe: Relativistic cosmology // Astro Nucl Physics. https://astronuclphysics.info/Gravitace5-7.htm (дата обращения: 16.06.2025).
31. Обделенные природой. У людей не нашли ни одного инстинкта // РИА Новости. https://ria.ru/20190517/1553555943.html. Дата обращения: 16.06.2025.
32. Рубинштейн С.Л. Основы общей психологии. СПб: Питер, 2000. 712 с.
33. Tipler F.J. The Omega Point as Eschaton: Answers to Pannenberg's Questions for Scientists // Zygon. 1989. Vol. 24(2). Pp. 217–53. DOI: 10.1111/j.1467-9744.1989.tb01112.x
34. Darwin C. On the Origin of Species. Oxford-New York: Oxford University Press, 2008.
35. Три закона роботехники // Википедия. https://ru.wikipedia.org/wiki/Три_закона_роботехники (дата обращения: 12.06.2025).
36. Аретано И. Мыслящий тростник // Author.Today. https://author.today/post/304299 (дата обращения: 12.06.2025).