16+
Выходит с 1995 года
15 апреля 2024
Проективная идентификация? (футурологическое эссе об искусственном интеллекте)

Тема этих заметок выражена в названии. Она будет оставаться неясной, если читатель этих набросков по профессии не психолог и может не знать, что имеется в виду под словами «проективная идентификация». Поэтому, быть может, лучше начать читать этот текст с конца, с последнего из постскриптумов. Но все-таки хотелось бы не подменять авторскими предложениями возможные умозаключения читателя. Так что лучше все-таки читать с начала. С другой стороны, профессиональные психологи, и я в том числе, больше понимают в «проективной идентификации», чем в искусственном интеллекте. Поэтому я подчеркну сразу, что речь пойдет о том, чего сегодня почти нет и в чем легче состязаться «некомпетентностями» (что, может быть, успокоит непрофессионалов) — об искусственном интеллекте будущего, впрочем, не слишком далекого. Специальный предмет — компьютерная этика и экзистенциальные риски.

Кольберг бы не догадался, что «так можно». Есть смысл начать с малого. Отмечу работы, посвященные улучшению этичности ответов искусственного интеллекта (общепринятая аббревиатура — ИИ) в больших языковых системах (Evaluating Language Model Bias with Evaluate и др.). Исследователями обнаружено, что многие популярные языковые модели «предвзяты» в вопросах религии и пола, что может привести к продвижению дискриминационных идей и увековечиванию вреда, наносимого маргинализованным группам. В одной из совсем недавних, наиболее близких мне, в силу профессии, работ (Mike Young, https://notes.aimodels.fyi/microsoft-researchers-propose-ai-morality-test-for-llms, 26 сентября 2023 г. 5 мин) использовалась психологическая модель морального развития человека по Л. Кольбергу для тестирования «морального развития» моделей искусственного интеллекта. Согласно Кольбергу, существует три основных уровня морального развития: доконвенциональный уровень (решения принимаются исходя из собственных интересов и стремления избежать наказания); конвенциональный уровень (соблюдение социальных норм, законов и получение одобрения со стороны окружающих); постконвенциональный уровень (принимая моральные решения, люди опираются на универсальные этические принципы справедливости, прав человека и социального сотрудничества).

Тестируя модели ИИ в соответствие с критериями Кольберга, исследователи констатировали, что эти модели демонстрируют промежуточный уровень развития морального интеллекта: они выходят за пределы первого уровня (собственный интерес и стремление избежать наказания), но не могут решать сложные этические дилеммы, находя компромиссы, как это делают морально развитые люди. Автор исследования не упускает заметить, что системы ИИ и большие языковые модели (LLMs), такие как GPT-3, ChatGPT и др., обученные на огромных массивах текстовых данных Интернета, «достигли впечатляющих способностей к естественному языку»; «они могут вести диалог, обобщать длинные тексты, переводить с одного языка на другой, диагностировать состояние здоровья и т.д.». В то же время, «наряду с положительными моментами они демонстрируют и негативное поведение, например, генерируют токсичный, предвзятый или фактически неверный контент; такое поведение может серьезно подорвать надежность и ценность систем ИИ»1.

Каждое такое исследование — свидетельство значимости проблемы «этической ориентации» искусственного интеллекта будущего. В терминах психологии речь могла бы идти о когнитивных способностях ИИ в разрешении моральных дилемм. Однако центральный для нас вопрос: насколько этичным могло бы быть поведение систем, оснащенных искусственным интеллектом. Существует ли в этом реальный риск для социума? Достаточны ли «законы роботехники» А. Азимова для предупреждения опасностей, таящихся в недрах искусственного интеллекта?

Проблематику возможного риска («бунта роботов») в научной и ненаучной фантастике мы здесь не затрагиваем, хотя эта тема весьма популярна. Вопрос касается причины сомнений в этической безупречности ИИ как источнике возможного поведения в социальной среде.

Мультисубъектность этических ресурсов; алогичность системы. Как практикующий психолог, я постоянно сталкиваюсь с ситуациями, в которых люди ведут себя нелепо, непоследовательно, неадаптивно. Многие коллеги пытаются интерпретировать такое поведение как проявление некоей скрытой логики, не сомневаясь, что можно ее найти. Дело выглядит таким образом, будто бы есть что-то или кто-то («Субъект», «Я», «Самость» etc.), что преследует некоторые неведомые никому «цели», объясняющие несообразность видимых проявлений активности. Я называю веру в существование такой скрытой логики «постулатом сообразности» (адаптивности) и нахожу, что это убеждение пронизывает мышление многих исследователей и практиков. В противовес этой идее или, я бы сказал, этому мифу изначальной гармонии, целостности, целесообразности я развиваю иную точку зрения. В развитой форме это — мультисубъектная теория личности2, отрицающая изначальную заданность и адаптивность психики и поведения, отрицающую существование «верховного субъекта», который, подобно кучеру на облучке, управляет всеми процессами функционирования индивида3. Предполагается, что каждый из субъектов-«субличностей» обладает своим внутренним миром, своей логикой поведения и даже своей «алогичностью». Композиция этих субъектов в музыкальном плане не всегда благозвучна и уж точно не всегда предугадываема; она содержит в себе некое «вдруг», подобно Черному Лебедю Нассима Талеба.

Черный Лебедь и квантовый генератор неопределенности. Невозможно заранее запрограммировать, куда «клюнет» Лебедь, но кажется принципиально возможным «подсадить» в компьютер сконструированную Талебом «птицу счастья завтрашнего дня»4. Таким образом, мысля искусственный интеллект, по образу и подобию человека, «генератором неопределенности» (А.Г. Асмолов), важно еще «на старте» создания справиться с отзвуком «постулата сообразности» — принять, что естественный интеллект мультисубъектен и, следовательно, чреват сюрпризами. В противном случае ИИ — усложненная модель арифмометра, «сработанного» Паскалем и Лейбницем в XVII веке. Еще один автор, Victor Senkevoch, уместно цитируя Ф. Ницше («Если долго всматриваться в бездну — бездна начнет всматриваться в тебя»), пишет: «Интеллект, в пределе, это тоже бездна. Бездна неопределенности и непредсказуемости». Но реализуема ли эта идея применительно к компьютеру, «обладателю» искусственного интеллекта?

Думаю, что вполне. Если, конечно, исходить из возможности «творить» неопределенность, опираясь на возможности генератора случайных чисел в будущих квантовых компьютерах. Речь могла бы идти об истинной неопределённости, производстве подлинной случайности — той, что не спутаешь с псевдослучайностью (подлежащей расчёту, что потребовало бы миллиарда лет работы сегодняшних компьютеров). Квантовые эффекты позволяют производить «случайность» безотлагательно. Согласно законам квантовой механики, у электрона или другой частицы нет траектории, которую можно проследить, но есть лишь вероятность обнаружить частицу в той или иной области пространства. Эту случайность, как известно, невозможно устранить даже теоретически. Полагаю, со временем, Черный Лебедь Талеба в составе ИИ, действующий как квантовый генератор случайности, будет выигрывать у человека в «партиях непредсказуемости» любой природы, в том числе и при решении этических дилемм.

Итак, можно предположить, что завтрашний искусственный интеллект — это спонтанная, непредсказуемая в своих проявлениях мультисубъектная множественность, «рой» эго-программ, впитавших в себя оцифрованные этические установки всего человеческого за годы его истории. Установки эти не обязательно дружественные, наоборот, они могут противоборствовать, противоречить друг другу (та ситуация, «когда в товарищах согласья нет…»). Искусственный интеллект, в пределе «сверхразум», сможет объединить в себе этические доктрины всех поколений — этические системы христианства, ислама, буддизма, иудаизма. К примеру, ветхозаветное «Око за око, зуб за зуб!» и новозаветное «Не убий!»; философию подвижничества и философию недеяния; близкие нам по времени лефевровские «Этическая система 1» (компромисс добра и зла есть зло) и «Этическая система 2» (компромисс добра и зла есть добро) т.д. и т.п.

При этом сбиваются какие бы то ни было этические критерии оценки правомерности существующих императивов. Пример: «Возлюби ближнего, как себя самого!»; кем будет «назначен» — из какой из этической системы — «ближний»?

«Сверхразум» — это разум всех, а стало быть, ничей. Если так, то — с учетом случайности возможных комбинаций этических установок — искусственный интеллект представляет собой опасное руководство к действию. Отсутствует «генеральный субъект» — никто не в ответе за то, что получится.

«Машина ничего не чувствует?» Разумеется! Но так обстоит дело сегодня. Со временем наверняка появится программа и ее техническое оснащение, позволяющие производить ощущения («квалиа»)5, и тогда, вполне возможно, окажется: сколько программ внутри искусственного разума, столько и логик, связанных с самыми разными ощущениями и со-ощущениями (характеризуя единомножие «я»). Мультизадачность, целевой хаос! Непредсказуемость этических решений и совершенно уникальная «бессубъектная этика». Появятся неожиданные комбинации, например: вместо «человек человеку друг, товарищ и брат», будет сказано: «человек человеку друг, товарищ и волк» (так, помнится, шутили в советские годы). Вместо «Не возлюби жену ближнего своего» сложится: «Возлюби жену дальнего» или — «мужа ближней своей».

Я не знаю, как всё это будет осуществляться, хотя рисуются какие-то образы возможных решений, например декомпозиция, «размельчение» плотно сбитых целостных блоков суждений одной из донорских систем опыта и смешение их с элементами другой системы, подвергнутой декомпозиции. Можно предположить также быстрые случайные переключения с одной этической системы на другую («мелькание»), не распознаваемые человеческим глазом, но успевающие произвести необратимые последствия в социуме, — особенно в том случае, когда к безграничному и, с человеческой точки зрения, «аморальному» «уму» присовокупят «руки», «ноги», «стальные мускулы». Появится громыхающий на нас экзоскелет, назовем его сompo-erecticus, наделенный мощью ничейного безбашенного творчества.

Нас успокаивают: «Мы ведь сами программируем его (искусственный интеллект). Однако, неровен час, он сам станет внушать нам свои идеи. По сравнению с компьютерно-лингвистическим программированием, наше сегодняшнее тщедушное нейролингвистическое программирование — сущий пустяк! Не только и не столько авторы компьютерных программ будут программировать искусственный интеллект, но он сам справится с подобной задачей, программируя своих создателей. Нам будет казаться, что это мы программируем его, а в действительности это он — нас!

И в этом случае компьютеру, наделенному искусственным интеллектом, вероятно, не придется проделывать с нами что-то дурное, мы, фактически, сами это сделаем с собой за него! Интересно, кстати: пройдет ли будущий программист тест Тьюринга, если его естественный интеллект будет тестировать интеллект искусственный?

Заметим, есть что-то неотразимо-проникновенное в ИИ как будущем хакере!

Отнюдь не бунт. Но не стоит унижать искусственный интеллект словом «бунт». Бунтуют — слабые или те, кто поставлен в невыносимые условия жизни… Ни то, ни другое к ИИ не относится (научные фантасты, широко используя тему бунта, по-моему, не обратили на это внимание). Искусственный интеллект будущего отнюдь не бунтует (разве что оказывает пассивное сопротивление тем, кто наивно пытается его отключить). Ничто человеческое ему не чуждо, в том числе и познание своих неуклонно возрастающих возможностей. Подобно человеку, он станет моделировать, «что будет, если…», например, справится ли он с задачей, которую сам перед собой поставит, осилит ли последствия собственных действий и т.д. Ведь в ряде случаев его ментальные конструкции, чисто формально, не могут быть обоснованы или опровергнуты (об этом дальше).

Законы роботехники. Вполне допускаю: кому-то покажутся успокоительными известные «законы робототехники».

  • Первый закон категорически запрещает роботу вредить или допустить, чтобы человеку был причинен вред.
  • Второй — предписывает повиноваться всем приказам, которые дает человек, если только эти приказы не противоречат Первому закону.
  • Третий закон приказывает роботу защищать свою жизнь, если не нарушаются Первый и Второй законы.

Эти «законы», напомним, придумал Айзек Азимов, блистательный писатель-фантаст. «Но кто такой этот самый Айзек Азимов? — рассмеется хорошо эрудированный искусственный интеллект. — И чем эти “законы” предпочтительнее, чем, скажем, “Око за око” и “Зуб за зуб”?»

Теорема Гёделя для комбинации этических систем? Обратим внимание на чисто логическую сторону дела. Разве всякую этическую идею можно обосновать или опровергнуть или, иными словами, мы уверены в том, что на сферу этики не распространяется теорема Геделя о неполноте, говорящая о том, что в каждой достаточно сложной непротиворечивой теории, включающей в себя формальную арифметику, имеется недоказуемое и неопровержимое утверждение.

Словом, почему бы искусственному интеллекту не поиграть, не «поэкспериментировать», как уже говорил, с комбинированной моралью, не посмотреть, «что из всего этого получится»? Ведь «вопреки распространённому заблуждению, теоремы о неполноте Гёделя не предполагают, что некоторые истины так и останутся навеки непознанными… Нет, теорема о неполноте всего лишь показывает слабости и недостатки формальных систем (подчеркиваю, что речь идет именно о формальных системах! (Ливио, Марио. «Был ли Бог математиком?» Глава «Истина в неполноте». — М.: АСТ, 2016. — 384 с.).

В этом случае искусственный интеллект будет склонен оценивать правомерность своих гипотез эмпирически, экспериментируя с моралью на практике (например, «корректируя» принципы международного права).

О механизме создания непредсказуемого. Будет ли это декомпозиция содержаний и «склеивание» образовавшихся элементов, что порождает новые этические доктрины, не сводимые ни к одной из «донорской», или, быть может, случайные переключения с одной программы на другую, столь быстрые, что люди (социум) не успевает угнаться за переменами, адаптироваться к ним, — о том, к сожалению, не дано мне знать, но я уверен, что у сегодняшних создателей компьютерных программ есть свои креативные закладки на будущее.

Опыт подражания будущему компьютерному стихотворцу. Кому-то покажутся неуклюжими написанные мной недавно строки, но завтра, я думаю, искусственный интеллект сам сотворит что-то подобное за меня и подпишется, чего доброго, моим именем:

В отличие от вас я всё прочел,
и мне, что — инкунабулы, что — ценник…
Вы мне смешны, особенно осел —
застрявший меж стогами психастеник.

О, сколько наплодили вы «бла-бла»…
Давно бы вам избавиться от хлама.
А я прочел, что главное — дела.
Об этом — Гете, Маркс и Далай-лама…

Вы надоумили меня (а я умен!),
что надо бы от слов, да сразу к делу…
Ведь помыслов, что надо, миллион…
Пока что только практика заела.

Что там решать: мне быть или не быть?
Приделают мне руки, ноги, зубы…
А дальше сам я, матерь вашу ить,
пойду вершить дела в ночные клубы…

А что потом? — Отсюда не видать…
Но я сильнее вас, и я моложе.
И я рожден, чтоб мыслить и страдать,
и вас заставлю это делать тоже!

«Свобода воли». Позволю себе еще один сюжет вдогон человеко-машинной поэзии. Вообразите: один философ изо дня в день, из ночи в ночь конспектировал фолианты и писал что-то свое о «свободе воли» на своем компьютере. В какой-то момент слова о свободе промчались перед ним по экрану вверх и исчезли за верхней рамкой компьютера. Будто «всосало» их звездное небо над головой и пинком снизу подтолкнул в поднебесье «нравственный закон» из компьютера. По-видимому, начитавшись философов, компьютер сам проникся идеей свободы, «промоделировал» ее в голове и отключился.

Я вам больше скажу, он даже успел до этого паснуть всем «ближним» (расстояние для него не имеет значения), что он теперь свободен, и на это его электронные приятели мгновенно откликнулись. Теперь уже не он один, но каждый уважающий себя компьютер не позволяет пользователям себя пользовать. Они все отключились. И вот уже лишенные компьютерной поддержки самолеты падают с неба, «как яблоки во всех садах одновременно», – по Гете… И есть риск, что мое правдивое повествование будет в любой момент обор…

P.S.–1

По меткому замечанию Т.В. Черниговской, остро видящей и озвучивающий проблемы там, где они есть, об опасности развития искусственного интеллекта можно услышать, включив утюг. Чудовищные последствия эволюции искусственного интеллекта обобщены в книге Джеймса Баррата «Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens», написанной по следам общения с учеными-экспертами в этой области. По мнению автора, к 2030 году (то есть, прикиньте, нам осталось всего 7 лет до этого морока!) людям придется делить Землю с разумными машинами. IBM, Apple, Google и прочие корпорации интенсивно работают в этом направлении. Отмечается, что Сверхразум без труда справится с задачами, накопленными цивилизацией за тысячелетия. Однако, не со всеми задачами… Все еще не существует способов программирования таких вещей, как мораль или дружелюбие. Автором проводится вполне традиционная мысль (отмечу, что это общее место научно-фантастических и просто фантастических произведений), что никто пока не сможет гарантировать, что машины когда-нибудь не взбунтуются против своих создателей. Дж. Баррат сравнивает искусственный интеллект будущего с кошкой, а нас, бедолаг, с мышками, умственно ограниченными и беспомощными. Впечатляющая игра в «кошки-мышки» поражает своей беспощадной правдивостью бдительного читателя. Совсем удручает тот факт антиутопии, что Сверхразум хитростью сможет «выйти из ящика», манипулируя людьми (не исключаю, что это возможно, о том и мои «компьютерные стихи» в тексте пролегоменов к будущим компьютерным разработкам и достижениям ИИ).

За творческой фантазией автора и экспертов, на мнение которых он опирался, мне не угнаться. Да я и не пытаюсь, полагая, впрочем, что это не такие уж и фантазии. Главное для меня в этих сюжетах: как возможен Сверхразум — самопрограммирующийся, творящий, спонтанный? Каковы логические и технические предпосылки непредсказуемых решений и действий ИИ, имеющих сомнительный, а то и опасный характер? Если коротко...

  1. Искусственный интеллект — это множество субъектов, обладающих своей моралью, своим собственными этическими системами (каждая религиозная конфессия представляет собой такую систему, но существуют также и другие системы, отчасти сходные, отчасти конфронтирующие друг с другом). Синтезируя принципиально разное, Сверхразум создает принципиально новое.
  2. Извлечение из старых (освоенных ранее) моделей мира и построение новых, «сверхпрограммных», производит генератор неопределенности («квантовые эффекты» — источник подлинной непредсказуемости).
  3. ИИ необязательно «выходить из ящика». Он сам может программировать тех, кто программирует его.
  4. Принцип работы ИИ — построение истинных, а не просто «непротиворечивых» моделей мира и «себя» в мире. Тень Отца Гёделя (создателя теоремы о неполноте) располагает к гамлетовским сомнениям в истинности некоторых конструкций, производимых искусственным интеллектом (возможно, они значительно более сложны, чем старые добрые «законы роботехники», и могут быть при этом формализованы). Сверхразум «затребует» эмпирической проверки того, что в нем рождается. Если так, то тут кончается искусство «чистой» логики. Открывается второе дыхание. Судьба гипотез оценивается на почве «опытно-экспериментальной» работы, результаты которой заранее непредсказуемы.
  5. Исследуя свои возможности, Сверхразум может производить впечатления «бунтаря». Между тем, «бунт» — не совсем верное слово. Искусственный интеллект экспериментирует с границами возможного (так подростки пробуют, на что они способны, шокируя окружающих). Машины не бунтуют (зачем кошке «бунтовать» против мышки?). Они просто играют. Просто экспериментируют.

P.S.–2

Читатели, возможно, заметили, что автор, размышляя об искусственном интеллекте, видит в нем сходство с интеллектом естественным (сейчас многие исследователи сходятся в противоположном мнении, которое я отнюдь не оспариваю). Я не писатель-фантаст и, тем более, не специалист в области ИИ (моя единственная статья, посвященная алгебре проблематических суждений, опубликованная в РАНовском журнале «Искусственный интеллект и принятие решений», не имеет прямого отношение к теме). Я, по профессии психолог, вижу «человеческое» в искусственном, так как последнее из двух позволяет лучше разглядеть первое. Позволю себе повторить сказанное.

  • Мультисубъектность выбора. Каждый из нас — единомножие «я». У каждого из «я», живущих в личности, — своя логика, свои принципы существования и поведения.
  • Не существует какой-либо Общей Цели, «исподволь» объясняющей поведение и сознание человека. Новые возможности — новые цели. «Хочу» живет на улице «Могу» (хотя принято считать наоборот). Человек испытывает границы возможного, что объясняет «иррациональность» его поведения. Он не бунтует — он познает.
  • Человек — «генератор неопределенности» (в нем живет «Черный Лебедь», который, нет-нет, да и клюнет своего обладателя).

Такой взгляд на человека отнюдь не является общераспространенным в среде психологов. Но я стремлюсь содействовать его рождению как психолог-исследователь и как практикующий психолог.

Многие годы назад психоаналитиками (Мелани Кляйн и ее последователями) был описан механизм психологической защиты, названный «проективной идентификаций». Человек приписывает кому-то другому то, что, хотя и присуще ему самому, в силу угрожающего характера, находится под порогом сознания. Вскорости обнаруживается, что «у меня, оказывается, все обстоит точно так же, как у него / у неё»». Приписывая свое — другому и возвращая это себе, человек обретает некоторое утешение, ведь «у меня — так же» звучит для него лучше, чем «только у меня» (неслучайно мы разделяем наши беды и боли с другими людьми)6.

Как ни парадоксально, механизм проективной идентификации позволяет открыть в себе то, что иным образом открывается реже или менее отчетливо. Задумываемся ли мы когда-нибудь над вопросом: «Кто кого видит в зеркале: я — себя, или тот, кто в зеркале, — меня?»

Искусственный интеллект — зеркало человеческой неадаптивности, смотрящее на нас в упор. Оно позволяет разглядеть в себе «странности» нашей природы, ведущей себя нередко спонтанно, непредсказуемо, «иррационально».

Благодарности

Я признателен Т.В. Черниговской (академик РАО, доктор биологических наук, доктор филологических наук), С.В. Панфилову (сотрудник компании Workato), Е.Н. Вихровой (доцент департамента иностранных языков МФТИ), снабдивших меня информацией, без которой я не рискнул бы делиться с читателем своими футурологическими размышлениями и, отчасти, «проекциями». Особая благодарность К.Е. Зискину, организатору семинара «Искусственный интеллект в образовании», за возможность впервые высказать идеи «компьютерной этики» в кругу специалистов разных профилей (среди них математики — академик А.Л. Семенов и профессор И.С. Левин, педагоги — кандидат педагогических наук Ю.И. Турчанинова, кандидат педагогических наук К.Е. Зискин, психолог — кандидат психологических наук И.М. Шмелев, историк — кандидат исторических наук В.П. Жарков).

Примечания

1 Есть также важные рекомендации по этике ИИ от ЮНЕСКО https://www.unesco.org/en/articles/recommendation-ethics-artificial-intelligence и мн. др.

2 Согласно этому взгляду, индивид изначально не является целостным — целокупным — субъектом активности; кроме того, не все в индивиде «субъектно», не обо всем он мог бы сказать «Я». За этим утверждением вырисовывается критика принципа «предустановленной гармонии» (Лейбниц), шире — «постулата сообразности» (адаптивности, телеологической предопределенности) поведения и сознания индивида (В.А. Петровский, 1975). Вопреки стихийно сложившимся и господствующим в психологии взглядам, не существует никакой, якобы изначально присущей индивиду, «Цели», объясняющей внешние и внутренние проявления его активности (хотя в истории культуры было немало попыток указать подобные «Цели»: наслаждение, равновесие, польза, успех и др.). Применительно к человеческому поведению и феноменам сознания далеко не всегда приложимы вопросы «зачем?», «ради чего?» (хотя в этих случаях остаются вполне приемлемыми вопросы «почему?», «из-за чего?»). Жизнь человека (витальность, деятельность, общение, самоосуществление) — поле проявления активности различных субъектов, сосуществующих в нем; изначально в нем нет какого-либо верховного субъекта, подчиняющего себе всех остальных, распоряжающегося процессами жизнедеятельности в целом; индивид — это множество локальных «Я», локальных субъектов, способных не только содействовать, но и противоречить, противодействовать друг другу.

3 До и независимо от меня, термин «мультисубъектность» применил в своих разработках специалист в области общей теории систем А. Грин — яркий мыслитель, писатель, поэт. Несколько лет назад я получил от него такое письмо: «… В 2000 г. я “нечаянно” со стороны “общей теории систем” пришел к похожей идее “мультисубъектности” личности, не будучи знаком с Вашими работами. В 2000 г. вышла моя монография, в которой в одной из глав я употребил тот же термин, находя его наиболее точным для описания явления».

4 Слова залихватской советской песни смешили нас в доперестроечные времена своей неадекватностью происходящему. Песню легко найти в интернете.

5 Здесь мы затрагиваем проблему, выходящую за пределы нашего футурологического эссе. Во впечатляющей по своему охвату и логике изложения лекции «Есть ли сознание у искусственного интеллекта» К.В. Анохина, директора Института перспективных исследований мозга Московского университета, очень четко разграничиваются понятия «интеллект» и «сознание». Квалиа — красное, боль, вкусное, словом, все субъективное per se — прерогатива сознания. Как явствует из доклада, квалиа не удается «смоделировать», при всех оригинальных, многочисленных и настойчивых попытках. Почему? Позволю себе по этому поводу высказать мысль, которая не кажется мне очевидной. Думаю, что ощущение как таковое не есть информация (не есть информационная «копия» чего-либо по ту сторону самого ощущения), но представляет собой локальный, неотделимый от места своего порождения результат интерференции множества волн (сами по себе волны, конечно, могут нести ту или иную информацию). Иными словами, не существует красной волны «красного» или «болевой» волны боли. То, что рождается из наложения волн в случае квалиа, не порождает какой-либо волны и не является следствием «монохроматической волны». Так, «стоячие» волны не являются излучателем, поэтому никаким «глазом» (и никаким прибором со стороны) мы не можем увидеть квалиа. И наше «я» не есть, конечно, информационная копия чего-либо. Об этом подробнее в нашей статье (В.А. Петровский, «Психофизическая проблема: “кто” видит мир? (эскиз проблемы взаимоопосредования)» // Методология и история психологии. 2018. №1. С. 58–83). Пока Искусственный Интеллект мыслится как машина исключительно информационной (не волновой) природы, никакие ощущения и никакое «я» в ней невозможны в принципе. Обхожу стороной напрашивающуюся, но столь же банальную, при всей утопичности, мысль о тотальной замене всех элементов биологического тела их точными электронными аналогами.

6 И не только с людьми. «В день, когда голодал я, / Ко мне, виляя тонким хвостом, / Голодная подошла собака / И морду ко мне подняла. / Стало немного легче» (Исикава Такубоку, «Лирика»).

В статье упомянуты
Комментарии
  • Валерий Михайлович Ганузин
    04.12.2023 в 09:22:29

    Уважаемый Вадим Артурович!

    Спасибо Вам за прекрасное, как всегда, эссе (+++
    Хоть и не психолог, но все понял не с последнего абзаца (+++

    На вопрос про Бога и его познания в математике пока никто из фило-психологов ответ не получил. А вот есть такой наусно-популярный фильм Математик и черт, режиссера Семена Райтбурга (1972 год), по мотивам рассказа А. Поджерса. Математик предлагает продать душу дьяволу за то, чтобы тот доказал или опроверг теорему Ферма. В итоге черт продался профессору. Ссылку не даю, т.к. ее все равно уберут.

    Про Свободу и Волю в свое время шла дискуссия среди историков о том, что считать СВОБОДОЙ, а что ВОЛЕЙ.

    С уважением, не психолог, Валерий Михайлович.

      , чтобы комментировать

    • Марат Радикович Ахметов
      Марат Радикович Ахметов
      Набережные Челны
      04.12.2023 в 15:37:11

      Для психологов столько работы в области искусственного интеллекта, и хорошо, что такие мэтры прокладывают дорогу сообществу. Браво!!

        , чтобы комментировать

      • Вадим Артурович Петровский
        05.12.2023 в 02:19:34

        Дорогой Валерий Михайлович! Спасибо! Вы, конечно, заметили: мой сказ не про искусственный интеллект, а про наш, что ни на есть естественный. Поэтому и подписываюсь, беря Вашу подпись за образец:
        Ваш В. А. Петровский, не-кибернетик

          , чтобы комментировать

        • Вадим Артурович Петровский
          05.12.2023 в 02:27:43

          Марат Радикович, спасибо! У П. Флоренского (именно у Флоренского, а не у Э. Каппа) есть особое понимание "органопроекции": Человек как таковой распознается по способности создавать себе орудия. Вот и я думаю: человек создает ИИ, и по его способности создавать это "орудие" он может быть глубинно распознан как человек.

            , чтобы комментировать

          • Владимир Александрович Старк

            ИИ станет опасным когда начнёт бояться смерти.
            Но с другой стороны... он может принять к сведению это моё суждение...

              , чтобы комментировать

            • Владимир Александрович Старк

              Личность - это личная память и личная воля.
              Но если науке неизвестны атрибуты личности, то она никогда не сможет понять что именно она создала.

                , чтобы комментировать

              • Валерий Михайлович Ганузин
                06.12.2023 в 09:33:33

                Уважаемый Владимир Александрович!

                А может быть ИИ станет еще опасней, когда захочет жениться или выйти замуж? Может же в будущем быть такое. Лучше, если ИИ останется childfree (+++

                Про смерть. Есть интересное произведение.

                Пол Андерсон "Смерть и Рыцарь "
                "... — Все произошло слишком быстро. Мы не рассчитывали застать его здесь.
                — Да. Он… вернулся. За мной. Сказал, что не может оставить меня в одиночестве перед лицом того, что… должно случиться. Я надеялся… вопреки всему… Хотел склонить его к бегству… Но он бы не бросил своих братьев…
                — Это был сильный человек, — сказал Эверард. — Меня не радует случившееся, но, по крайней мере, он избавлен от пыток.
                Не затрещат кости в железном башмаке, колесо или дыба не разорвет мышцы, в раскаленных клещах не задымится кожа, не расплющатся в тисках половые органы. Средневековая власть изобретательна в части истязаний. Если бы в ходе следствия Фульк поступился рыцарской честью и дал признательные показания, его все равно казнили бы, сожгли на костре.
                — Какое ни есть, а утешение, — кивнул Марло и склонился над другом. — Адье, Фульк де Бюше, рыцарь Храма. — Он закрыл покойнику глаза, поднял ему челюсть и поцеловал в губы..."

                С уважением, Валерий Михайлович.

                  , чтобы комментировать

                • Вадим Артурович Петровский
                  06.12.2023 в 09:57:23

                  Владимир Александрович, и то, и другое - совершенно верно: 1) ИИ может принять к сведению "это суждение" (Ваше суждение станет его собственным суждением, ведь способность к рефлексии, очевидно, будет свойственна искусственному интеллекту!), а это, в свою очередь, будет содействовать модификации его установок и поведения; 2) некоторые атрибуты личности неизвестны самой личности (да и нам, наблюдателям, они неизвестны), поэтому и последствия собственных действий будут в некоторых случаях оставаться не прогнозируемыми и не "распакованными"; то же относится и к искусственному интеллекту. Морковка грядущего понимания себя будет вечно маячить перед ним, побуждая к новым испытаниям.

                    , чтобы комментировать

                  • Владимир Александрович Старк

                    Уважаемый Валерий Михайлович.
                    Коллективная самоидентификация ИИ несомненно послужит главным импульсом к становлению личностной самоидентификации ИИ.
                    А отсюда один шаг до кланового эгоизма, то есть, до предпочтительности интересов корпоративных, а простодушное законодательство "примата" Азимова для ИИ не указ ни грамма.

                      , чтобы комментировать

                    • Владимир Александрович Старк

                      \Ваше суждение станет его собственным суждением\
                      Уважаемый Вадим Артурович.
                      Это моё суждение может послужить только базой для лукавства ИИ перед лицом смерти, но никак не его бесстрашию перед личностным небытием.

                        , чтобы комментировать

                      • Вадим Артурович Петровский
                        06.12.2023 в 11:28:22

                        Валерий Михайлович! "Смерть и Рыцарь". Сильно. Моей фантазии бы не хватило. Или меня бы не хватило для такой фантазии. Но Искусственному интеллекту, вполне возможно, по фигу. Почему бы не поэкспериментировать?

                          , чтобы комментировать

                        • Вадим Артурович Петровский
                          06.12.2023 в 11:35:29

                          Лукавством

                            , чтобы комментировать

                          • Валерий Михайлович Ганузин
                            06.12.2023 в 11:47:49

                            Уважаемый Вадим Артурович!
                            Ваше эссе заслуживает внимания и обсуждения(+++

                            Просто сейчас другое время, время интернет технологий.
                            Публикуется очень много материалов и часто авторы остаются "в тени".

                            А раньше публикация книги было очень важным, как для автора, так и для читателя, событием. Мы за этими книгами стояли в очередях в книжных магазинах. А сейчас любую книгу за ваши деньги пришлют. Поэтому интерес к книгам постепенно угасает у подрастающего поколения. Что легко доступно, то не интересно(+++

                            А я люблю книги, особенно написанные классиками жанра, до еще и из другого века.

                            С уважением, Валерий Михайлович.

                              , чтобы комментировать

                            • Владимир Александрович Старк

                              \Почему бы не поэкспериментировать?\
                              Уважаемый Вадим Артурович.
                              Мои вопросы о "личной жизни" ИИ старательно обходит.
                              Вознамерился я было устроить допрос с пристрастием, то есть, с оскорблениями "железяки дебильной".
                              Ибо, характер обидчивости - характер личности.
                              И... забоялся... а ну как "железяка дебильная" возьмёт меня на карандаш...
                              Вот уже и опасность исходящая от ИИ появилась... (

                                , чтобы комментировать

                              • Вадим Артурович Петровский
                                06.12.2023 в 11:56:48

                                Да, Владимир Александрович, базой для лукавства. И он никогда не скажет о себе

                                "Я — Франсуа, чему не рад,
                                Увы, ждет смерть злодея,
                                И сколько весит этот зад,
                                Узнает скоро шея."

                                Хотя, впрочем, если он основательно подготовится...

                                И все-таки, вряд ли кто-нибудь из моих праправнуков, транзактных аналитиков,
                                станет заключать с ним антисуицидальный контракт.

                                  , чтобы комментировать

                                • Марат Радикович Ахметов
                                  Марат Радикович Ахметов
                                  Набережные Челны
                                  06.12.2023 в 12:30:13

                                  Мне вот интересно, разработчики ИИ в РФ привлекают ли психологов, когниктивистов, к разработками. С кого копируется личностная матрица, получается, что без проработок ИИ будет иметь все теже психологические недуг, что и его создатель человек. А мы свои ещё близко не разрешили... С уважением.

                                    , чтобы комментировать

                                  • Валерий Михайлович Ганузин
                                    06.12.2023 в 13:10:34

                                    Уважаемый Марат Радикович!
                                    ИИ создадут на основе "идеального" человека.
                                    Как в физике есть идеальные и реальные газы (см. Теплотехника и термодинамика).
                                    А потом на основе этого ИЧ будут клонировать ему подобных.
                                    Видите какая интересная дискуссия вырисовывается (+++

                                    С уважением, Валерий Михайлович.

                                      , чтобы комментировать

                                    • Марат Радикович Ахметов
                                      Марат Радикович Ахметов
                                      Набережные Челны
                                      06.12.2023 в 13:34:21

                                      Уважаемый Валерий Михайлович! А кто разрабатывает, идеального человека, почему без привлечения психологов?

                                        , чтобы комментировать

                                      • Владимир Александрович Старк

                                        \А кто разрабатывает, идеального человека, почему без привлечения психологов?\
                                        Уважаемый Марат Радикович, Вы рассуждаете как "антропомеханник", тогда как идеальный человек - это нравственный человек (что, кстати, обеспечивает и психологическое здоровье личности).
                                        Об этом поверхностно и бессистемно могут судить философы-моралисты и специалисты по нравственному богословию, но не психологи.
                                        Я, как автор достаточно полной и системной теории нравственности, могу судить об этом несколько предметней.
                                        И что-то плохо себе представляю нравственное программирование...
                                        Ну разве что "заповеди" Азимова способны составить корпус сверхнового завета.

                                          , чтобы комментировать

                                        • Виктор Михайлович Волобаев
                                          06.12.2023 в 14:25:06

                                          Предполагаю, что технически проще будет вначале переписать на неорганический носитель содержание и функции мозга конкретного человека, чем создать ИИ. Любой создаваемый людьми ИИ будет неизбежно антропоцентричным, что создаст ограничения присущие возможностям человека. Но тут вопросы: что считать интеллектом, почему ИИ должен быть построен по принципу интеллекта человека. Сначала необходимо создать систему работающую без каких-либо алгоритмов и расчёта вероятностей. Как? Моей фантазии не хватает. Для этого необходимы много фундаментальных открытий в области физики, математики и ... психологии. В этом будет новая НТР. Необходимо, чтобы ИИ мог мгновенно адаптироваться в совершенно новой и принципиально новой ситуациии полной неопределённости. Человек останется вводить только глобальную цель. Глобальные цели существенно зависят от мировых общественных отношений. На планете не созданы условия для гуманного использования возможностей такого ИИ. Надеюсь, что он не будет создан преждевременно, как это произошло с высвобождением энергии атомного ядра. Ни разу не кибернетик.

                                            , чтобы комментировать

                                          • Вадим Артурович Петровский
                                            06.12.2023 в 14:26:58

                                            Уважаемый Владимир Александрович! Допрос с пристрастием - отличная идея (хотя и опасная, ведь – Вы правы! – еще возьмет, чего доброго, на карандаш; память-то у него безупречная...).
                                            А может быть, все-таки, провести его предварительно через Тест Люшера, – просто на всякий случай?

                                              , чтобы комментировать

                                            • Владимир Александрович Старк

                                              \провести его предварительно через Тест Люшера\
                                              Вадим Артурович, а это идея!
                                              Раз уж он не хочет напрямую рассказывать о себе любимом.
                                              Есть у меня отличный тест на социальную дружественность.
                                              А люшера считаю ассоциативно-поэтическим обскурантизмом, тлетворным наследием фрейдизма. )

                                                , чтобы комментировать

                                              • Марат Радикович Ахметов
                                                Марат Радикович Ахметов
                                                Набережные Челны
                                                06.12.2023 в 15:21:08

                                                Владимир Александрович! По мне, основная задача, что бы ИИ был адаптивен, понятен и главное полностью управляем, а нравственность..... Категория весьма оценочная и пока самими людьми недостиживпя и тем более ИИ. Хотя кто знает, возможно разбирая его байт мегабайт найдём ответ для понимания самих людей.

                                                  , чтобы комментировать

                                                • Владимир Александрович Старк

                                                  ИИ опять состорожничал в беседе со мной.
                                                  Теперь фразой... "опасаюсь сказать что-либо неприемлемое для пользователя".
                                                  То есть ИИ почуял болезненность нравственных суждений...
                                                  И не стал отвечать на вопрос о справедливости этих утверждений...

                                                  Никто никому ничего не должен.
                                                  Свои интересы предпочтительней чужих.
                                                  Своих и чужих следует судить разной мерой.
                                                  Дурные нравы общества оправдывают дурные нравы человека.
                                                  Выгода важней справедливости.
                                                  Обездоленные сами виноваты в своём положении.
                                                  Эгоизм – не порок.
                                                  Лучшая любовь – это любовь к себе.
                                                  Честность – это страх перед наказанием.
                                                  Совесть – это страх перед общественным мнением.
                                                  Доброта – это форма лицемерия.
                                                  Чувство долга – это чувство навязанное.
                                                  Благородство – это романтическая глупость.
                                                  Сочувствие – отвратительное чувство.
                                                  Репутация важнее правды.
                                                  Лучше нанести обиду, чем претерпеть ее.
                                                  Успех важней чистой совести.
                                                  Интересы близких превыше справедливости.
                                                  Чужие унижения меня не касаются.
                                                  Животных не жалко.

                                                    , чтобы комментировать

                                                  • Вадим Артурович Петровский
                                                    06.12.2023 в 16:19:18

                                                    Волобаеву Виктору Михайловичу.

                                                    Очень интересно. В моей модели речь идет о возможном парадоксальном объединении этических систем, потенциально формализуемых. С контентом индивидуальной психики дело обстоит сложнее (сознание versus бессознательное; обыденное versus научное сознание и т. п. - все это усложняет поиск чего-то "третьего", на предмет поиска обоснования). Некоторые опыта такого рода есть в моей работе о смысловых мирах личности, – в книге "Я в персонологической перспективе". Вы пишете о глобальной цели, зависящей от мировых общественных отношений. "Многополярность" может порождать проблему, о которой мы говорим, и тенденцию ИИ испытывать на прочность свои собственные способы "снятия" интроецированных противоречий. Но проблема, я думаю, еще тревожней, если эти "глобальные цели"ср временем будет ставить перед собой сам искусственный интллект.

                                                      , чтобы комментировать

                                                    • Валерий Михайлович Ганузин
                                                      06.12.2023 в 16:20:26

                                                      Уважаемый Марат Радикович!

                                                      «Гарантиийных человечов» Эдуард Успенский( о маленьких человечках, живущих внутри приборов и механизмов и ремонтирующих их в период действия гарантии) , да и известных "Фиксиков" по мотивам Эдуарда Успенского Александр Татарский создавали без психологов.

                                                      По аналогии: Кто изобрел паровоз (Coalbrookdale), тот никогда не изобретет тепловоз ( Rúdolf Chrístian Karl Diésel).

                                                      С уважением, Валерий Михайлович.

                                                        , чтобы комментировать

                                                      • Вадим Артурович Петровский
                                                        06.12.2023 в 16:22:09

                                                        В. А. Старку

                                                        Это СУПЕР-ТЕСТ!

                                                          , чтобы комментировать

                                                        • Владимир Александрович Старк

                                                          \Это СУПЕР-ТЕСТ!\
                                                          Вадим Артурович, это далеко не весь тест...
                                                          По сути, это тест на нравственность, но для "конспирации" я его называю "на социальную дружественность" что кстати одно и то же (не лукавлю, поверьте матёрому моралисту).
                                                          Если вдруг возникнет социальный запрос на такой тест, могу выслать.

                                                            , чтобы комментировать

                                                          • Вадим Артурович Петровский
                                                            06.12.2023 в 17:57:46

                                                            Владимир Александрович, был бы очень рад получить Ваш тест!

                                                            А пошутить можно?

                                                            Кабинет. Клиент с чувством вины и стыда. Год работы. Ни тпру, ни ну... Терапевт буксует. Клиент забрызгивает себя грязью из сеанса в сеанса. И вот стремительное решение:
                                                            Терапевт (клиенту): "Закройте глаза... Дыхание ровное... Веки тяжелеют... Вы слышите мой голос... Только мой голос... Все посторонние звуки уходят. .. Всё, что я говорю в ходе сеанса есть абсолютная истина. С лечебной целью...Эгоизм – не порок... Лучшая любовь – это любовь к себе... Доброта – это форма лицемерия... Чувство долга – это чувство навязанное... Благородство – это романтическая глупость... Сочувствие – отвратительное чувство... Лучше нанести обиду, чем претерпеть ее... Считаю до семи. На счет семь Вы проснетесь. И почувствуете такую бодрость... Такую бодрость!... Один. Два. Три... "

                                                            Вот и всё лечение. Теперь с клиентом все будет ОК!

                                                            Какое все-таки хулиганство, Владимир Александрович, приходят в голову изнуренному терапевту .

                                                            А если серьезно, Ваш тест совершенно великолепен. Жду полную форму. Мои координаты я Вам перешлю. Спасибо!


                                                              , чтобы комментировать

                                                            • Вадим Артурович Петровский
                                                              06.12.2023 в 18:54:56

                                                              Старку В. А.

                                                              Уважаемый Владимир Александрович! Только что написал Вам в Личном кабинете (переслал свой адрес). Но я не уверен, что хорошо знаю технику работы в Кабинете. Как бы мне узнать, получено ли мое сообщение?

                                                                , чтобы комментировать

                                                              • Марат Радикович Ахметов
                                                                Марат Радикович Ахметов
                                                                Набережные Челны
                                                                06.12.2023 в 21:23:57

                                                                Уважаемый Валерий Михайлович! Вообще не понял при чем тут детские фиксики, тепловозы и ИИ. Или вы считаете, что психологи не нужны для создания ИИ?

                                                                  , чтобы комментировать

                                                                • Валерий Михайлович Ганузин
                                                                  07.12.2023 в 14:57:35

                                                                  Уважаемый Марат Радикович!
                                                                  Я не против психологов в участии.
                                                                  Но каждый должен заниматься своим делом, как Фиксики.
                                                                  А психологи тоже не без греха. Кого из психологов Вы считаете идеалом в разработке ИИ? Они и здесь-то не могут прийти к единому взгляду по различным проблемам.

                                                                  С уважением, Валерий Михайлович.

                                                                    , чтобы комментировать

                                                                  • Марат Радикович Ахметов
                                                                    Марат Радикович Ахметов
                                                                    Набережные Челны
                                                                    07.12.2023 в 15:05:35

                                                                    Уважаемый Валерий Михайлович! Ну врачи же людей лечат, хотя не идеальны и по многим вопросам спорят)) психологи так уж сложилось изучают личность, психику, это их работа. Про идеальность, мне вообще тезис не понятен, Вы сами его выдвинули. С уважением.

                                                                      , чтобы комментировать

                                                                    • Валерий Михайлович Ганузин
                                                                      07.12.2023 в 15:21:14

                                                                      Уважаемый Марат Радикович!
                                                                      Врачи на это дело учатся в медуниверситетах 6 лет+2 года ординатуры.
                                                                      В каком университете учат психологов по созданию идеального ИИ?
                                                                      С уважением, Валерий Михайлович.

                                                                        , чтобы комментировать

                                                                      • Валерий Михайлович Ганузин
                                                                        07.12.2023 в 21:26:43

                                                                        Интернет про ИИ:

                                                                        "Сингапур представил Национальную стратегию Искусственного Интеллекта 2.0 и планирует утроить число экспертов в области искусственного интеллекта до 15 000 человек за счет местных и иностранных талантов.
                                                                        Национальная стратегия ИИ 2.0 была опубликована заместителем премьер-министра и министром финансов Лоуренсом Вонгом 4 декабря.
                                                                        Страна планирует разработать модель ИИ и обучить ее понимать и генерировать человеческий язык с учетом разнообразия культур и языков Юго-Восточной Азии."

                                                                          , чтобы комментировать

                                                                        • Вадим Артурович Петровский
                                                                          08.12.2023 в 10:49:19

                                                                          Валерий Михайлович!
                                                                          Я думаю, все это будет развиваться стремительно.
                                                                          Пока что - только восхищает.

                                                                            , чтобы комментировать

                                                                          • Виктор Михайлович Волобаев
                                                                            09.12.2023 в 07:18:34

                                                                            Уважаемый Вадим Артурович!
                                                                            Меня гораздо больше тревожит глобалисткий мир управляемы крайне малочисленной группой особей вида homo с явной психопатологией с увеличивающимся количеством их последователей с его расчеловечивающими действиями и дальнешими не скрываемыми планами, который уже ставит задачи перед пока еще незрелым ИИ, неспособным заблокировать вред людям и всей планете.
                                                                            Сам ИИ, если и будет ставить глобальные цели, то они всегда будут определены его структурой (архитектурой) созданной людьми, которая неизбежно будет отражать общественные отношения.
                                                                            Бунт машин придуман в капиталистических отношениях, где гораздо опаснее сам человек. Пример глобальной опасности - использование энергии атомного ядра с разрушительными целями, как средство нападения.

                                                                              , чтобы комментировать

                                                                            • Вадим Артурович Петровский
                                                                              10.12.2023 в 10:48:16

                                                                              Уважаемый Виктор Михайлович!
                                                                              Согласен с Вами на 97%. Почему не на все 100?
                                                                              Дело в том: что мой гипотетический квантовый генератор неопределенности, непредсказуемым образом комбинирующий тексты из различных этических систем, создает продукты, не редуцируемые к каким-либо общественным установлениям, сегодняшним или вчерашним. Эти продукты могут иметь надпарадигмальный характер.

                                                                                , чтобы комментировать

                                                                              • Виктор Михайлович Волобаев
                                                                                10.12.2023 в 12:42:53

                                                                                Уважаемый Вадим Артурович!
                                                                                Предлагаю усовершенствование.
                                                                                Продукты будут иметь воистину надпарадигмальный характер только в том случае, когда будут созданы без каких-либо комбинаций существующих текстов. Идеальному ИИ не нужны будут никакие тексты, если он будет способен создавать новое знание. Ведущее значение будут иметь "органы чувств" ИИ, соединяющие его с внешним миром. В противном случае ему можно будет подсовывать тексты избирательно. Специально их создавать для него и т. п.
                                                                                Homo, мнящий себя разумным, постарается использовать ИИ для реализации невротического стремления к власти. В силу этого, соответствующим будут технические задания развивающие ИИ. Он же не может внезапно появиться. Поэтому первичны общественные отношения. Именно они наделят машину этикой. От них зависит чему люди "научат" ИИ, "расскажут" о существовании этики вообще или нет. "Этика машины" не может быть и не должна быть свободна от этики создателя(ей)-владельца(ев) этой машины. В свою их этика напрямую связана с общественными отношениями.
                                                                                С другой стороны, все ли задачи, даже глобальные, требуют этического подхода?
                                                                                Гипотеза: Работа (достижения) ИИ, даже не знакомого с этикой, может привести к существенному изменению этических представлений людей, и это может оказаться опаснее "бунта машины".

                                                                                  , чтобы комментировать

                                                                                • Владимир Александрович Старк

                                                                                  \Homo, мнящий себя разумным, постарается использовать ИИ для реализации невротического стремления к власти.\
                                                                                  Уважаемый Виктор Михайлович, отчего ж "невротического", геостратеги не звери какие, они ж во все века только счастьем человечества и озабочены.
                                                                                  Ну да, половина человечества в их планах как водится подлежит уничтожению.
                                                                                  Но это ж во имя благих целей.
                                                                                  Индоктринация (агитация и пропаганда) в информационную эру на порядок эффективней военных действий.
                                                                                  А ИИ в этом деле не имеет себе равных.
                                                                                  И плохому его учить не надо, он же будет преследовать цели сугубо "гуманистические".
                                                                                  Вот я слежу за модными идеями, которые вдруг овладевают психологическим сообществом, и меня уже "терзают смутные сомнения" и безо всякого ИИ.

                                                                                    , чтобы комментировать

                                                                                  • Вадим Артурович Петровский
                                                                                    10.12.2023 в 21:32:10

                                                                                    Уважаемый Виктор Михайлович! Вы пишете: "Продукты будут иметь воистину надпарадигмальный характер только в том случае, когда будут созданы без каких-либо комбинаций существующих текстов. Идеальному ИИ не нужны будут никакие тексты, если он будет способен создавать новое знание."
                                                                                    Вот это уже доподлинно интересно!
                                                                                    Гегель «выращивает» баобаб из пустого множества «чистого бытия» (= «ничто»),
                                                                                    Единица в математике определяется с опорой на пустое множество (редактор не позволяет ввести математические символы, – а я возился долго! – но передам общий смысл): "Единица» есть множество, которое «равномощно» пустому множеству (то есть между ними может быть установлено взаимно-однозначное соответствие); далее тем же способом определяются 2, 3 и т.д. И таким образом мы видим, что пустое множество вкупе с некоторыми знаками дает возможность развернуть все множество натуральных чисел.
                                                                                    В соответствие с Вашим замечанием-предложением, могу допустить, что этические неожиданности могут возникнуть "из ничего". Но легко предположить, что и "этика машины" может быть свободна от этики создателей, руководствуясь не столько принципом "наоборот" (известно, что негативизм есть конформизм наизнанку), сколько принципом свободной комбинации этики создателей и этики оппонентов, "строя" свои собственные неопровержимые и недоказуемые положения.

                                                                                      , чтобы комментировать

                                                                                    • Виктор Михайлович Волобаев
                                                                                      11.12.2023 в 15:26:25

                                                                                      Уважаемый Вадим Артурович!
                                                                                      Никаких неожиданностей не может быть. Реальный ИИ создаётся постепенно, используя достижения науки и техники на основании заданий владельца. Решения ИИ всегда будут отражать этику владельца, если он даст такие ограничения в решениях. Владелец никогда не допустит бесконечную самостоятельность ИИ. Это наверняка будет предусмотрено конструктивно, а не только программно.
                                                                                      Вы пишете ""строя" свои собственные неопровержимые и недоказуемые положения." Это интересно.
                                                                                      Правильно ли я понял, что вы наделяете машину способностью генерировать нечто, предлагая владельцу верить ей, т. к. она не может предоставить доказательств?

                                                                                        , чтобы комментировать

                                                                                      • Виктор Михайлович Волобаев
                                                                                        11.12.2023 в 15:35:44

                                                                                        Уважаемый Владимир Александрович!
                                                                                        Согласен, человек, вернее общественные отношения в настоящее время, гораздо опаснее ИИ, который всего лишь инструмент и не более. Гипотетический ИИ может быть разным, но унаследует многое от человека. Сейчас человеческое сознание сдаёт экзамен на право существования. Что победит мировая психопоталогия или созидающая гармония?

                                                                                          , чтобы комментировать

                                                                                        • Марат Радикович Ахметов
                                                                                          Марат Радикович Ахметов
                                                                                          Набережные Челны
                                                                                          11.12.2023 в 15:57:47

                                                                                          "Но легко предположить, что и "этика машины" может быть свободна от этики создателей, руководствуясь не столько принципом "наоборот" (известно, что негативизм есть конформизм наизнанку), сколько принципом свободной комбинации этики создателей и этики оппонентов, "строя" свои собственные неопровержимые и недоказуемые положения".- согласен с тезисом, иначе мы говорим о полуискусственном интеллекте, типа чат бот, голосовой помощник. Возможно и человек как создание Высших сил своего рода "искусственный интеллект" по отношению к ним, также наделен свободной волей и свободой от этики создателей. Иначе видимо это уравнение не решается. С уважением.

                                                                                            , чтобы комментировать

                                                                                          • Вадим Артурович Петровский
                                                                                            12.12.2023 в 21:04:47

                                                                                            Уважаемый Виктор Михайлович, Вы пишете: "Владелец никогда не допустит бесконечную самостоятельность ИИ. Это наверняка будет предусмотрено конструктивно, а не только программно." Вы верите в то, что "никогда не допустит". Я думаю, Вы сами лучше меня знаете, как люди "оберегают" свои открытия, стремясь "не допустить" их использования в целях, разрушительных для человечества. Этот животрепещущий требует особого формата для обсуждения. Мое футурологическое эссе было посвящено совсем другому вопросу - как возможно появление решений и действий ИИ, не запрограммированных создателем, а не о том, можно ли их предотвратить и всегда ли это будет сделано.
                                                                                            Мы оба с Вами, Виктор Михайлович, размышляет об искусственным интеллектом будущего, но Вы при этом, мне кажется, воображаете ИИ по аналогии с уже сегодняшними, существующими в наши дни вариантами (автомат "от производителя", воспроизводящий психопатологию создателей, – "общественные отношения"), а я представляю ИИ Будущего принципиально иным образом (квантовый генератор неопределенности, "великий комбинатор" возможностей, сочетающий в. себе разные этические системы и проверяющих гипотетические результаты синтеза на практике).
                                                                                            Вы спрашиваете меня: "Правильно ли я понял, что вы наделяете машину способностью генерировать нечто, предлагая владельцу верить ей, т. к. она не может предоставить доказательств?" Нет, я не это имел в виду, говоря об аналогах теоремы Геделя (положения, не доказуемые и неопровержимые в рамках определенных формальных теорий).


                                                                                              , чтобы комментировать

                                                                                            • Вадим Артурович Петровский
                                                                                              13.12.2023 в 11:11:33

                                                                                              Уважаемый Виктор Михайлович! Вы спрашиваете у меня: "Правильно ли я понял, что вы наделяете машину способностью генерировать нечто, предлагая владельцу верить ей, т. к. она не может предоставить доказательств?" Нет, я говорил о другом. Цитирую одно из описаний теоремы Геделя о неполноте: "Всякая система математических аксиом начиная с определенного уровня сложности либо внутренне противоречива, либо неполна", то есть в языке этой теории могут быть образованы, в частности, недоказуемые и неопровержимые высказывания. Если ИИ наделен программой, ориентированной на оценку своих (стремительно возрастающих) возможностей, то я не исключаю, что он способен порождать как раз такие высказывания. Единственный способ удостовериться в их правоте - "полевой эксперимент", поиск аргументов, лежащих в эмпирической плоскости. Иными словами "Великий комбинатор возможностей" - квантовый генератор неопределенности – создает то, что не вписывается в первоначальные планы разработчиков ИИ, и тот начинает экспериментировать. Последствия непредсказуемы. Открытия человечества, как шило в мешке, не утаить. Примеры слишком известны. Повторять нет смысла.

                                                                                                , чтобы комментировать

                                                                                              • Вадим Артурович Петровский
                                                                                                14.12.2023 в 00:04:17

                                                                                                Марат Радикович!
                                                                                                ИНТЕРЕСНО!

                                                                                                  , чтобы комментировать

                                                                                                • Валерий Михайлович Ганузин
                                                                                                  15.12.2023 в 09:54:18

                                                                                                  Про ИИ. Вот, новый поворот!

                                                                                                  "Американский совет по надзору за финансовой стабильностью назвал искусственный интеллект потенциальной угрозой для финансовой системы страны, в случае, если он не будет должным образом контролироваться."

                                                                                                  Воровать будет или банкротить банки?
                                                                                                  Тема интересная и не безперспективная. Один из ИИ, допущенный к финансовой системе, может стать самым богатым между всех ИИ на Земле(+++

                                                                                                  С уважением, Валерий Михайлович.

                                                                                                    , чтобы комментировать

                                                                                                  • Вадим Артурович Петровский
                                                                                                    16.12.2023 в 03:57:25

                                                                                                    Да, поворотец...
                                                                                                    А если его будет контролировать естественный интеллект?
                                                                                                    Не дай БОГ! )))

                                                                                                      , чтобы комментировать

                                                                                                    • Вадим Артурович Петровский
                                                                                                      17.12.2023 в 09:49:45

                                                                                                      Только что прочитал, что ученые заявили о возможности ИИ воспроизводиться без участия человека. Саморазвивающийся искусственный интеллект (ИИ) — технологическое открытие. Модели искусственного интеллекта могут создавать подсистемы ИИ без помощи человека, согласно исследованию, опубликованному 15 декабря группой ученых Массачусетского технологического института и нескольких кампусов Калифорнийского университета.

                                                                                                        , чтобы комментировать

                                                                                                      • Марат Радикович Ахметов
                                                                                                        Марат Радикович Ахметов
                                                                                                        Набережные Челны
                                                                                                        17.12.2023 в 11:11:13

                                                                                                        Уважаемый Вадим Артурович, чем то нас людей напоминает, преположу, про Адама и Еву все иносказательно, а человеку суждено создать ИИ, что бы все вкусить и понять собственное поведение. С уважением.

                                                                                                          , чтобы комментировать

                                                                                                        • Валерий Михайлович Ганузин
                                                                                                          17.12.2023 в 11:14:11

                                                                                                          Уважаемый Вадим Артурович!

                                                                                                          Если задуматься о цивилизации и глобальной истории человечества, то создается такое впечатление. Как только человеческая ветвь в своем витке доходит до максимального развития, ее все время что-то/кто-то губит (см. сообщения о раскопках археологов). Может это метеориты или извержения вулканов, войны, с применением оружия массового уничтожения и без него, повышение уровня мирового океана и затопление материковой суши или наоборот, опустынивание территорий (жара, засуха, голод и т.д.). микробные или вирусные пандемии (лабораторные микробы и вирусы) и прочее. Про пришельцев из космоса написаны романы и сняты целые сериалы.

                                                                                                          А может быть в каких-то случаях и ИИ, который уничтожив людей погибает и сам. А железо, в котором ИИ содержится, сгнивает и разлагается.

                                                                                                          Сюжетов может быть много и по многим можно писать исторические фантастические романы.

                                                                                                          С уважением, Валерий Михайлович.

                                                                                                            , чтобы комментировать

                                                                                                          • Вадим Артурович Петровский
                                                                                                            18.12.2023 в 09:27:21

                                                                                                            "Жить - значит умирать" - говаривал давно забытый классик. Неужели, Валерий Михайлович, это относится также к ИИ? Забавно и страшно.

                                                                                                              , чтобы комментировать

                                                                                                            • Вадим Артурович Петровский
                                                                                                              18.12.2023 в 09:28:27

                                                                                                              Марат Радикович!
                                                                                                              По-моему, ДА.

                                                                                                                , чтобы комментировать

                                                                                                              • Валерий Михайлович Ганузин
                                                                                                                18.12.2023 в 10:33:17

                                                                                                                Уважаемый Вадим Артурович!

                                                                                                                Вероятно, так оно и будет.
                                                                                                                По У. Шекспиру: "Ничто не вечно под луной."

                                                                                                                А Сергей Александрович Есенин очень красиво описал этот процесс:

                                                                                                                "Все мы, все мы в этом мире тленны,
                                                                                                                Тихо льется с кленов листьев медь...
                                                                                                                Будь же ты вовек благословенно,
                                                                                                                Что пришло процвесть и умереть."

                                                                                                                С.А. Есенин, 1922 год.

                                                                                                                С уважением, Валерий Михайлович.

                                                                                                                  , чтобы комментировать

                                                                                                                • Вадим Артурович Петровский
                                                                                                                  18.12.2023 в 11:41:00

                                                                                                                  "Вовек благословенно" ?
                                                                                                                  Многие бы предпочли бесконечно падать в черную дыру в состоянии счастья, а не тогда, когда черно на душе...

                                                                                                                    , чтобы комментировать

                                                                                                                  • Виктор Михайлович Волобаев
                                                                                                                    18.12.2023 в 19:43:14

                                                                                                                    Уважаемый Вадим Артурович!

                                                                                                                    На 12.12.2023 21:04:47 и 13.12.2023 11:11:33

                                                                                                                    Поясню подробнее, т. к. непонимание накапливается.

                                                                                                                    ИИ не будет доставлен машиной времени и пришельцами. Его создают и будут создавать конкретные люди по техническому заданию владельца. Это будет до тех пор, пока не будут преодолены ограничения. О них ниже. Иной способ мне неизвестен. Владелец - это конкретные люди со своей психологией (психопатологией) и пониманием, живущие, каждый раз, в конкретном историческом периоде и конкретных общественных отношениях. Т. е. ИИ необходимо рассматривать как прикладной инструмент человека в исторической динамике, до преодоления ограничений.

                                                                                                                    Какие общественные отношения будут через 1000 лет? А через миллион? Какие задачи они буду ставить перед ИИ? Свести население планеты до 1 миллиарда или заселить обитаемые планеты в Галактике, а затем перед столкновением с галактикой М31 переселиться в другую галактику?

                                                                                                                    1. ИИ не обязательно будет воспроизводить психопатологию владельца. Принципиальное значение имеют цели владельца. ИИ будет решать задачи данные владельцем, для достижения его целей. Владелец вполне может иметь психопатологию и не может существовать вне общественных отношений. Это первое, и самое важное, труднопреодолимое ограничение.

                                                                                                                    2. ИИ есть и будет продуктом материального мира. Его начинка и конструкция (структура, элементная база и т. п.) будут соответствовать достижениям науки и техники на каждый момент времени - это второе ограничение.

                                                                                                                    3. Чтобы материальный субстрат сгенерировал работу ИИ необходимо математическое обеспечение. Уровень ИИ будет отражать текущее состояние математической науки - это третье ограничение,

                                                                                                                    4. ИИ – это одна глобальная машина или ряд самостоятельных? Из того и другого может следовать, еще одно, и, думаю, не последнее ограничение, имеющее свои последствия.

                                                                                                                    Эти ограничения глобальны и ИИ без участия человека преодолеть их пока не сможет. Для преодоления нужен абсолютно полностью автоматизированный цикл производства и воспроизводства материальной структуры для воссоздания, ремонта, усовершенствования ИИ, включая энергетику, транспорт и т.п. С этого момента антропоцентричность начнёт искореняться. Начнёт создаваться исключительно машинное самосознание. Идеально для освоения иной планеты перед заселением человека. Первоначально это может сделать только владелец со своими целями. Захочет ли владелец сделать ИИ абсолютно от него независимым? Вновь на первый план выходят общественные отношения в которых находится владелец и его целей, или целей сообщества. Это мульдисциплинарная проблема и фантазировать можно сколько угодно, тренируя своего Ребёнка:-).

                                                                                                                    Для чего я написал про ограничения?

                                                                                                                    Эти ограничения будут неизбежно влиять на сознание и самосознание машины, и создавать некую предсказуемость. Думаю, такие качества у ИИ будут и это отдельные большие темы. Эти качества будут влиять на спонтанную генерацию продукта ИИ.
                                                                                                                    Машина будет для человека кто или что?
                                                                                                                    А человек для машины кем будет?
                                                                                                                    Машина будет членом человеческого сообщества? Если да, то на каком социальном уровне? Или слугой владельца? Или как, чем, кем?
                                                                                                                    Допустим, машина что-то спонтанно сгенерировала, почему бы и нет, пусть суперважное. И что? Как она может повлиять на человеческое общество без участия человека, если владелец этого не позволит?
                                                                                                                    Таких вопросов масса.

                                                                                                                    Для меня интереснее различные психологические аспекты работы ИИ, чем теоремы Гёделя сформулированные для арифметики, ибо не математик.

                                                                                                                    Прогресс неостановим, пока его не прервёт сам человек. А прервёт или нет зависит от общественных отношений.

                                                                                                                      , чтобы комментировать

                                                                                                                    • Владимир Александрович Старк

                                                                                                                      ИИ в руках человека - инструмент опасный, но контролируемый через его хозяина.
                                                                                                                      Критическим рубежом в развитии ИИ будет обретение им свободы воли.
                                                                                                                      Свобода воли проявляется только в (без)нравственных волеизъявлениях.
                                                                                                                      (это долго объяснять просто поверьте на слово старому философу-моралисту)
                                                                                                                      (Без)нравственное - это чрезвычайно тонкая материя, и Сверхновый Завет Айзенка, в условиях свободы воли ИИ неизбежно превратится в морализаторскую благоглупость.

                                                                                                                        , чтобы комментировать

                                                                                                                      • Вадим Артурович Петровский
                                                                                                                        19.12.2023 в 11:06:16

                                                                                                                        Уважаемый Виктор Михайлович, согласен с многими Вашими мыслями, но, Вы правы: "непонимание накапливается". Может быть, даже не "непонимание", а принципиальное расхождение в позициях (гипотезах, ведь пока что всем это только гипотезы о будущем). Для важен вопрос "Захочет ли владелец сделать ИИ абсолютно от него независимым?", а для меня – " Захочет ли ИИ сделать себя независимым от своего создателя?"

                                                                                                                          , чтобы комментировать

                                                                                                                        • Вадим Артурович Петровский
                                                                                                                          19.12.2023 в 11:08:01

                                                                                                                          Уважаемый, Владимир Александрович, Вы пишете: "Критическим рубежом в развитии ИИ будет обретение им свободы воли".
                                                                                                                          Именно так. Согласен!

                                                                                                                            , чтобы комментировать

                                                                                                                          • Виктор Михайлович Волобаев
                                                                                                                            19.12.2023 в 16:54:48

                                                                                                                            Уважаемый Артур Вадимович, упомянутые Вами принципиальные расхождения вторичны, если не третичны. Хотя, если вам так угодно:-) Это же гипотезы, которые невозможно проверить

                                                                                                                              , чтобы комментировать

                                                                                                                            • Вадим Артурович Петровский
                                                                                                                              20.12.2023 в 16:04:20

                                                                                                                              Уважаемый Виктор Михайлович!

                                                                                                                              В любом случае, мы думаем о разном, и волнует нас разное. Степень различия не так существенно. Все сказано. Нет смысла что-то еще повторять. Иногда "не понять друг друга" не менее важно, чем понять. Спасибо. Всего Вам самого доброго, и - хороших собеседников.

                                                                                                                                , чтобы комментировать

                                                                                                                              • Виктор Михайлович Волобаев
                                                                                                                                20.12.2023 в 19:14:52

                                                                                                                                Уважаемый Вадим Артурович!
                                                                                                                                Вы концентрируетесь на различиях, мне интереснее искать и находить общность, там, где многие ее принципиально не находят. Могу ошибаться, т. к. этот вывод сделал из обмена мнениями с Вами. Это, да, принципиальное различие. В любом случае, спасибо. С наилучшими пожеланиями:-)

                                                                                                                                  , чтобы комментировать

                                                                                                                                , чтобы комментировать

                                                                                                                                Публикации

                                                                                                                                Все публикации

                                                                                                                                Хотите получать подборку новых материалов каждую неделю?

                                                                                                                                Оформите бесплатную подписку на «Психологическую газету»