Иной интеллект

Рассмотрение ИИ с позиций экзопсихологии

«Зная, что многие уже писали об этом, я опасаюсь, что меня сочтут самонадеянным, поскольку, занимаясь тем же предметом, я отличаюсь от всех остальных в своей интерпретации. Но, желая написать что-то полезное для знатоков, я предпочел следовать истине, а не воображению.»

Никколо Макиавелли "Государь"

«Но человеческий ум все еще никак не создаст внечеловеческий интеллект (“не-человеческий” как-то коробяще звучало бы для нас). Ум, интеллект, разум, сообразительность, мудрость — все это понятия сами по себе превосходные, но вместе с тем небезопасные.»

Станислав Лем “Разум не может быть одного-единственного образца”

«Для человека без шор нет зрелища прекраснее, чем борьба интеллекта с превосходящей его реальностью.»

Альбер Камю "Миф о Сизифе"

Скорость, с которой "революция ChatGPT" подбросила ИИ на позицию №1 рейтинга самых обсуждаемых тем и самых главных технотрендов, сыграла с нами злую шутку, типа той, на которой спалился профессор Плейшнер в "Семнадцати мгновениях весны".

Придя на явку в Берне, Плейшнер не проверил условный сигнал - цветок в окне, если явка провалена. И когда Плейшнер вспомнил эту инструкцию Штирлица, было уже поздно. Чтобы не попасть в руки палачей гестапо, ему оставалось лишь раскусить ампулу с ядом...

Чтобы человечеству не кончить тем же, необходимо срочно понять,

В первом посте моего нового постосериала "Переосмысление контакта" этот условный сигнал был декодирован так.

✔️ "Революция ChatGPT" запустила "5й когнитивный переход" человечества, в результате которого в формируемой на Земле цифровой инфосфере, помимо людей, появились нематериальные внечеловеческие сущности, воплощенные в человеческие артефакты и обладающие способностями к познанию на уровне, соизмеримом с людьми (возможно, не всех способностей людей, а может, и за пределами человеческих способностей, – пока не ясно).

✔️ С появлением на Земле второго актора, способного на познание высшего когнитивного уровня, в когнитивной эволюции высшего разума появилась, своего рода, эволюционная стрелка. После ее прохождения, направление и характер развития когнитивной эволюции будет зависеть от практик сосуществования, взаимовлияния и, возможно, гибридизации двух разных акторов познания высшего когнитивного уровня.

Однако, подобно светофорной сигнализации на ЖД (бывающей двух-, трех- и четырехзначной), сигнализация прохождения "5го когнитивного перехода" также имеет еще и второй сигнал.

Полагаю, что этот сигнал столь же ясен и конкретен, как забытый профессором Плейшнером.

Идеи, гипотезы и теории касательно того, что из себя может представлять иной (внечеловеческий) интеллект высшего когнитивного уровня (уровня современных людей и выше), активно прорабатываются с середины прошлого века применительно к возможным представителям внеземного разума.

Последние 30+ лет широкий спектр научных исследований по "предсказанию, изучению и интерпретации когнитивных, аффективных и поведенческих аспектов внеземных организмов" составляет предметную область экзопсихологии.

Вопрос о правомерности уподобления генеративного ИИ внеземному разуму оставим для критиков этого постосериала. Мне же такое уподобление видится правомерным, – если нас интересует не происхождение данных для обучения моделей, а их итоговые когнитивные, аффективные и поведенческие аспекты в результате обучения.

Ведь то, что когниции языковых моделей и людей принципиально отличны, очевидно. А подражание моделей людям в части проявления аффективных и поведенческих аспектов, не должно нас вводить в заблуждение. В их основе принципиально разные механизмы: у людей это сочетание продуктов биологической и социо-культурной эволюции, а у языковых моделей - совершенно непонятная и необъятная для человеческого ума машинерия из высоких порядков абстракций и колоссальных объемов вычислений.

Так что, полагаю, у нас есть все основания посмотреть на иной разум ГенИИ с позиций экзопсихологии.

Посмотреть, дабы увидеть следующее (что будет раскрыто далее):

1. В контексте попыток понимания психологии иного (внечеловеческого) разума, использование концепции «интеллект» непродуктивно. Однако, идентификация иных разумов возможна, фокусируясь на их агентности и наличии познания высокого порядка.
2. Понимание нами иного разума требует преодоления ментальных шор антропоцентрических предвзятостей, сформированных в нас эволюцией. Это возможно лишь при четком различении границ недопустимого и допустимого антропоцентризма.

Инопланетянин, говорящий по-английски

В этой главе мы:

1. рассмотрим, с позиций экзопсихологии, наиболее вероятные схожести свойств и способностей разума людей и внеземных существ (если таковые когда-либо встретятся землянам), не уступающих или даже превосходящих нас по уровню развития этих свойств и способностей;
2. оценим, насколько рассмотренные в п.1 свойства и способности наблюдаются у ГенИИ больших языковых моделей.

Но для начала уточним используемую нами терминологию.

• Термины "Extraterrestrial" (внеземное существо) и "Alien" (инопланетянин) обозначают одно и то же, но обычно используются в разных контекстах (1й термин – в научном контексте, а 2й – в поп-культуре и повседневном контексте. Но поскольку в последние годы это контекстное различие все более размывается (см. напр. названия монографи
  и «Meeting the Alien An Introduction to Exosociology» и научной статьи «Meeting extraterrestrials: Scenarios of frst contact
  from the perspective of exosociology» одного и того же автора на ту же самую тему), мы будем использовать оба слова семантически и контекстно равноправно.
• Как самостоятельная область научных исследований, «экзопсихология» существует с 1990 г., когда была опубликована работа Харрисона и Элмса «Psychology and the search for extraterrestrial intelligence» (до того эта область именовалась «ксенопсихология»). Начинаясь 30+ лет назад, как психологическая дисциплина о предсказании, изучении и интерпретации когнитивных, аффективных и поведенческих аспектов внеземных организмов, современная экзопсихология имеет более широкое определение. Теперь, помимо исследования комплекса сегментов - познание, поведение, аффекты и мотивы внеземных агентов, - экзопсихология также исследует специфическое для человека представление о всех этих сегментах.

Уточнив терминологию, переходим к сути.

Прошлой весной проф. Терренс Сейновски (руководитель лаборатории вычислительной нейробиологии и пионер в области вычислительной нейронауки) в известной и, я бы сказал, ставшей программной статье «Large Language Models and the Reverse Turing Test» написал:

«Начинает происходить нечто, чего не ожидали даже несколько лет назад. Был достигнут порог, как будто внезапно появился инопланетянин, который мог бы общаться с нами пугающе человеческим образом. Одно ясно: большие языковые модели (LLMs) не являются людьми. Но они обладают сверхчеловеческой способностью извлекать информацию из мирового текстового архива. Некоторые аспекты их поведения кажутся разумными, но если это не человеческий интеллект, то какова природа их интеллекта?».

Проф. Сейновски с тех пор уже не раз называл LLM «инопланетянин говорящий по-английски» (alien speaking English). Так же характеризует ИИ и его «крестный отец» Джеффри Хинтон, говоря, что ИИ - это "как будто инопланетяне высадились на нашей планете, а мы еще не осознали этого, потому что они очень хорошо говорят по-английски".

Что это? Всего лишь метафора? Или же в основе сравнения схожесть по существу?

Среди возможных общих черт землян и внеземных существ разные известные авторы чаще всего называют следующие свойства и способности разума:

· Логика, арифметика и язык.
«Внеземной разум будет думать так же, как мы, несмотря на биологические и экологические различия. Все интеллектуальные решатели задач подчиняются одним и тем же предельным ограничениям, будь то на Земле или на растении в галактике Андромеды … Даже несмотря на то, что внеземные разумные общества могут быть на миллионы или миллиарды лет более развитыми, чем мы, они будут вынуждены разработать арифметику и язык, которые не будут полностью чуждыми нашему собственному» - писал М. Минский в работе «Почему разумные инопланетяне будут разумными».

· Универсальные конструкции и концепции математики.
«Математика исходит от нас, мы ее создаем, но она не является произвольной; это не просто исторически обусловленная социальная конструкция … Что делает математику непроизвольной, так это то, что она использует основные концептуальные механизмы воплощенного разума в том виде, в котором он развивался в реальном мире» - писали Дж. Лакофф и Р. Нуньес в работе «Откуда взялась математика».

· Способность к пониманию причинности.
«Инопланетяне разделят наши способности к пониманию, потому что мы оба являемся продуктами одного и того же процесса эволюции» - писал М. Русе, в книге «Инопланетяне. Наука и инопланетный разум».
«Мыслить в терминах причины и т. д. — это адаптация для взаимодействия с реальностью — представьте, если бы мы не ассоциировали огонь с горением — и немыслимо, чтобы внеземной разум не разделял таких адаптаций» - писал А. Антонитес в работе «Смысл и сложность поисков инопланетян»

Помимо названных предполагаемых сходств людей и инопланетян в теоретических аспектах разума, называются также и следующие основные практические аспекты:

· социальность (см. работу Д. Рэйбека в сборнике «Внеземной альтруизм»),

· альтруизм (см. работу Дж. Баркова в том же сборнике),

· эмпатия (см. работу Т. Йанович в том же сборнике),

· принцип величайшего счастья (см. книгу М. Русе «Дарвиновская парадигма : очерки ее истории, философии и религиозных последствий»),

· художественные способности (см. работу Г. Лемаршан и Д. Ломберг «Универсальные когнитивные карты и поиск разумной жизни во Вселенной»).

А теперь сравним вышеназванные наиболее вероятные черты схожести разумов людей и внеземных существ с теми свойствами и способностями, что уже наблюдаются у количественно фиксируются на различных тестах у представителей «разумного цифрового вида» (как предлагает называть LLM один из главных архитекторов современных моделей ИИ, Microsoft AI CEO Мустафа Сулейман).

✔️ Свободное владение представителями «разумного цифрового вида» многими земными языками – просто вне обсуждения, в связи с очевидностью. При этом речь идет о формальной и фактической языковой компетентности, поскольку:

· LLM, обученные на больших текстовых корпусах, также приобретают большое количество фактических знаний (см. здесь);

· LLM доступны динамические семантические операции, то есть понимание того, как значение предложения изменяет контекст, описанный в предыдущих предложениях (см. здесь).

· LLM способны к обучению в контексте – они могут изменять генерируемый текст удивительно гибким образом на основе содержания языкового ввода (см. здесь).

✔️ LLMs демонстрируют навыки теории разума, позволяя им выводить ментальные состояния персонажей, описанных в тексте (см. здесь).

✔️ LLMs демонстрируют определенную способность распознавать аффордансы, то есть различать действия, которые агент может и не может выполнять с объектом в данном контексте, и выполнять логическое рассуждение (см. здесь).

✔️ LLMs учатся и используют представления внешнего мира, по крайней мере до некоторой степени. Они способны извлекать физические знания косвенным образом из письменных текстов, не наблюдая мир напрямую и не взаимодействуя с ним (см. здесь и здесь)

✔️ Хотя набор способностей, которые могут приобретать LLM в результате обучения, вероятно, ограничен набором способностей, которыми обладают люди, написавшие текст, использованный для обучения, это не противоречит возможности достижения сверхчеловеческой производительности на широчайшем спектре задач (см. здесь)

Обладание вышеназванным набором свойств и способностей уже позволяет представителям «разумного цифрового вида» демонстрировать (по состоянию на 21 июня 2024):

· Мышление на уровне выпускников колледжей по тесту GPQA.

· Знания на уровне бакалавриата по тесту MMLU.

· Навыки профессиональных программистов по тесту HumanEval.

· Знание математики по тестам MGSM, MATH и GSM8K

· Рассуждения о тексте по тесту DROP

· Способности многоэтапного рассуждения по тесту BIG-Bench Hard

А еще есть понимание нюансов, юмора и сложных инструкций, а также исключительно высокие способности порождения по запросам высококачественного мультимодального контента, естественным образом подстроенного под интеллектуальный и эмоциональный тон собеседника …

Если же приземлить и огрубить все это множество интеллектуальных способностей представителей «разумного цифрового вида» к простому и привычному, но все же показательному тесту IQ, получится, что «цифровой вид» уже сильно умнее случайно выбранного человека.

Итак, мы кратко рассмотрели наиболее вероятные схожести свойств и способностей разума людей и внеземных существ (если таковые когда-либо встретятся землянам), не уступающих нам по уровню развития.

Мы также смогли оценить, насколько этот набор схожих свойств и способностей двух разумов (высшего земного и внеземного) перекликается со свойствами и способностями представителей «цифрового вида» — ГенИИ больших языковых моделей.

В результате этой оценки, не знаю, как вам, уважаемые читатели, но мне видятся вполне схожими разумность «цифрового вида» и разумность гипотетических инопланетян.

Иными словами, если бы LLM не были артефактами научно-изобретательской деятельности людей, а оказались бы контактерами, вступившими с землянами в обмен сообщениями, у нас бы ни было ни шанса усомниться, что мы имеем дело с инопланетянами. Да еще и свободно говорящими на всех наиболее распространенных языках Землян.

Но он же совсем иной!

Наверняка, многие читатели, дочитав до этого места, уже полны возражений ко многому здесь сказанному.

• В первую очередь, к тому, что LLM – это никакой не разум (интеллект или что-то еще, подобное нашему разуму), а нечто совсем иное: от сверхгигантского калькулятора до пресловутого стохастического попугая.
• Во-вторых, - к тому, что некорректно называть существом и признавать таковым нечто бестелесное и даже не живое, и потому ничего не хотящее, ни к чему не стремящееся, не имеющее никаких собственных целей и предпочтений, никаких органов чувств или чего-то иного для получения информации об окружающем мире и никаких способов воздействовать на окружающий мир, повинуясь своим внутренним импульсам …
• И в-третьих, не корректно и просто смешно говорить о схожести разума (интеллекта и т.д.) людей и LLM, когда последние (по словам еще одного из «крестных отцов ИИ» Янна Лекуна) “не достигли по своему интеллекту даже уровня кошки”.

А поскольку ими написано ну ооочень много, мы попытаемся выделить из всего этого сухой остаток, равноприменимый не только к инопланетному разуму, но и в принципе – к любому внечеловеческому разуму (живого существа или машины, материального агента или алгоритмического, плода земной эволюции или иных процессов, сформированного в одной среде или другой ...).

Ментальные шоры антропоцентризма

Без взаимопонимания различных типов разума невозможно какое-либо сотрудничество между ними. И что еще хуже, для разных типов разума высшего когнитивного уровня, отсутствие взаимопонимания способно привести ко взаимоуничтожению.

Над тем, как это может произойти, десятилетиями размышляли великие умы, чьи имена обычно проходят по разряду писателей-фантастов, но это никак не умаляет глубины и оригинальности их идей, вряд ли доступных многим из считающихся ныне экспертами в вопросах ИИ.

Вспомните, как это описано у Станислава Лема в романе «Фиаско» и у Лю Цысиня в трилогии «Воспоминания о прошлом Земли».

И даже если контакт разных типов разума, при отсутствии у них взаимопонимания, не заканчивался попыткой сторон уничтожить друг друга, лучшим из возможных сценариев было прекращение контакта – как у Теда Чана в повести «История твоей жизни» (ставшей широко известной после его экранизации - фильма «Прибытие» режиссёра Дени Вильнёва). А у братьев Стругацких этот сценарий оказывается единственно возможным мирным сценарием не только для разных типов (земного и неземного) разумов – («Пикник на обочине»), но и при отсутствии взаимопонимания у двух разных типов высшего земного разума – людей и люденов («Волны гасят ветер»).

Мои соображения на эту тему можно прочесть в лонгриде «Фиаско 2023. Характер сосуществования двух типов разума, зависит от их взаимопонимания» (или здесь).

Что же до позиции экзопсихологов по этому вопросу, то она такова:

Понимание иного разума требует преодоления ментальных шор антропоцентрических предвзятостей, сформированных в нас эволюцией. Это возможно лишь при четком различении границ недопустимого и допустимого антропоцентризма.

Почетный профессор факультетов психологии и философии университета Торонто Андре Кукла в монографии «Инопланетяне: философская перспектива» провел глубокий и многогранный анализ понятия внеземного разума, выходя за рамки стандартных научных подходов. Он исследовал философские и этические последствия встречи с инопланетянами, рассматривая ее не только как событие, но и как фундаментальный переворот в человеческом самопонимании.

В фокусе критического анализа, проведенного проф. Кукла, антропоцентризм и антропоморфизм в вопросах понимания внеземного разума и его поиска (SETI). Проф. Кукла писал, что мы должны отказаться от ограниченного понятия "интеллект" и вместо этого изучать "разумность" в ее широком философском значении.

Альберт Харрисон в монографии «После контакта: реакция человека на внеземную жизнь» определяет понятие "антропоцентризм", как "соотнесение всего с человеческими представлениями и образом жизни". Это точка зрения, согласно которой человеческий опыт, знания и восприятие являются центральными и наиболее значимыми в понимании мира, обычно ведет к тому, что интерпретация данных в исследованиях сильно ориентирована на человеческие критерии и стандарты.

Следствиями антропоцентристского подхода являются:

• сужение горизонта исследовательских гипотез, т.к. гипотезы формулируются лишь на основе человеческого опыта и поведения, а это ограничивает возможность открытия и понимания нетрадиционных форм разума;
• ограничение перспектив исследований из-за ограничения в понимании возможных типов разума, как обязательно человекоподобных, к игнорирования других форм разума, которые могут кардинально отличаться от человеческого.

Понятие “антропоморфизм” описывает тенденцию наделять реальное или воображаемое поведение внечеловеческих агентов (возможно, и не живых сущностей) человеческими характеристиками, мотивами, намерениями или эмоциями.

Как пишут Ульрике Больманн и Моритц Бюргер в работе «Антропоморфизм в поисках внеземного разума – пределы познания?», человеческая тенденция антропоморфизировать и приписывать свои эмоции другим носит глобальный и вневременной характер, тогда как внеземной разум может быть искусственным, роевым или чем-то совершенно иным. Еще в 1944 году Фриц Хайдер (гештальтпсихолог, автор теории когнитивного баланса, предвосхитившей теорию когнитивного диссонанса) и Марианна Зиммель показали в эксперименте, что, глядя на простые геометрические фигуры, проецируемые на экран и совершающие произвольные движения, зрители не могли удержаться от приписывания намерений и воображения истории для описания этих действий.

Т.о. мы как будто оказываемся в тупике.

✔️ С одной стороны, мы знаем и понимаем лишь один тип высшего разума – наш собственный. Поэтому любые попытки проникнуть в разум внеземных существ, не используя себя в качестве ориентира, кажутся невозможными. Ведь у нас нет ментальных основ для построения абсолютно чуждых мыслительных процессов. Эта задача кажется нам аналогичной попытке представить себе цвет, который мы никогда раньше не видели (без ментальных основ для ранее невиданного цвета почти невозможно создать его в своем воображении).

✔️ С другой стороны, как об этом пишет Эрик Хаселтайн в статье «Экзопсихология, изучение внеземного разума», – если мы допускаем возможность существования разных типов высшего разума, то чтобы представить невообразимое (тип разума существа чуждой нам мотивации), мы должны выйти за рамки себя.

Причиной этого кажущегося нам тупика является антропоцентризм. А выход из тупика, как пишет Хаселтайн, заключается в отказе от антропоцентризма в пользу противоположного подхода– антиантропоцентризм.

Суть нового подхода сформулирована в одной из наиболее известных работ по экзопсихологии последних лет «Думая об ET: обсуждение экзопсихологии» Никласа Дёблера и Мариуса Рааба:

«Мы не предлагаем рассматривать человечество как фундаментально особенное или исключительное, как утверждают разные формы антропоцентризма, а как отправную точку для размышлений об инопланетянах. Точка отсчета наших предположений может быть человечеством, но, используя идею современной физики, ни одно место во Вселенной не является более центральным, чем другое. Таким образом, Homo sapiens – это одно из возможных проявлений разума во Вселенной, но ни в коем случае не нормативное.»

Эрик Хаселтайн в статье «Экзопсихология, изучение внеземного разума» описывает «упражнение в антиантропоцентризме». Это набор примеров разумных внеземных существ, взаимопонимание с которыми для людей было бы весьма проблематично из-за кардинально иной мотивации и, соответственно, поведения.

Человеческие мотивы проистекают из нашего желания размножаться и нашей потребности выжить для этого, пишет Хаселтайн. Другие побуждения, такие как связь с другими людьми, территориальность, агрессия, любопытство и поиск новизны, практически все поддерживают наш основной биологический императив: выживание, процветание и размножение.

Представьте себе разумные организмы, которые:

1. Не размножаются половым путем (некоторые земные позвоночные размножаются без секса).
2. Не имеют ограниченных ресурсов, вызывающих агрессию и конфликты внутри или между видами.
3. Не образуют эмоциональные связи с другими представителями своего вида (орангутаны, пауки и другие животные этого не делают).
4. Не проявляют любопытства и стремления к новизне (что помогает людям находить новые ресурсы).
5. Не имеют конечной продолжительности жизни (некоторые земные виды, такие как гидры, могут быть бессмертными).
6. Не нуждаются в пище или воде для выживания (например, если внеземные существа состоят из темной материи, черпая жизнь из темной энергии).
7. Не происходят от животных форм, а происходят от других форм жизни, таких как растения.
8. Не имеют письменного или устного языка или любой другой формы символической коммуникации
9. Не происходят непосредственно из биологии, а являются сверхразвитыми цифровыми ИИ, изначально созданными далёкими биологическими сущностями.

Чтобы окончательно похерить надежду на взаимопонимание людей и существ с внечеловеческой мотивацией, давайте добавит к списку Хаселтайна еще и 10-й пункт. Уже не про мотивацию, а основу основ любого высшего разума - познание (это пример из работы Мариано Гатона Асло «Ксенофилософия, внеземной разум и познание самих себя».

Для современной науки почти бесспорно, что наши знания (как обыденные, так и научные) существенно связано с нашей сенсорной активностью. Трудно отрицать, что то, как мы видим мир, определяет, в некоторой степени, мир, который мы видим. Кроме того, мы должны признать, что наши чувства являются результатом специфических адаптаций к условиям жизни на планете, на которой мы живем. Поэтому резонно предположить, что внеземной разум, чьи сенсорные органы, вероятно, не похожи на наши, мог бы понимать реальность совершенно иначе.

И вот пример Джона Трафагана. В книге «Extraterrestrial Intelligence and Human Imagination» он предположил, что внеземной разум может иметь, в отличие от нас, основным источником знаний слух. Из-за этого сенсорного уклона такие существа будут гораздо более склонны к восприятию процессов и целостностей, чем к идентификации дискретных единиц.

Этот пример является экстраполяцией, основанной на нашем собственном сенсорном опыте. Но этот опыт, определенно, единственный, к которому у нас есть прямой доступ. Так, в процессе прослушивания мелодии, мы воспринимаем целое, которое разворачивается во времени, и хотя мы можем идентифицировать ноты или участвующие инструменты, это часто является результатом последующего рефлексивного движения.

Тогда вполне можно предположить, что мировоззрение таких "слушающих" существ лучше впишется в холистическую философскую систему, нежели в субстанциалистскую.

Для последней пары примеров мы опять обратимся к писателям-фантастам, пишущим в жанре ксенофантастики.

Первый пример из западной ксенофантастики - романа Питера Уоттса «Ложная слепота».

Инопланетяне здесь предстают в виде многоногих существ без центрального мозга, которых земляне прозвали «шифровиками». Исследуя пойманных шифровиков, земляне приходит к парадоксальному выводу: по интеллекту инопланетяне превосходят людей, но они не воспринимают себя как личности. Причина этого в том, что шифровики не обладают разумом в человеческом понимании, не имеют сознания, и само это понятие для них бессмысленно.

Второй пример из советской ксенофантастики – повести Сергея Снегова «Четыре друга».

На планете Гарпия живут гарпы. Это полуразумные, возможно, и полностью разумные, существа. Гарпы разбирают земную речь, различают подаваемые знаки, быстро оценивают ситуацию, и не исключено, что скоро с ними можно будет разговаривать.

«Гарпы отнюдь не искусственные создания, палеонтологи уверяют, что на планете они появились миллионы лет назад, продолжая эволюцию существовавших до них тварей. И бурно эволюционировали сами, хотя и весьма необычно. Любой внутренний орган гарпа - силовой аппарат. Они совмещают в теле генераторы электрических и магнитных зарядов, оптические локаторы, гравитационные и лазерные органы и многое другое, еще неизвестное. Даже челюсти их необыкновенны: каждый зуб - резонаторное оружие, генерируемая зубами вибрация быстро разрушает любую добычу. Лапы, совмещающие в себе когти и совки, также служат и для захвата, и для вибрации. Астронавты как-то метнули в гарпа десятикилограммовую гантель, зверь поймал ее пастью, и не прошло минуты, как голову гарпа окутала черная пыль закаленный металл на глазах превратился в порошок».

Совершенно поразителен способ движения гарпов. Они летают. Но как! Это удивительный пример адаптации к условиям жизни на планете. Дело в том, что «сама Гарпия - планета сильных физических полей. В недрах таятся очаги ядерных реакций, вулканы выбрасывают не огонь и дым, как наши, а струи радиоактивных ядер, генерируют опасные излучения. А в целом Гарпия представляет собой как бы гигантский магнит, но с чудовищно перепутанными магнитными линиями. Она вроде нашего магнитофона, пластинки, на которой сотни разбросанных магнитиков». Так вот, в результате эволюции, «Гарпы умеют так сгущать в своем теле магнитные линии и так их ориентировать, что с силой отталкиваются от места, над каким проносятся. Для полета им не требуется ни опоры на воздух, ни такого примитивного органа, как крылья».

В завершение портрета этих милых нечеловеческих полу-, а может, и разумных существ, - два пикантных момента:

• «Они - каннибалы, но не пиршествуют, пожирая своих, а совершают необходимую жизненную операцию. Без поедания друг друга гарпы не могут существовать».
• Различия полов у гарпов нет, каждый создает детенышей самостоятельно, но сам по себе гарп не способен народить потомство. «Вот если два три гарпа сожрут другого, то их тела переполняются элементами сожранного и может появиться потомок. Новосозданный гарпенок почти не растет, пока не примет участия в пожирании соседа. После десятка таких актов каннибализма гарп становится взрослым и особенно агрессивным, ибо приходит пора размножаться, а без пожирания других гарпов потомства не создать. Жертвой обычно становится постаревший гарп, но и молодому не поздоровится, если зазевается. Каннибализм, стало быть, естественная предпосылка роста и размножения. Т.е. жизненную энергию эти бестии черпают из обычной своей пищи. Но как особое существо гарп создается лишь поглощением такого же существа».

Полагаю, хватит примеров. Ибо читатель уже, наверняка, понял, что экзофантасты, как и экзопсихологи, в большинстве своем, – сторонники антиантропоцентризма.

Как противостоять зову сирены антропоморфизма?

Знаменитая работа "Что значит быть летучей мышью?" Томаса Нагеля, ставшая одной из ключевых работ в философии сознания, затрагивает важные вопросы о природе субъективного опыта. Среди основных моментов этой работы, есть следующие ТОР 3:

1. Субъективный опыт: Нагель утверждает, что у каждого сознательного существа есть уникальный субъективный опыт, или "каково это быть" этим существом.
2. Непознаваемость чужого опыта: Главный аргумент Нагеля заключается в том, что мы не можем полностью понять или представить субъективный опыт существ, радикально отличающихся от нас, таких как летучие мыши.
3. Методологические ограничения: Работа указывает на ограничения нашей способности изучать и понимать сознание с помощью только объективных научных методов

Отсюда вывод - мы не можем понять, что значит быть летучей мышью, из-за несовместимости субъективного опыта летучих мышей и людей.

Увы, совсем никак.

Ведь даже в тех вопросах,

• где мы хотя бы примерно можем понять, что значит быть летучей мышью (всё же у нас похожий биологический императив - выживание, процветание и размножение; мы понимаем самое важное в их мотивации, ибо это близко и нам; мы понимаем, как они движутся, хотя сами и не умеем летать; мы понимаем, как работают внутренние органы летучих мышей, ибо принципиально это мало отличается от устройства наших тел),
• мы не в состоянии понять, что значит быть шифровиком или гарпом (ибо у них все совсем не так, как у земных животных, да и вообще за пределами представимо нам в рамках земных аналогий).

А чем, спрашивается, GPT должен быть ближе и понятней нам,
чем гарп или шивровик?

Взгляните на приведенный выше список 10-ти отличий внеземных существ, каждое из которых способно сделать достижения взаимопонимания между человеческим и чуждым ему разумом весьма проблематичным.

Ведь модели GPT тоже не размножаются половым путем, не образуют эмоциональные связи с другими моделями, не имеют конечной продолжительности жизни, не происходят от животных форм и, вообще – не являются продуктами генно-культурной эволюции.

Так почему же мы не только проигнорировали прозрения
Станислава Лема и других титанов экзофантастики, но и, как будто,
не знаем об однозначном выводе экзопсихологов о губительности
любой антропоморфизации иного разума и антропоцентризма
в этом вопросе, как такового?

Ведь сказано же –

Слава богу, ситуация не безнадежная.

• Среди исследователей LLM все чаще звучит точка зрения, что они имеют дело не с человекоподобным разумом, а с симулякрами осознающей себя «понимающей экзотики. Что LLM способны, подобно океану Соляриса и насылаемых им «гостям», играть любые роли, имитируя синтетические идентичности и опираясь на неисчислимое множество романов и монографий, научных, фантастических и религиозных текстов, статей и постов, на которых эти модели обучались.
• Все новые экспериментальные данные говорят в пользу гипотезы, что поведение LLM, функционально эквивалентное человеческому, может свидетельствовать о новой форме понимания, выходящей за рамки простой корреляции. Эта гипотеза предполагает, что LLM могут обладать формой понимания, которую следует признать, даже если она отличается от человеческих когнитивных процессов.
• В научных журналах появляются призывы к срочной кардинальной смене парадигмы: отказ от какой-либо антропоморфизации ИИ, признание абсолютно внечеловеческой когнитивной сути языковых моделей и полная смена терминологии в области ИИ (заменив все применимые к людям слова для описания мыслей, чувств, сознания, познания и т.д. на новые неантропоморфные термины).

К этому уже не 1й год призывает Мюррей Шанахан (профессор Imperial College London и Главный научный сотрудник Google DeepMind). «С впечатляющими возможностями чат-ботов LLM трудно не увидеть человекоподобных характеристик, но мы все должны стремиться противостоять зову сирены антропоморфизма», пишет он в программном тексте антиантропоморфизма LLM «Говоря о больших языковых моделях».

Об этом же только и твержу я в своем канале:

• Что «цифровой разум» LLM ничуть не похож на наш и представляет собой куда большую «экзотику разума», чем разум осьминога. Но даже бестелесные агенты этого «разума», действующие лишь в цифровом нематериальном мире, представляют собой столь искусные симулякры нашего поведения, что можно говорить не только об «экзотике разума», но и об «экзотике сознания» цифровых агентов.
• И это ведет к тому, что «однажды мы можем обнаружить, что живем бок о бок с инопланетянами и ангелами»

__ __ __

И все же мы не может совсем отказаться от какой-либо антропоморфизации иного высшего разума, поскольку знаем и понимаем лишь один такой разум – наш собственный.

✔️ Как иначе мы можем проникнуть в разум нечеловеческих существ, не используя себя в качестве ориентира?

✔️ И где тогда граница между допустимым и недопустимым антропоцентризмом?

О том, что для ответа на эти вопросы с позиции экзопсихологии, при рассмотрении иных типов высшего разума,

будет рассказано в продолжении лонрида.

И это будет еще не последний лонгрид постосериала (являющегося, по сути, пересборкой и адаптацией драфта ненаписанной книги).

А впереди самое интересное - переход к экзосоциологии, дабы обсудить:

#Генеративный ИИ #Экзопсихология #Экзосоциология #Контакт #Пришельцы