«Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте» (под ред. Джона Брокмана)» - рецензия П. Можейко
«Никто так не формулирует, но я думаю, что искусственный интеллект — это почти гуманитарная дисциплина. Это действительно попытка понять человеческий интеллект и человеческое познание». (Себастьян Трун)
НАЗВАНИЕ: Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте
АВТОР: Джон Брокман (идея, редакция сборника)
ОРИГИНАЛЬНОЕ НАЗВАНИЕ: What to Think About Machines That Think: Today’s Leading Thinkers on the Age of Machine Intelligence
ISBN: 978-5-91671-775-4
ГОД ИЗДАНИЯ: 2017
ИЗДАТЕЛЬСТВО: «Альпина нон-фикшн»
СЕРИЯ: «Искусственный интеллект»
КОГДА МНОЙ ПРОЧИТАНО: Октябрь 2024
ИСТОЧНИК: Оригинальная книга
О КНИГЕСреди главных черт, формирующих наше мышление, я бы выделил социальность, постоянное моделирование возможного будущего и осознание собственной смертности в нем. Судя по всему, наш вид единственный на планете, который не только «понимает» смерть, как дельфины, слоны или приматы, но и точно знает, что она неизбежна. Отсюда многообразие выдуманных нами сценариев апокалипсиса, от вариантов конца света согласно разным верованиям, до ядерной зимы или покорения цивилизации взбунтовавшимися умными машинами. Чем более развитые технологии начинают нас окружать, тем более вероятным в глазах наиболее впечатлительных людей и правдоподобным выглядит последний сценарий. Сегодня все чаще звучат предостережения в том числе и вполне образованных людей от необдуманного, неконтролируемого развития искусственного интеллекта. Но большинство неспециалистов, задаются лишь не самым важным вопросом «КОГДА? Когда наконец ИИ взбунтуется и поработит нас?» Этот вопрос уводит нас от главного: от анализа развития технологии во времени, ее текущего и прогнозируемого состояния, обсуждения принципов и ценностей, которые заложены в ее мышление, наконец в определение того, каким может быть и каким должен быть искусственный интеллект, сравнимый с нашим, естественным. Это похоже на то, как сегодня многие обсуждают (а точнее гадают): будет ли нажата «ядерная кнопка» или нет, при этом не стремясь понять, как ситуация пришла к тому, что вопрос этот в принципе стал актуален.
Эта необычная книга не даст ответа на вопрос «Когда машины нас покорят?». Она предлагает даже не найти ответы, а просто поразмышлять об искусственном интеллекте, о его роли в нашей жизни, о нашем понимании машинного мышления, об ответственности и угрозах, о пользе и перспективах, о природе и морали такого разума, о возможной конкуренции или наоборот взаимопомощи, о том, в чем мы, люди, никогда не будем похожи на машины. Есть ли у вас готовое мнение о машинном интеллекте или нет, после прочтения этой книги (или этой рецензии), вы определенно будете более подготовлены к ответу на вопрос «Что мы думаем о машинах, которые думают?»
Перед вами сборник из 186 эссе, который является результатом деятельности интересной организации «Edge Foundation». Она основана американским литературным критиком Джоном Брокманом (род. 1941 г.) и занимается дискуссиями по ключевым вопросам развития науки и технологий. «Edge Foundation» объединяет ученых и интеллектуалов для популяризации передовых идей. Организация издает сетевой журнал «Edge» (www.edge.org) и каждый год редакция ставит новый вопрос, на который отвечают разные комментаторы — как представители научных кругов, так и просто известные люди, чье мнение может показаться интересным. Вопрос 2015 года как раз вынесен в заголовок сборника.
Структура книги проста: эссе идут подряд, и каждое из них имеет размер от нескольких предложений, до четырех страниц. В заголовке указан автор, его род деятельности, место работы и заслуги, среди которых как правило указывается какая-то из написанных им книг. С этой точки зрения, этот сборник, помимо прочего, отличный источник информации об интересных научно-популярных книгах, благо редакция везде указала русскоязычное издание, если таковое имеется. Лично я добавил в список прочтения десяток книг. Сами эссе написаны в свободной форме, некоторые из них близки к научной статье, большинство же представляют из себя образцы стандартной публицистики, но иногда, авторы облекают свои рассуждения в форму художественной сатирической прозы, что выглядит оригинально и остроумно (а часто и убедительнее пищущих более строго коллег).
Среди авторов в основном ученые, мыслители, преподаватели, журналисты, но встречаются писатели (Брюс Стерлинг) и даже музыканты (Брайан Ино). Здесь много известных для поклонников научно-популярной литературы имен: Стивен Пинкер, Роберт Сапольски, Мартин Рис, Лоурен Краусс, Фрэнк Вильчек, Майкл Шермер, Элиезер Юдковски, Ричард Нисбетт и мн. др. Правда, хочу сразу предупредить, не ждите, что ваш «любимчик» обязательно скажет что-то умное и глубокое по теме книги. Яркий пример – ответ прекрасного нейрбиолога, рассказчика и просветителя Роберта Сапольски, состоящий всего из двух банальных (или очень скрыто остроумных?) предложений:
«Что я думаю о мыслящих машинах? Ну, я думаю по-разному — зависит от того, о ком конкретно идет речь».
Это самое короткое эссе в книге, и, пожалуй, самое неинтересное. Большой вопрос, зачем вообще было включать его в сборник?
Но следует отдать и должное редактуре Джона Брокмана в том, что отобрав эссе для сборника, он отразил самые разные взгляды на искусственный интеллект. Главное разделение идет по признанию опасности сильного ИИ или наоборот восприятии его как блага для цивилизации. Второе разделение мнений проходит в целом по возможности / невозможности создать искусственный интеллект, сравнимый с нашим. Третье разделение мнений рассматривает сосуществование искусственного и естественного интеллектов: либо они будут дополнять друг друга, либо развиваться независимо и параллельно в мире «многовидового интеллекта» (Мелани Свон). Четвертый «делитель» - это споры о том, какими качествами и свойствами должен обладать сильный/универсальный ИИ, а пятый – какие цели и ценности должны быть у такого разума (и как их заложить в него).
Здесь есть очень глубокие эссе (как правило написанные философами и другими «гуманитариями»), позволяющие посмотреть на ИИ с необычных сторон. Так, например, философ Томас Метцингер считает, что сильный ИИ невозможен, если ему не будет знакомо страдание, а писательница Мария Попова считает, что ИИ должен как и мы уметь «принимать неопределенность». Много проходных «банальных» текстов. Есть эссе, в которых аргументированно высказаны здравые опасения по поводу развития и широкого внедрения ИИ в нашу жизнь, но и есть такие алармистские высказывания, которые просто «выражают обеспокоенность» во всей пошлости современного понимания этого выражения.
Тексты перемешаны таким образом, что не создается впечатления, что редактор поддерживает ту или иную точку зрения. Кажется, что в целом мнения разделились пополам. Из-за этого книгу читать интересно, здесь следующие друг за другом разные точки зрения создают ощущение заочной полемики между авторами эссе, которая, в свою очередь, вовлекает в спор и побуждает к размышлению самого читателя.
Конечно, ограничение формата эссе в 1-3 страницы не позволяет авторам в полной мере развернуться, но учит лаконично выражать свои идеи. Это не даст читателю заскучать. Сборник «Что мы думаем о машинах, которые думают» – это спрессованный набор идей, который может стать отличным подспорьем не только для интересующихся темой ИИ читателей, но и для писателей научно-фантастического жанра. Здесь просто непаханое поле сюжетов, стоит только слегка подключить фантазию!
Книга пролежала у меня на полке шесть лет после покупки, и по забавному стечению обстоятельств, я прочитал ее как раз тогда, когда лауреатами Нобелевской премии по физике стали Джон Хопфилд и Джефри Хинтон – создатели фундамента нейросетей, которые, в свою очередь, для обывателя являются сегодня самым ярким олицетворением возможностей ИИ. Еще одно яркое проявление ИИ сегодня – это распознавание образов, в том числе и лиц. Думаю, многие пользовались переводчиками «по месту» в камере смартфона или обычным FaceID… Распознавание лежит в основе автопилотов современных электрокаров, служит для поиска преступников, но может послужить и репрессивным инструментом в тоталитарных государствах или, например, стать системой самонаведения в дронах, что повсеместно используют в сегодняшних военных конфликтах.
Внедрение новых технологий неизменно приводит к сложным морально-этическим противоречиям. Кто виноват в аварии автомобиля с автопилотом? Кто настоящий автор сгенерированной нейросетью музыки? Кто ответственен за прилетевший самонаводящийся дрон? Производитель, программист, инженер, многочисленные авторы контента, скормленного нейросети? Авторы эссе этого сборника не обсуждают эти вопросы, но они обязательно приходят в голову читателю во время чтения, как вторая волна размышления.
Один важный вывод можно точно сделать: каким бы ни был уникальный и сильный ИИ будущего, в любом случае, ответственность за него несет человечество, т.к. нет объективных причин считать его создателем кого-то еще кроме нас. Это наше творение, насколько бы умным или глупым оно не было. И как наше творение, оно будет отражением нашего образа мыслей, наших ценностей и наших страхов.
Следует сказать еще и о том, что большей частью ученые относятся скептически к возможности создания искусственного интеллекта, похожего на наш с вами. Для нас характерны: сильное влияние среды и чувств, непоследовательность, осознание собственной уязвимости, морально-этические надстройки культуры и неоднозначная трактовка результатов социального взаимодействия, вне которых мы себя просто не мыслим. Либо ИИ будет разумом нового типа, существующем параллельно с разумом естественным, либо ИИ станет частью нашего нового, уже симбиотического интеллекта, но тогда и о человеке сегодняшнего вида можно позабыть.
О том, что наш интеллект невозможно свести к законам формальной логики, отлично говорит одна история о самом влиятельном логике Бертране Расселе (забавно же!), которая упоминается в этой книге. В своей автобиографии «Ради чего я живу» Рассел писал:
«Всю мою жизнь пронизывали три страсти, простые, но неодолимые в своем могуществе: жажда любви, тяга к знанию и мучительное сочувствие к страданиям человечества. Как могучие ветры, носили они меня над пучиною боли, увлекая из стороны в сторону и порой доводя до отчаяния».
Я думаю, в той или иной мере всем вам знакомы описанные в цитате чувства, ну или по крайней мере вы легко можете их представить. А вот машина – едва ли… И большой вопрос, нужно ли это искусственному интеллекту вообще.
ЦИТАТНИК «ИНТЕРЕСНЫЕ ИДЕИ ОБ ИСКУССТВЕННОМ ИНТЕЛЛЕКТЕ»
Ниже я отобрал интересные и небанальные идеи, вопросы и концепции, касающиеся искусственного интеллекта. Перед каждой цитатой указан автор, его род деятельности (что важно для контекста и восприятия идеи) и собственно основная мысль. Надеюсь, этот небольшой цитатник расширит ваше понимание природы ИИ и связанных с ним проблем. Также, этот цитатник доказывает, что порой весьма интересные идеи о предмете высказывают непрофильные специалисты, что лишний раз убеждает в важности междисциплинарного диалога, одной из площадок которого как раз и является организация Джона Брокмана. Приятного чтения!
Мюррей Шанахан (когнитивист). Язык, как основа мышления человека.
«Определенно, ничто не может обладать мышлением, сравнимым с нашим, если у него нет языка, — а главное назначение человеческого языка состоит в том, чтобы говорить о мире. В этом смысле интеллект тесно связан с тем, что философы называют интенциональностью. Кроме того, язык — социальный феномен, и основное его назначение в группе людей состоит в том, чтобы говорить о вещах, которые все они могут воспринимать сейчас (например: этот инструмент или тот кусок дерева), или воспринимали ранее (виденный вчера кусок дерева), или в принципе способны воспринять (кусок дерева, который мы, возможно, увидим завтра). Короче, язык основан на осознании мира. Для обладающего телом существа или робота оно будет проявляться через взаимодействия с окружением (обход препятствий, подбор предметов и т. д.). Но мы могли бы расширить понятие, включив в него распределенный, лишенный физического тела искусственный интеллект, оснащенный сенсорами».
Стивен Пинкер (психолингвист). Обязательно ли ИИ захочет нас уничтожить?
«Быть умным и желать чего-либо — не одно и то же. Да, история знает немало деспотов с манией величия и серийных убийц-психопатов, но они появились на свет в результате естественного отбора, сформировавшего тестостерон-сенситивные нервные цепи у отдельного вида приматов, так что стремление доминировать — вовсе не обязательный признак разумных систем. Что характерно, многие из известных технопророков даже не задумываются о том, что искусственный интеллект может естественным образом развиваться по женскому типу, то есть будет вполне в состоянии справляться с решением своих задач, не испытывая желания истреблять невиновных или властвовать над цивилизацией».
Мартин Рис (астрофизик). ИИ - это не угроза, а наше будущее.
«Абстрактное мышление биологического мозга стало основанием для появления культуры и науки во всей их полноте. Но эта деятельность, охватывающая самое большее несколько десятков тысячелетий, станет предтечей более мощных интеллектов неорганической, постчеловеческой эпохи. Кроме того, эволюция в иных мирах, обращающихся вокруг звезд, которые старше нашего Солнца, могла иметь фору перед земной. Если так, то пришельцы, вероятно, давно прошли стадию органического развития. Так что не человеческий разум, а разум машин наиболее полно осмыслит мир. Именно их действия сильнее всего изменят наш мир, а возможно, и то, что находится за его пределами».
Джон Маркофф (журналист). Сегодня концепция ИИ вывернута наизнанку.
«Для нынешнего юного поколения мир перевернут вверх дном. Вместо того чтобы задействовать автоматы для рутинной работы и освободить время для серьезных мыслей, близких отношений и проявления собственной индивидуальности, творчества и свободы, молодежь обращается к смартфонам за советами. То, что началось как интернет-технологии для обмена тем, что нравится, по сути, стало разрастающейся массой алгоритмов, жаждущих новых данных и принимающих решения за нас».
Пол Дэвис (астробиолог). Будущее ИИ - синтетическая биология.
«Очень скоро граница между искусственным и естественным исчезнет. Спроектированный разум будет все больше полагаться на синтетическую биологию и органические материалы, в которых выращенные из генетически модифицированных клеток нейронные сети станут произвольно самоорганизовываться в функциональные модули. На первых порах проектировщиками будут люди, но их очень скоро заменят более умные системы СИ, и начнется процесс безудержного усложнения. В отличие от ситуации с человеческими мозгами, которые довольно посредственно коммуницируют друг с другом, системы СИ будут связаны непосредственно и всесторонне, так, что понятие личного «я» перестанет существовать, а уровень познавательной деятельности поднимется до беспрецедентных высот. Возможно, что часть такой спроектированной нейронной сети будет включать в себя квантовые эффекты, приближаясь к идее Фрэнка Вильчека о «квантовом сознании». Такие сущности окажутся настолько далеки от сферы индивидуального человеческого мышления и сопутствующих ему квалиа, что почти все привычные вопросы, касающиеся возможностей и опасностей искусственного интеллекта, станут неактуальны».
Тимо Ханней (директор в «Digital Science»). ИИ сможет придать Вселенной смысл.
«Есть три объяснения, почему создание действительно обладающего сознанием искусственного интеллекта — это хорошо. Во-первых, так мы получим свидетельство, что у нас есть в целом приемлемая теория насчет того, что необходимо для получения субъективного опыта. Во-вторых, сам факт, что одно мыслящее существо намеренно (позволено ли мне будет сказать «сознательно»?) конструирует другую форму разума, займет достойное место в ряду важнейших событий истории. В-третьих, Вселенная без интеллекта, обладающего самосознанием и способного ее наблюдать, в конечном счете бессмысленна. Мы не знаем, есть ли где-то там другие существа, но можем не сомневаться, что рано или поздно исчезнем. Сознательный искусственный интеллект мог бы пережить наш неизбежный конец и даже грядущую гибель всего живого на Земле, когда Солнце вздуется и превратится в красного гиганта. Задача такой машины будет состоять не только в том, чтобы мыслить, но также и в том — и это куда важнее, — чтобы не дать угаснуть мерцающему пламени сознания, стать свидетелем Вселенной и чувствовать ее чудо».
Лео Чалупа (нейробиолог). Машины не думают над вечными вопросами.
«В более широком понимании термин «мыслящая машина» употребляется неправильно. Ни одна машина не задается вечными вопросами: «Откуда я взялась? Зачем я здесь? Куда я иду?» Машины не думают о своем будущем, о своем неизбежном конце или о своем наследии. Чтобы размышлять над такими вопросами, требуется сознание и самосознание. У мыслящих машин их нет, и, учитывая наш нынешний уровень знаний, они вряд ли это получат в обозримом будущем».
Дениел Деннет (философ). Опасность машин в наших ожиданиях по поводу их способностей.
«Реальная опасность — это не те машины, которые станут умнее нас и узурпируют роль хозяев наших судеб. Реальная опасность — это машины, по сути безмозглые, но наделенные нами полномочиями, значительно превосходящими уровень их компетентности».
Ирэн Пепперберг (психолог). У машин нет видения.
«Машинам не хватает ви́дения (по крайней мере пока, и я не думаю, что наступление сингулярности это изменит). Я имею в виду отнюдь не зрение. Компьютеры не сами придумывают новое приложение, которому суждено стать популярным. Компьютеры не принимают решение исследовать далекие галактики — они прекрасно справятся с задачей, когда мы их туда отправим, но это уже другая история. Компьютеры, конечно, лучше среднестатистического человека работают в области высшей математики и квантовой механики, но у них нет видения, чтобы в принципе обнаружить необходимость в таких действиях. Машины могут выигрывать у людей в шахматы, но они еще не изобрели интеллектуальную игру, что займет человечество на столетия. Машины видят статистические закономерности, которые пропустит мой слабый мозг, но они не в состоянии выдвинуть новую идею, что соединит разрозненные наборы данных и создаст новую область науки».
Сезар Идальго (профессор медиалаборатории). Мышление - свойство систем, а не индивидуумов.
«Представим человека, родившегося в темноте и одиночестве пустого пространства. Повода думать о чем-либо у него нет. То же самое было бы справедливо для изолированной и лишенной входящей информации машины. В таком контексте мы можем назвать нашу заимствованную способность обрабатывать информацию малым мышлением, поскольку это зависящая от контекста способность, которая возникает на уровне индивида. Большое мышление, напротив, является способностью обрабатывать информацию, воплощенную в системах, где отдельные элементы — машины или люди — это просто пешки. Отделение малого мышления людей от большого мышления систем (куда входит процесс, который порождает аппаратное и программное обеспечение, позволяющее единицам заниматься малым мышлением) помогает нам понять роль «умных» машин в этом широком контексте. Наша способность мыслить не только заимствована, она также зиждется на употреблении опосредованных взаимодействий и на злоупотреблении ими. Чтобы человеческие/машинные системы могли мыслить, людям надо поедать ментальную отрыжку друг друга и снова ее изрыгать; иногда она принимает форму слов. Но, поскольку слова улетают с ветром, невероятная способность нашего вида мыслить зависит от более сложных приемов передачи и сохранения информации, которую мы производим: от нашей способности зашифровывать ее в материи. <…> В масштабах Вселенной эти новые сети из людей и машин будут не чем иным, как следующим этапом в естественном развитии способности нашего вида порождать информацию. Вместе мы (люди) и наши дополнения (машины) продолжим разворачивать сети, которые будут подчинены главной великой цели Вселенной: создавать зоны, где информации становится не меньше, а больше».
Фрэнк Вильчек (физик). Они - это мы.
«Искусственный интеллект появился не в результате вторжения пришельцев. Это артефакт конкретной человеческой культуры, и он отражает ее ценности».
Дональд Хоффман (когнитивист). Эволюция, как алгоритм поиска видов интеллекта.
«Согласно нашим лучшим теориям, интеллект — это функциональное свойство сложных систем, а эволюция, помимо прочего, является алгоритмом поиска, который находит такие функции. Таким образом, формы интеллекта, обнаруженные до настоящего времени естественным отбором, уменьшают нижнюю границу оценки разнообразия возможных вариантов. Эволюционная теория игр предполагает, что верхней границы нет: достаточно всего четырех конкурирующих стратегий для хаотической динамики и странных аттракторов».
Тим О'Райли (активист движения за свободное программное обеспечение). Человечество, как микробиом ИИ.
«А что, если наоборот, если ИИ скорее многоклеточный организм, дальнейшая эукариотическая эволюция нашего прокариотического самосознания? Мало того, а что, если мы даже не клетки такого организма, а его микробиом? И что, если его интеллект сейчас похож на интеллект Grypania spiralis — старейшего из известных многоклеточных эукариотов, еще не обладающего самосознанием, которое есть у людей, но уже прочно вставшего на эволюционный путь, ведущий к современному человеку? Такое представление — в лучшем случае метафора, но я полагаю, довольно полезная. Возможно, что люди — это микробиом, живущий внутри искусственного интеллекта, который еще только зарождается! Мы знаем, что без нашего микробиома нам не выжить. Возможно, глобальный ИИ имеет схожие признаки: это не самостоятельная сущность, а симбионт, внутри которого живет человеческое самосознание».
Тимоти Тейлор (историк). Следует откинуть дуализм в отношении ИИ.
«Понятие о мыслящих машинах — это ложный разворот. Такие объекты, несмотря на то что они могут вызывать у нас мощные непосредственные реакции, так и останутся механизмами. Действительно важные результаты даст, как всегда, симбиоз биологии и техники. Этот явно человеческий процесс легко проследить в нашем теле (колесный транспорт — одно из многих механических изобретений, которые позволили облегчить скелет человека) и в мозге (изобретение письменности как способа хранить информацию позволило уменьшить давление отбора на некоторые виды нашей памяти и при этом простимулировать другие). В любом случае отдельные понятия «человек» и «машина» приводят к возникновению отдельного Denkraumverlust, то есть к потере мысленного пространства, подталкивающей нас к принятию несуществующего дуализма в качестве реальности. На деле это лишь долгосрочная эволюция информационных технологий, от первых репрезентаций и символических конструктов до самого современного искусственного мозга, который делает возможным совершенствование мышления».
Дэниел Эверетт (лингвист). Как мыслить Разум?
«Одной из величайших ошибок западной философии было то, что все клюнули на картезианский дуализм, сформулированный в известном утверждении: «Мыслю, следовательно существую». С таким же успехом можно сказать: «Сжигаю калории, следовательно существую». Куда уместнее было бы: «Обладаю эволюционной историей человечества, следовательно могу осмыслить факт своего существования». Разум — это всего лишь шаблон для обозначения того, что мы не понимаем в своем мышлении. Чем чаще мы используем термин «разум» для человеческого мышления, тем сильнее подчеркиваем это непонимание. По крайней мере, такого мнения придерживается все большее число исследователей в областях нейроантропологии, изучения эмоций, прикладной и фундаментальной когнитивистики, теории двойной наследственности, эпигенетики, нейрофилософии и теории культуры».
Дуглас Коупленд (писатель). ИИ и интернет.
«Когда появился интернет, люди преимущественно общались с людьми. С течением времени все больше людей общаются с машинами. Нас всех вдохновляет то, что искусственный интеллект, возможно, находит паттерны в глубинных метаданных, и, по мере того как растет запрос на расшифровку огромных объемов этой информации, интернет становится пространством, где машины общаются с другими машинами, а разговаривать они будут, конечно, о нас и у нас за спиной».
Брайан Ино (композитор). Цивилизация, как частный случай ИИ.
«Я где-то читал, что мозг человека начал уменьшаться около 10 000 лет назад и сейчас он на целых 15 процентов меньше, чем был раньше. Это совпало с тем, что люди перестали быть мультикомпетентными индивидуумами, способными самостоятельно добывать себе пищу, разжигать огонь и создавать собственные инструменты. Вместо этого люди стали специалистами — частью более крупного сообщества, которое вместе способно сделать все что угодно. Не становится ли в таком случае огромная система компетенций и потенциальных возможностей неотличимой от искусственного интеллекта? Цифровые компьютеры лишь добавляют в общую картину еще один элемент, просто он пока самый новый. Мы долго и счастливо живем с искусственным интеллектом — уже тысячи лет».
Алекс Пентленд (профессор медийных наук). Главное - у кого контроль над ИИ и рассеянный ли он.
«В действительности волноваться стоит не о самом Глобальном искусственном интеллекте, а о том, кто его контролирует. Если контроль сосредоточен в руках лишь нескольких человек или ГИИ вовсе не зависит от людей, тогда он может порождать кошмары. Но если контроль находится в руках большого и разнородного сообщества представителей разных групп людей, то мощь ГИИ, вероятно, будет использована для решения проблем, стоящих перед всем человечеством. То, что ГИИ превращается в распределенный интеллект, которым управляет многочисленный и разнородный круг людей, — благо для всех нас».
Ричард Нисбетт (психолог). Мыслящие машины и тоска.
«Как и вы, я люблю читать, слушать музыку, смотреть фильмы и спектакли, бывать на природе. Но я также люблю работать — и чувствовать, что моя работа интересна, по крайней мере, для меня, а может быть, она еще и улучшает чью-то жизнь. Как отнесутся люди вроде меня или вас к тому, что их работа окажется бессмысленной и что у них останутся только развлечения? Мы уже знаем, как сказался на некоторых народах технический прогресс. Никому не нужно изготавливать собственные луки и стрелы и ходить на охоту с иной целью, кроме развлечения. Либо сажать, обрабатывать и собирать урожай кукурузы или бобов. Отдельные культуры, построенные вокруг подобных занятий, развалились и потеряли значимость для людей. Взять, к примеру, племена индейцев Юго-Запада США или сельское население Южной Дакоты, Алабамы, Нью-Мексико с их тоской, апатией и наркоманией. Стоит как следует подумать, смогут ли люди всего мира хладнокровно встретить новость о том, что им будет нечем заняться, кроме развлечений».
Эльдар Шафир (психолог). Мышление без чувств невозможно.
«Если они не могут испытывать томление, желание, решимость и унижение, лежащие в основе мышления набоковского Гумберта, конрадовского Куртца, мелвилловского Ахава или толстовской Анны; если они ничего из этого не могут, то, наверное, они действительно неспособны мыслить».
Дуглас Рашкофф (писатель). Цифровая эра и медийный переход.
«Мы существа Электронной эры, мигрирующие в разворачивающуюся Цифровую эру, и наша ошибка состоит в том, что мы рассматриваем цифровые технологии в качестве материи, а не пространства. Это то же самое, что путать телевизор и медиасреду, создаваемую телевизором, или маленький смартфон, что лежит у вас в кармане, с огромным влиянием, которое оказывают на наше общество портативные средства коммуникации и компьютерные технологии. Это происходит каждый раз, когда мы переживаем медийный переход. Так что мы невольно видим в цифровых технологиях фигуру, тогда как на самом деле смотрим на фон. Это не источник возникновения иного разума, а среда, в которой наш разум иначе себя проявляет. Так что, хотя технарям может казаться, что они возводят храм искусственного интеллекта, на самом деле они становятся жертвой чрезмерно упрощенного подхода к цифровому сознанию, свойственного Индустриальной эпохе».
Элиезер Юдковски (специалист по искусственному интеллекту). У нас проблема загрузки целей.
«Я не думаю, что разум, основанный на кремнии, должен всегда оставаться рабом разума, основанного на углероде. Но, если мы хотим получить разностороннюю космополитическую цивилизацию вместо, к примеру, скрепок, первый достаточно развитый искусственный интеллект, возможно, следует построить с такой функцией полезности, которая точно определяет этот исход. Если нам нужен ИИ, который будет сам выводить свои моральные суждения, то нам, согласно закону Юма, необходимо сначала определить общие принципы таких суждений. Для этого нужно что-то еще, помимо наличия у искусственного интеллекта точной модели мира и превосходной способности планировать. Но, если закон Юма в принципе допускает существование обладающих сильной познавательной способностью субъектов с любыми целями, почему загрузка целей будет такой сложной? Разве мы получим не то, что запрограммировали? Ответ таков: мы получим то, что запрограммировали, но необязательно то, что хотели. <…> Проблема не является неразрешимой, но она выглядит технически сложной, и нам, наверное, придется справиться с ней с первого раза, как только мы построим что-то умнее самих себя. Мысль о том, что при создании искусственного интеллекта надо все сделать правильно с первой попытки и что на кону стоит будущее всей разумной жизни, закономерно вызывает крик ужаса у любого, кто знаком с данной областью».
Мария Попова (писатель). Про воображение и умение принимать неопределенность.
«Известный афоризм, приписываемый Эйнштейну: «Воображение важнее, чем знания» — интересен потому, что ставит вопрос, над которым действительно стоит поразмыслить: вопрос не об искусственном интеллекте, а об искусственном воображении. Конечно, воображение всегда «искусственно» — в том смысле, что оно связано с нереальным или трансреальным, с тем, чтобы возвыситься над реальностью и представить себе альтернативы ей, а это требует умения принимать неопределенность. Но алгоритмы, управляющие вычислениями машины, лучше всего справляются с конкретными задачами, в которых нет места неопределенности. «Если A, то B» — это антитеза воображения, живущего в области «Что, если?», где ответов нет и зачастую не может быть. Как писала Ханна Арендт, потеря способности задавать подобные безответные вопросы означала бы «потерю не только возможности продуцировать мысли-вещи, которые мы называем произведениями искусства, но также и способности ставить вопросы без ответа, на которых основывается любая цивилизация».
Джессика Трейси, Кристин Лорин (психологи). Чем будет отличаться социальность у машин?
«Любая социальность, возникающая среди машин, будет качественно отличаться от человеческой по одной ключевой причине: они могут в буквальном смысле читать мысли друг друга. В отличие от людей, им не требуется вторичная — часто имеющая серьезные недостатки — интерпретативная форма эмпатии, на которую опираемся мы. Машины могут непосредственно изучать разумы друг друга. Это делает общение совершенно иным процессом. Несмотря на высочайшую важность множества наших социальных связей, в конечном счете мы, люди, по существу, одиноки. Любая ощущаемая нами связь с чьим-то разумом метафорична; мы не можем знать наверняка, что происходит у другого в голове, по крайней мере не так, как мы знаем собственные мысли. Этого ограничения для машин не существует. Компьютеры могут получать прямой доступ к «мыслям» друг друга, и нет причин для того, чтобы одна машина, читающая аппаратную и программную часть другой машины, не сумела бы понять — в форме подлинного личного переживания, — каково быть другой. Следовательно, каждая из машин не будет совершенно отдельным «я» в человеческом смысле. Как только ИИ проникнут в разумы друг друга, их «я» обязательно станет коллективным».
Сэм Харрис (нейробиолог). Страшно не создать универсальный ИИ (УИИ).
«В действительности единственная вещь, настолько же страшная, как создание УИИ, — перспектива не создать его. Тем не менее на тех, кто ближе других стоит к этой задаче, лежит величайшая ответственность — предупредить связанные с ней опасности. Да, другие области тоже представляют чрезвычайную угрозу, но разница между УИИ и чем-то типа синтетической биологии состоит в том, что для последней наиболее опасные инновации (такие как мутация гамет) не являются наиболее привлекательными с коммерческой или этической точки зрения. В случае с УИИ именно наиболее мощные методы (такие как рекуррентное самосовершенствование) связаны с наибольшими рисками».
Барт Коско (инженер-электромеханик). Современный ИИ - всего лишь старые алгоритмы.
«Прогресс крайне сильно зависит от того, чтобы эти алгоритмы выполнялись на все более быстрых компьютерах. Сами алгоритмы состоят в основном из большого числа операций сложения и умножения, а значит, маловероятно, что они в какой-то момент неожиданно проснутся и захватят мир. Вместо этого они научатся еще лучше учиться и распознавать еще более сложные паттерны просто потому, что будут быстрее складывать и умножать. Можно смело утверждать, что завтрашние мыслящие машины окажутся очень похожими на сегодняшние — это будут старые алгоритмы на более быстрых компьютерах».
Дирк Хелбинг (социолог). Про экосистему идей.
«В действительности нам самим предстоит узнать о том, что важны идеи, а не гены. Идеи могут работать на аппаратуре с различной архитектурой. Не так уж важно, кто их производит и распространяет — человек, или машина, или они оба. Важно то, что полезные идеи идут в мир, а другие особого воздействия не оказывают. Мы сейчас должны выяснить, как организовать наши информационные системы, чтобы достичь такого состояния. Если у нас получится, тогда люди войдут в историю как первый вид, который в этом разобрался».
Мелани Свон (философ). Про мир многовидового интеллекта.
«Нам следует рассматривать мир будущего как мир многовидового интеллекта. То, что мы называем человеческой функцией «мышления», может довольно сильно различаться в разнообразных будущих воплощениях интеллекта. <…> Вместо того чтобы спрашивать, могут ли машины мыслить, более продуктивно было бы приготовиться к появлению вопроса: «Кто как мыслит?», к миру цифровых интеллектов с разной историей, разными модусами мышления и существования, а также разными системами ценностей и культурой. Уже сейчас совершенствуются не только системы ИИ. Мы и сами больше узнаем о чертах и свойствах нативной машинной культуры и машинной экономики и о том, как могут сосуществовать человеческие и машинные системы».
Томас Метцингер (философ). Отсутствие страдания - это препятствие для сильного ИИ.
«Мышление человека эффективно, поскольку мы очень много страдаем. Высшая когнитивная деятельность — это одно, внутренняя мотивация — это другое. Искусственное мышление, возможно, вскоре станет гораздо более эффективным, но будет ли оно также неизбежно связано со страданием? Должно ли страдание составлять часть любого стоящего постбиотического интеллекта, или негативная феноменология — это всего лишь случайная черта, приобретенная нами в ходе эволюции? Человек обладает хрупким телом и, родившись, попадает в опасное социальное окружение, оказывается вовлеченным в непрекращающуюся тяжкую борьбу за отрицание собственной смертности. Наш мозг непрерывно бьется за то, чтобы минимизировать вероятность неприятных неожиданностей. Мы умны, потому что причиняем боль, потому что можем сожалеть и постоянно стремимся найти какую-либо устойчивую форму самообмана или символического бессмертия. Вопрос в том, нужно ли хорошему ИИ хрупкое аппаратное обеспечение, небезопасное окружение и внутренний конфликт, связанный с собственной недолговечностью. Конечно, в какой-то момент умные машины появятся! Но будут ли их собственные мысли иметь для них значение? Почему они должны интересоваться собственными мыслями? Я определенно отрицаю даже вероятность создания реальной машины, способной испытывать страдания».
МОЕ МНЕНИЕ ОБ ИЗДАНИИ:
Качественное издание в традиционном для «АНФ» оформлении.
Формат стандартный (145x215 мм), твердый переплет, без суперобложки, 549 страниц, без иллюстраций.
Достоинства издания: научный редактор (кандидат доктор физико-математических наук Дмитрий Вибе); хорошее качество печати; белая бумага; твердый переплет; хорошо выделенные заголовки; подробное оглавление; примечания.
Недостатки издания: не обнаружено.
ПОТЕРЯЛ БЫ Я ЧТО-НИБУДЬ, ЕСЛИ БЫ ЕЕ НЕ ЧИТАЛ:
Больше да, чем нет. Несмотря на то, что в книге много проходных эссе, некоторые из них действительно интересны и оригинальны, побуждают размышлять о природе искусственного интеллекта в частности и мышлении в целом.
КОМУ ПОРЕКОМЕНДОВАЛ БЫ:
Тем, кто интересуется развитием технологий искусственного интеллекта и хочет посмотреть на это явление с самых разных (в том числе и гуманитарных) сторон. Книга будет отличным источником идей для писателей-фантастов.
ТЕГИ: Нон-фикшн, науч-поп, эссе, искусственный интеллект, ИИ, разум машин, футурология, вычисления, технологии, философия, этика, рассуждение, прогноз.
ВИДЕО В ТЕМУ: Ниже первый выпуск цикла роликов исследователя искусственного интеллекта Роберта Майлса о проблемах создания безопасного ИИ. Рекомендую посмотреть и остальные. Это отлично дополнит материалы книги.
https://www.youtube.com/watch?v=SVLl-b6oLVs
https://vk.com/pavelmazheikabooksreview
https://t.me/pavelmazheikabooksreview
Другие мои рецензии на страницах:
Группа "ВКонтакте":
https://vk.com/pavelmazheikabooksreview
Канал в "Телеграм":