Обзор. Глава #7. «Гарри Поттер и методы рационального мышления»

Предыдущая: глава #6.

«Гарри Поттер и методы рационального мышления» (ГПиМРМ) — альтернативная история Гарри Поттера от известного специалиста по искусственному интеллекту Элиезера Юдковского. Роман быстро завоевал большую популярность у поклонников научно-популярной литературы, являясь очень качественным источником по методам рационального и научного мышления. Включает в себя 122 главы, занимающих примерно 2000 страниц. В русском варианте ГПиМРМ состоит из трех книг.

Автор обзора: Евгений Недильский.
Источник обзора: Конспекты Юджина.
Источник книги: ГПиМРМ на русском, глава 7.

Глава 7: Взаимный обмен

Фундаментальные вопросы рациональности

— Фундаментальный вопрос рациональности: почему ты веришь в то, во что веришь? Что ты знаешь и почему ты думаешь, что ты это знаешь?

Взаимный обмен

Гарри вдруг понял: знание того, что выражение надежды на лице Драко является результатом месяцев тренировок, не делает этот приём менее эффективным. То есть, конечно, делает, но приём всё равно действует. То же можно было сказать и об умном использовании взаимного обмена, приёме, о котором Гарри читал в книгах по социальной психологии (эксперименты показывали, что подарок в пять долларов в два раза эффективнее обещания пятидесяти долларов людям, которых просили заполнить анкеты). Драко добровольно поделился с ним конфиденциальной информацией и теперь ожидал, что и собеседник поступит так же… и Гарри правда ощутил давление. Он был уверен, что его отказ будет встречен с грустью, разочарованием и долей презрения, показывающими, что Гарри потерял несколько очков.
— Драко, — сказал он, — к твоему сведению, я понимаю твои действия. В моих книгах это называется “взаимный обмен”: когда ты хочешь заставить кого-то сделать то, что тебе нужно, то в два раза эффективнее подарить ему пару сиклей, нежели пообещать двадцать…

Отложенное вознаграждение. Для многих людей «здесь и сейчас, но меньше» гораздо желаннее, чем «спустя время, но больше». Это явление были изучено в знаменитом Стэнфордском зефирном эксперименте. Перед детьми помещали одну зефирку (точнее, маршмэллоу — это немного другая сладость) и предоставляли выбор: съесть её сейчас или подождать какое-то время и получить ещё одну. Большинство детей выбирали первый вариант.

Споры по поводу интерпретации экспериментов с отложенным вознаграждением ведутся и сейчас. Одни говорят, что люди с повышенным контролем, которые могут дождаться большей награды в будущем, являются более успешными в жизни и имеют лучшее физическое здоровье. Другие замечают, что дело не в самой способности откладывать вознаграждение, а в социальном и экономическом окружении человека. То есть достаток человека определяет способность откладывать вознаграждение. Бедность может заставлять жить в краткосрочной перспективе, а больший достаток помогает откладывать некоторые вознаграждения на потом, чтобы получить ещё больше. Так или иначе, закономерность «лучше сейчас, но меньше, чем потом, но больше» определяет поведение большинства людей.

Злые поступки в рамках культуры

— У неё какая-то извращённая помешанность на Малфоях, — прорычал Драко, — а поскольку её отец настроен против нас, он печатает каждое её слово. Как только повзрослею, точно её изнасилую.
...
Очаровательный, весёлый, щедрый с друзьями Драко не был психопатом. Зная человеческую психологию, было грустно и неприятно осознавать, что Малфой не чудовище. История помнила тысячи сообществ, в которых мог состояться подобный разговор. Мир был бы совершенно другим местом, если бы то, что сказал юный волшебник, мог сказать только злой мутант. Но это было очень обыденно, очень по-человечески, почти нормой: Драко не считал своих врагов людьми.
И в этой стране, застрявшей перед зарёй Века разума, сын достаточно могущественного аристократа считал себя превыше закона. Уж точно если это касалось случайных изнасилований то тут, то там. В мире маглов тоже были подобные места. Страны, в которых такая аристократия всё ещё существовала, упорствуя в своих взглядах на жизнь. И даже более мрачные земли, где это касалось не только верхушки общества. В любой стране, не прошедшей через эпоху Просвещения, дела обстояли подобным образом. Очевидно, это касалось и магической Британии, несмотря на наличие таких межкультурных заимствований, как газированные напитки в банках.
...
Сломанный, испорченный, безумный, жестокий, кровавый, тёмный мир. Разве новость? Ты всегда знал это.

Рациональное объяснение на первый взгляд необычного поведения человека уже разбиралось в главе #5, когда речь шла об эффекте ложного консенсуса и фундаментальной ошибке атрибуции. Гарри ещё раз напоминает себе о том, на сколько сильно окружение и прошлый опыт могут определять моральные принципы человека.

Сила науки и её отличие от магии

— Как же они смогли без волшебных палочек? Долгая история. Наука не требует взмаха палочкой и произнесения заклинания, нужно просто очень хорошо знать, как работает вселенная, чтобы заставить её делать то, что хочешь ты. Если представить, что вселенная — это человек, от которого нужно чего-либо добиться, то магия — это использование на нём проклятья Империус, а наука — это будто бы ты точно знаешь, что сказать, чтобы человек подумал, что действует по своей собственной воле. Это сложнее, чем взмахнуть палочкой, но не зависит от магии. Как если бы Империус на человеке применить не удалось, но ты по-прежнему мог бы убедить его словами. И с каждым новым поколением наука совершенствуется. Ведь, чтобы заниматься наукой, нужно действительно знать, что ты делаешь, тогда ты на самом деле сможешь что-то понять и объяснить это другому. Знания величайших учёных прошлого века, имена которых до сих пор произносятся с почтением — ничто по сравнению с возможностями величайших учёных современности. В науке нет эквивалента вашему потерянному искусству, которое создало Хогвартс. Сила науки с годами лишь растёт. Мы уже начинаем понимать и раскрывать секреты жизни и наследственности. Скоро мы сможем вглядеться в кровь, о которой ты говоришь, и узнать, что делает тебя волшебником, а через одно или два поколения мы будем способны изменить её, чтобы сделать всех ваших детей могущественными волшебниками. Как видишь, ваша ситуация не так уж плоха, через пару десятилетий наука будет способна решить все ваши проблемы.
...
Наука использует силу человеческого разума, чтобы всматриваться в мир и выяснять, как он устроен. Пока существует человечество, она не исчезнет. Если твоя магия пропадёт, тебя это сильно огорчит, но ты по-прежнему останешься собой. И будешь жить, хоть и сожалея о потере. Источником науки является человеческий интеллект, поэтому нельзя лишить меня этой силы, не лишив меня жизни. Даже если законы устройства вселенной вдруг изменятся для меня, и все мои знания станут пустым звуком, я просто выясню новые законы, и такое уже происходило. Наука не магловское явление, а общечеловеческое. Она просто совершенствует и тренирует способность, которую ты используешь всякий раз, когда смотришь на что-то непонятное и задаёшь вопрос «почему?».

Умение признавать ошибки

— Ну… немногие люди представляют, как заниматься настоящей наукой, изучая что-то в первый раз, даже если это «что-то» абсолютно обескураживает. Я бы не отказался от помощи, — Малфой уставился на Гарри, открыв рот, — но не совершай ошибку, Драко. Настоящая наука совсем не похожа на магию. Ты не можешь заняться ею и остаться прежним, как это происходит, когда ты узнаёшь слова к новому заклинанию. За силу нужно платить. Платить цену столь высокую, что большинство людей отказываются это делать.
Драко кивнул, как будто он наконец услышал что-то, что мог понять:
— И какова же плата?
— Умение признавать свои ошибки.
— Эм-м, — сказал Драко после драматической паузы, длившейся некоторое время, — ты можешь пояснить?
— Пытаясь выяснить, как что-то работает на таком глубинном уровне, ты будешь приходить к неверным выводам в девяносто девяти случаях из ста. Так что тебе придётся научиться признавать, что ты ошибался снова, и снова, и снова. Звучит не страшно, но это так тяжело, что большинство людей не в силах по-настоящему заниматься наукой. Не доверять самому себе, всегда пересматривать своё отношение к очевидным вещам, — например, к снитчу в квиддиче, — и каждый раз, когда изменяется твоё мнение, изменяешься ты сам.

Ошибки в науке. Ошибается даже наука. Причем в ходе научных исследований случается довольно много ошибок из-за множества разных причин. Приведу в пример пару типов ошибок, которые очень распространены.

• Опыты на грызунах. Результаты исследований, проводимых на мышах, не применимы к людям в более чем 80% случаев. Имеется довольно яркий случай проявления такой ошибки. Благодаря мышам ученые создали препарат TGN1412, который позволял лечить хронические воспалительные заболевания и онкозаболевания. Когда опыты начались на людях и добровольцам ввели всего ~1/500 мышиной дозы, у испытуемых начались сильные осложнения и они попали в реанимацию. К счастью, все 6 добровольцев выжили. Время от времени в научно-популярных источниках (и ещё чаще — в СМИ) можно встретить обзор исследований, которые выявили новые антираковые или продлевающие жизнь вещества. Вот только в ходе чтения выясняется, что опыты были проведены только на грызунах.
• Некорректные исследования и их интерпретация. Другой яркий пример произошел с интерпретацией исследований о влиянии различных доз алкоголя на здоровье и продолжительность жизни человека. Даже в некоторых научно-популярных источниках можно встретить статьи и видео о том, что алкоголь в малых количествах не вреден и даже полезен. Однако в ходе масштабного метаанализа, который проводили не случайные исследователи, а научная группа, регулярно занимающаяся алкогольными метаанализами, получился совсем другой вывод. Из 2662 исследований алкоголя, проводимых с 1980 по 2014 годы, 85% содержали ошибку трезвенника. Огромное количество исследований содержали и другие ошибки. По итогу был сделан вывод, что алкоголь не продлевает жизнь, не в вине, не в чём-либо ещё. Этой теме я посвятил целый отдельный конспект.

Как же доверять научной информации, если даже среди неё могут встречаться грубые ошибки? Везде есть ошибки, дело в том, как в итоге к ним относятся. Если эзотерический гуру столкнётся со своими ошибками, то они могут быть не признаны, не исправлены или даже оправданы доводами в духе «все правы по-своему». Если в научном исследовании будут выявлены ошибки, такое исследование будет отозвано и исправлено. Сила науки в умении признавать свои ошибки, исправлять их и учиться на них. Именно поэтому наука — это на данный момент самый надёжный источник познания мира.

Другие цитаты из главы, которые играют меньшую роль в изучении рациональности, но тоже могут оказаться полезными.

Критика Квидича

— поймавший снитч получает сто пятьдесят очков?
— Да…
— Как много десятиочковых голов обычно забивает команда без учёта снитча?— Эм, пятнадцать или двадцать в играх профессионального уровня.
— Какая-то глупость. Это нарушает все возможные принципы создания игр. В остальном правила вроде разумны, ну, в смысле для спорта, но по твоим словам получается, что поимка снитча перекрывает практически все очки, которые приносят остальные члены команды. Два ловца летают по полю, почти не взаимодействуя с другими игроками, и каждый из них надеется, что ему повезёт заметить снитч первым.
— Дело не в везении! — запротестовал Рон. — Нужно, чтобы твои глаза двигались особым образом…
— В этом нет взаимодействия с другими игроками. Неужели действительно так интересно смотреть, как кто-то мастерски двигает глазами? И когда одному из ловцов наконец удаётся поймать снитч, то этим он обесценивает работу, проделанную остальными игроками. Как будто взяли нормальную игру и добавили в неё бессмысленную позицию, чтобы кто-то мог стать Самым Важным Игроком, не вникая в суть и не участвуя в общем процессе. Кто был первым ловцом? Принц-идиот, который хотел играть в квиддич, но не мог выучить правила? — сказав это, Гарри понял, что выдвинул на удивление хорошую гипотезу. Посадить его на метлу и сказать, чтобы ловил блестящую штуковину…
...
— Без критики нет оптимизации. Я ищу способ улучшить эту игру. И сделать это очень просто. Нужно избавиться от снитча.
...
— Но… но если убрать снитч, то как узнать, когда заканчивать матч?
— Просто купите часы. Всяко лучше, чем сейчас, когда игра занимает то десять минут, то несколько часов. И болельщикам будет гораздо удобнее, — Гарри вздохнул.

Книга о влиянии

— Ух ты, — восхитился Гарри. Прочитанный им труд «Влияние: наука и практика» Роберта Чалдини не выдерживал сравнения с индивидуальным обучением, хотя книга, конечно, была чертовски занятной.

Дружба и личные сведения

— Один из моих преподавателей говорил, что между людьми возникает близкая дружба, когда они знают друг о друге что-то личное. И у многих людей нет близких друзей, потому что им слишком неловко делиться чем-то действительно важным и личным.

Отношение к союзникам

— Мой отец ко всем своим союзникам относится серьёзно, — сказал Драко, — вот почему у него их так много.

Продолжение следует в главе #8…