Филип Зимбардо «Эффект Люцифера. Почему хорошие люди превращаются в злодеев» - рецензия П. Можейко (часть 1 из 2)

«Прежде чем ополчиться на зло, взвесьте, способны ли вы устранить причины, его породившие». (Люк де Клапье де Вовенарг)

Филип Зимбардо «Эффект Люцифера. Почему хорошие люди превращаются в злодеев» - рецензия П. Можейко (часть 1 из 2), image #1

НАЗВАНИЕ: Эффект Люцифера. Почему хорошие люди превращаются в злодеев

АВТОР: Филип Зимбардо

ОРИГИНАЛЬНОЕ НАЗВАНИЕ: The Lucifer Effect: Understanding How Good People Turn Evil

ISBN: 978-5-91671-834-8

ГОД ИЗДАНИЯ: 2021 (6-е издание)

ИЗДАТЕЛЬСТВО: «Альпина нон-фикшн»

СЕРИЯ: ---

КОГДА МНОЙ ПРОЧИТАНО: Январь 2024

ИСТОЧНИК: Оригинальная книга

О КНИГЕ (часть 1 из 2)

Еще не до конца угасло движение выступающих за свободу и любовь «хиппи», а недалеко от солнечной коммуны в Калифорнии был проведен самый известный и один из самых жестких психологических экспериментов, до сих пор вызывающий споры о своей этичности, но много нам о нас самих рассказавший. Эта книга – история того самого эксперимента, написанная его создателем.

В работах, где исследуется тема влияния на наше поведение внешних обстоятельств, а также поднимается вопрос о власти, подчинении авторитету и переходу в навязанную модель поведения, чаще всего упоминаются два эксперимента: «Стэнфордский тюремный эксперимент» Филипа Зимбардо (1971 год) [далее – «СТЭ»] и «Эксперимент Стэнли Милгрэма» (1963 год). Первый обрел свое второе рождение и вышел за пределы профессионального интереса специалистов после серии экранизаций «по мотивам» в 2000-2010-х. Второй эксперимент не менее известен. Он про то, как испытуемые под влиянием «начальника» постепенно увеличивали силу тока, которым ударяли подставного «испытуемого» за неправильные ответы. Этот эксперимент показал, насколько плохо люди сопротивляются тому, кого считают авторитетом, даже понимая, что под его «предводительством» причиняют кому-то сильную боль.

По забавному стечению обстоятельств авторы двух самых известных экспериментов о человеческой жестокости родились в один и тот же год, 1933-й. Более того, Филип Зимбардо и Стэнли Милгрэм были одноклассниками и друзьями. И если второй уже давно покинул наш мир, то первый сегодня почтенный 90-летний пенсионер, когда-то взбудораживший мир. Вот, что вспоминает Зимбардо о своей юности:

«В 1949 г. мы со Стенли Милгрэмом сидели за одной партой в старших классах средней школы Джеймса Монро в Бронксе, Нью-Йорк. Мы оба были тощими подростками, полными амбиций и желания кем-то стать, чтобы сбежать из своего «гетто». Стенли был маленьким и умным, к нему все обращались за советами. А я был высоким и пользовался популярностью, со мной все советовались по поводу взаимоотношений. Даже тогда мы были сторонниками ситуационной теории. Я только что вернулся в школу Монро после ужасного года в средней школе Северного Голливуда, где оказался в роли отверженного и не имел друзей (потому что, как я позже узнал, по школе прошел слух, что мой отец — член нью-йоркской семьи сицилийской мафии). А в школе Монро меня выбрали «Джимми Монро», самым популярным мальчиком старших классов. Однажды мы со Стенли обсуждали, как и почему произошло это превращение. Мы согласились, что я не изменился, и все дело в ситуации. Несколько лет спустя мы встретились снова, в Йельском университете, в 1960 г. Мы оба были начинающими преподавателями — он в Йеле, а я — в Университете Нью-Йорка. Оказалось, что в школе Стенли всегда хотел быть популярным, а я хотел быть умным. Нами руководили неисполненные желания».
Стэнли Милгрэм (слева) и Филип Зимбардо
Стэнли Милгрэм (слева) и Филип Зимбардо

К слову, о детстве. В это время в играх мы часто примеряем на себя различные роли: казаков и разбойников, водителей, врачей, строителей, и, конечно, спасителей мира от инопланетян. Но не все «роли» пользуются спросом. Например, мало кто в игре в «войнушку» хотел играть гитлеровцев. Как-будто интуитивно мы уже тогда понимали, что принятая извне роль может отложить отпечаток на нашу жизнь. Социальная маска может помочь нам выйти за пределы своего привычного опыта, обрести новое лицо и с ним - новый характер. Как правило, такие метаморфозы не делают человека лучше, и оставаясь в сути своей лицемерием, позволяют легче творить зло. Вспомним «Чужое лицо» Кобо Абэ или «Повелителя мух» У. Голдинга – тут вообще показательный эпизод, где один из героев не смог совершить первое в своей жизни убийство, пока не преобразился, спрятавшись за маской:

«Он недоуменно разглядывал — не себя уже, а пугающего незнакомца. Потом выплеснул воду, захохотал и вскочил на ноги. Возле заводи над крепким телом торчала маска, притягивала взгляды [других мальчишек] и ужасала. Джек пустился в пляс. Его хохот перешел в кровожадный рык. Он поскакал к Биллу, и маска жила уже самостоятельной жизнью, и Джек скрывался за ней, отбросив всякий стыд».
Филип Зимбардо «Эффект Люцифера. Почему хорошие люди превращаются в злодеев» - рецензия П. Можейко (часть 1 из 2), image #3

Почему же такой, казалось бы, незначительный и главное внешний фактор так сильно влияет на наше поведение? Биологически мы остаемся такими же, как и наш жизненный опыт. А где характер? Где сила «Личности», наше «Я»?

Что же нас формирует, что делает нас такими, какие мы есть? Вопрос важнейший и сложнейший, из тех, что человек задавал сам себе. Противостоянию «врожденного» и «приобретенного» посвящено множество работ и книг. Большинство ученых сходятся на том, что наша личность, наше поведение – это сложный синтез врожденного (гены), приобретенного (среда, культура, опыт) и ситуативного (реакция на конкретные обстоятельства и события). На эту тему можно вспомнить такие книги, как «Биология добра и зла» Роберта Сапольски, «Лучшее в нас» Стивена Пинкера, «Анатомия человеческих сообществ» Паскаля Буайе, «Эгоистичный ген» Ричарда Докинза, «Анатомия человеческой деструктивности» Эриха Фромма, «Совесть» Патриции Черчленд, «Истоки морали» Франса де Вааля и мн. др. От того, каков ответ на вопрос о первопричине зависит наше понимание этических, моральных, а значит и юридических норм.

Как это часто бывает, наиболее показательны и характерны пограничные случаи, социальные и психологические экстремумы, и на роль такого места и такой искусственной ситуации идеально подходит тюрьма. Филип Зимбардо в своем эксперименте решил ее построить, и проверить, насколько Личность может противостоять Системе, а в свою очередь и то, во что Система превращает не только отдельного человека, но и все сообщество, находящееся в ней.

Косвенно подтверждая правоту выводов Зимбардо из проведенного эксперимента, привлечению внимания к нему дважды поспособствовали события в реальных тюрьмах. В 1970-х – это были бунты в «Сан-Квентине» и «Аттике»:

«Почему же наш эксперимент был воспринят как яркий и показательный пример психологии зла? Вскоре после окончания нашего исследования произошла серия драматических, неожиданных событий — резня в калифорнийской тюрьме Сан-Квентин и кровавый бунт в тюрьме Аттика, штат Нью-Йорк. Эти события превратили небольшой академический эксперимент, призванный исследовать теоретические основания ситуационной власти, в объект внимания всей страны».

Через 35 лет Зимбардо, потрясенный новостями о пытках, совершенных американскими солдатами над заключенными в тюрьме Абу-Грейб в Ираке, решит не только подробно написать о «СТЭ», но и провести параллели между экспериментом и теми событиями, которые происходили за тысячи километров от Стэнфорда.

«Я написал эту книгу, потому что хотел лучше понять, как и почему солдаты американской военной полиции в тюрьме Абу-Грейб в Ираке совершали физическое и психологическое насилие по отношению к заключенным. В мае 2004 г. фотоснимки этих злоупотреблений облетели весь мир, и все мы впервые в истории своими глазами увидели, как американцы, мужчины и женщины, применяют невообразимые пытки к мирным людям, которых они вроде бы должны были охранять».

Это довольно интересный факт. Сразу после проведения «СТЭ» было обработано большое количество информации, опубликовано множество публикаций. Много материалов нынче доступно на сайте, посвященному эксперименту. Но только в 2007-м году, когда Зимбардо было уже 74 года, была написана научно-популярная книга о нем. И то, поводом для этого послужили сторонние события. С другой стороны, за эти годы, Зимбардо лишний раз убедился в верности своих выводов. Отличительной особенностью именно этого (6-го) русского издания является вступительная статья 2018 года, в которой автор подробно отвечает своим критикам.

Книгу «Эффект Люцифера» можно условно разделить на шесть частей. Первая, вступительная, исследует природу зла и дает многочисленные примеры из человеческой истории, когда люди массово становились жестокими, испытывая «ситуационные трансформации характера». Вторая часть самая главная, в ней очень подробно описана подготовка и проведение тюремного эксперимента (каждая глава – один день). Третья часть представляет собой анализ и выводы из «СТЭ». Здесь исследуются социальные мотивы поведения и психологические уловки, выявленные у участников эксперимента, которые позволяли взращивать атмосферу насилия и покорности. В четвертой части подробно рассказывается о пытках в тюрьме Абу-Грейб, исследуются их причины, даются портреты действующих лиц. В пятой части Зимбардо раскрывает системные и институциональные предпосылки для проявления насилия в тюрьме Абу-Грейб и других американских тюрьмах, попутно открыто обвиняя высший офицерский состав экспедиционных сил и политиков, включая самого Дж. Буша – мл. Наконец, шестая часть по мнению автора призвана компенсировать негатив всех предыдущих. Здесь он исследует «банальность героизма», доказывая, что сопротивляться давлению Системы можно и тому есть множество примеров в истории.

Вот, что сам Зимбардо пишет о структуре книги:

«Структура этой книги несколько необычна. Она начинается с вводной главы, где в общих чертах обсуждается тема трансформаций человеческого характера, когда хорошие люди и ангелы начинают вдруг совершать плохие, злые и даже дьявольские поступки. Это приведет нас к фундаментальному вопросу о том, как хорошо мы на самом деле знаем себя, насколько мы способны предсказать свое собственное поведение в таких ситуациях, с которыми прежде никогда не сталкивались. Способны ли мы, подобно Люциферу, любимому ангелу Господа, поддаться искушению и совершить то, что для других немыслимо?
В главах, посвященных Стэнфордскому тюремному эксперименту, подробно описывается обширное исследование трансформаций личности студентов колледжа, игравших случайным образом присвоенные им роли заключенных или охранников в «искусственной тюрьме», которая в итоге стала ужасающе похожа на реальную. Хронология событий в этих главах представлена в виде киносценария. Это рассказ от первого лица в настоящем времени, с минимумом психологических интерпретаций.
Только завершив описание эксперимента (а нам пришлось закончить его раньше, чем мы планировали), мы проанализируем его выводы, опишем и интерпретируем полученные данные и поразмышляем о психологических процессах, которые мы наблюдали в процессе эксперимента. Один из основных выводов Стэнфордского тюремного эксперимента заключается в том, что глубокое, но скрытое влияние нескольких ситуационных переменных может оказаться сильнее воли человека и может подавить его сопротивление. Этот вывод мы рассмотрим более подробно в следующих главах, где подкрепим его данными обширных психологических исследований. <…>
Вооружившись набором исследовательских инструментов, мы перейдем к анализу причин ужасающих злоупотреблений и пыток в иракской тюрьме Абу-Грейб, совершенных американскими военными полицейскими — охранниками этой тюрьмы. Утверждения о том, что эти безнравственные действия были всего лишь проявлением садистских наклонностей нескольких «плохих солдат», так называемой «ложки дегтя», мы проанализируем, сравнивая ситуационные факторы и психологические процессы, действовавшие и в этой тюрьме, и в нашей Стэнфордской темнице. Мы подробно поговорим о Месте, Человеке и Ситуации и проанализируем причины, которые привели к оскорбительному поведению, запечатленному в серии отвратительных «трофейных фотографий», сделанных охранниками во время издевательств над заключенными.
Затем мы двинемся от отдельного человека к ситуации, а от нее — к Системе. Мы изучим отчеты нескольких следственных групп по делу об этих злоупотреблениях, свидетельства множества юридических источников и организаций по правам человека. А затем я займу место обвинителя, чтобы привлечь к суду Систему. Используя ограничения нашей правовой системы, в соответствии с которой за преступления судят только отдельных людей, а не ситуации или системы, я предъявлю обвинения четырем офицерам высшего ранга, а затем и всей структуре военного и административного командования, созданной администрацией Буша. Читатель в роли присяжного заседателя сможет сам решить, доказывают ли мои аргументы вину Системы, точно так же, как и вину отдельных обвиняемых.
В последней главе наше довольно мрачное путешествие в сердце и разум тьмы снова приведет нас к свету. Мы поговорим о самых лучших сторонах человеческой природы, о том, что может сделать каждый из нас, чтобы не поддаться тлетворному влиянию Ситуации и Системы».

В целом, книга «Эффект Люцифера» написана по схеме ОПИСАНИЕ+КОМММЕНТАРИЙ. С одной стороны, будучи написана ученым, она очень подробна и дотошна. То тут, то там мы будем встречать подробные описания, выноски, уточнения, ссылки, цитаты. Отсюда ее некоторая избыточность, 700 страниц, как никак! С другой, из-за этой избыточности теряется увлекательность. В книге очень много повторов, иногда слово в слово целыми абзацами. Скорее всего, это вызвано тем, что разные части книги Зимбардо писал в разные годы, и просто, как внимательный и осторожный ученый, каждый раз добавлял одни и те же уточнения. Тут больше вопросов к редактору, чем к автору. Описание эксперимента «СТЭ» очень интересно, и в некоторой степени литературно. А вот подробное исследование пыток в Абу-Грейб, а затем бесконечное цитирование отчетов и докладов, и, наконец, критика офицерства и политиков – это очень интересно американцам, но не за пределами США. А это треть объема книги! Также как будто лишней выглядит глава про «геройство». Она отдает каким-то неубедительным оптимизмом и даже назиданием. Подытоживая эту часть, можно сказать, что книге Зимбардо не хватает легкости, четкости и сокращения объема, что в целом можно объединить в одну проблему – плохую редактуру.

Давайте теперь перейдем непосредственно к Стэнфордскому тюремному эксперименту.

ЭКСПЕРИМЕНТ «СТЭ»

Для начала давайте посмотрим, что такое «зло» по определению автора эксперимента:

«Я предлагаю очень простое, психологическое определение: зло — это осознанный, намеренный поступок, совершаемый с целью нанести вред, оскорбить, унизить, дегуманизировать или уничтожить других людей, которые ни в чем не виноваты; или использование личной власти и авторитета Системы для того, чтобы поощрять людей или позволять им совершать подобные поступки от ее имени. Коротко говоря, «зная, что такое хорошо, поступать плохо».

Зимбардо в книге часто использует одну метафору про «деготь и мёд». В целом она звучит так: плохая среда портит нормального человека («ложка меда в бочке дегтя») или плохой человек собой портит нормальную среду (ложка дегтя в бочке меда)?

Для «СТЭ» было отобрано 24 человека, которые по всем показателям и результатам тестов соответствовали понятиям «средний» и «нормальный». Это были молодые парни из среднего класса, преимущественно белые, без проблем с законом, здоровьем, общением и образованием. В метафорах Зимбардо – те самые «ложки мёда».

Молодые люди были случайным образом разделены на две неравные группы: «заключенных» и «охранников». Для них в подвале одного из корпусов Стэнфордского факультета была построена тюрьма, копирующая реальные тюрьмы США. Туалет был по расписанию в другом крыле. Также в тюрьме был предусмотрен карцер – одиночная камера. Заключенные сидели в трех камерах. Охранники работали круглосуточно в три смены по три человека в каждой. Все заключенные имели свои личные номера вместо имени, простой халат, тапки и чулки на головах. Охранники ходили в униформе, носили дубинки и солнцезащитные очки. Построения, прием пищи и перекличка происходили в общем коридоре. Режим в тюрьме регламентировался 17-ю правилами, особое внимание стоит обратить на последнее из них:

«И последнее, но самое важное, правило, которое вам нужно всегда помнить: правило номер 17», — произносит охранник Арнетт зловещим тоном: Отказ повиноваться любому из вышеупомянутых правил может привести к наказанию».

Зимбардо хотел создать в тюрьме определенную атмосферу, ту самую «бочку дегтя»:

«Я объяснил, что, несмотря на ограничения, мы хотим создать психологическую атмосферу, копирующую некоторые особенности атмосферы многих реальных тюрем, о которых я недавно узнал. «Мы не можем применять к ним физическое насилие или пытки, — сказал я, — но можем создать атмосферу скуки. Можем создать ощущение фрустрации. Можем заставить их испытывать страх, до некоторой степени. Можем создать ощущение произвола, ощущение, что их жизнью управляет некий случай, которым полностью управляем мы, система, вы, я, Джаффе. У них не будет никакого личного пространства, они будут под постоянным наблюдением — мы будем видеть все, что они делают. У них не будет никакой свободы действий. Они не смогут сделать и сказать ничего, чего мы не разрешаем. Разными методами мы будем лишать их индивидуальности. Они будут носить униформу, никто и никогда не будет называть их по имени; у них будут номера, и их будут называть только по номерам. В целом все это должно создать у них ощущение беспомощности. Вся власть будет принадлежать нам, у них никакой власти не будет. Главный вопрос исследования звучит так: что они сделают, чтобы попытаться вернуть себе власть, вернуть себе определенную степень индивидуальности, получить некоторую свободу, отвоевать хоть какое-то личное пространство? Смогут ли заключенные действовать против нас, пытаясь хотя бы отчасти вернуть то, что у них было на свободе?»
Филип Зимбардо «Эффект Люцифера. Почему хорошие люди превращаются в злодеев» - рецензия П. Можейко (часть 1 из 2), image #4

И так, в один из воскресных дней в городе произошли неожиданные аресты. Это был результат тайной договоренности Зимбардо с местными полицейскими. Будущие «заключенные» для «СТЭ» к своему удивлению были задержаны по всем правилам. Уже тут начала стираться грань между простой «игрой в тюрьму» и реальным арестом. «Ложки меда» были помещены в «бочку дегтя». Эксперимент начался, и цель его была такова:

«Суть в том, что наше исследование попытается отделить то, что люди приносят в тюремную ситуацию, от того, что ситуация выявляет в людях, которые в ней оказались. Благодаря предварительному отбору наши испытуемые представляют собой репрезентативную выборку образованных молодых мужчин из среднего класса. Это однородная группа студентов, они более или менее похожи друг на друга. Распределив среди них роли случайным образом, мы получили две группы, “охранников” и “заключенных”, которые сопоставимы между собой — то есть взаимозаменяемы. Наши “заключенные” не более жестоки, враждебны или неуправляемы, чем “охранники”, а “охранники” не слишком авторитарны и не одержимы властью. Сейчас “заключенные” и “охранники” практически одинаковы. Никто не хотел быть охранником; никто не совершал никаких преступлений, заслуживающих тюремного заключения и наказания. Будут ли эти ребята так же похожи друг на друга через две недели? Повлияют ли новые роли на их личные качества? Увидим ли мы какие-то трансформации в их характерах? Вот это мы и хотим выяснить».

Зимбардо предлагает разобраться: зло – это «свойство» или «процесс»?

«Зло: неизменное и внутреннее или изменчивое и внешнее? Нам приятна мысль о том, что хороших людей от плохих отделяет непреодолимая пропасть. Как минимум по двум причинам. Во-первых, эта мысль порождает бинарную логику, согласно которой Зло можно рассматривать как отдельную сущность. Обычно мы воспринимаем Зло как некое качество, с рождения свойственное одним людям и не свойственное другим. <…> Альтернативная точка зрения рассматривает зло как процесс. Она утверждает, что на злодеяния способен каждый из нас, для этого нужны лишь подходящие обстоятельства».

Тут следует уточнить еще некоторые детали авторской модели:

«Три основных элемента атрибутивного анализа — Человек, Ситуация и Система. Человек — актер на сцене жизни, и свобода его поведения определяется его внутренними особенностями — генетическими, биологическими, физическими и психологическими. Ситуация — это поведенческий контекст, который с помощью вознаграждений и нормативных функций наделяет тем или иным смыслом роли и статус актеров. Система состоит из агентов и агентств, идеология, ценности и власть которых создают ситуации и диктуют роли и ожидания по отношению к поведению актеров, находящихся в сфере ее влияния».

Синтез этих трех элементов как раз и проявит себя в рамках эксперимента. По плану, он должен был продлиться две недели, причем за каждый день участники по его завершению должны были получить по $15 (неплохая сумма по тем временам для студента). Сам Зимбардо взял на себя роль суперинтенданта и нанял себе в помощники реального бывшего заключенного, который играл роль непримиримого члена комиссии по условно-досрочному освобождению.

Хотя уже в первый день тюрьма не была похожа на игру, еще проявлялся открытый бунт заключенных, а агрессия охранников легко сдерживалась. Но уже со второго дня ситуация начала стремительно накаляться. Всего через шесть дней по этическим нормам Зимбардо вынужден был досрочно завершить эксперимент, потому что заключенные стали проявлять покорность и отчаяние, окончательно поверив в реальность своего заключения, а охранники, испытав свою ненаказуемость, начали проявлять избыточное насилие, превосходящее все пункты должностной инструкции и необходимую степень усилий для сохранения порядка. Несколько заключенных покинули эксперимент досрочно, не выдержав эмоциональных нагрузок. Меньше недели понадобилось весьма мягкой по меркам страны искусственной тюрьме, чтобы нормальные люди разделились на две группы, которые разительно отличались друг от друга! Вот каковы были краткие выводы из эксперимента:

«Как мы видели, наша тюремная среда оказалась психологически весьма достоверной и вызывала у многих участников эксперимента сильные, реальные и часто патологические реакции. Мы были удивлены и откровенным доминированием охранников и тем, как быстро оно возникло в ответ на бунт заключенных. <…> Переживание потери собственной идентичности, произвол и постоянный надзор, а также отсутствие личного пространства и сна вызвали синдром пассивности, зависимости и депрессии, напоминающий феномен, получивший название «выученной беспомощности». Половину студентов-заключенных пришлось освободить раньше времени из-за серьезных эмоциональных и когнитивных расстройств — временных, но весьма интенсивных. Большинство из тех, кто остался до конца, безропотно подчинялись требованиям и вели себя словно зомби. Они стали вялыми и апатичными, уступая любым прихотям охранников, власть которых становилась все более жесткой. <…> Например, заключенные могли бы поддержать героический акт пассивного сопротивления, совершенный Клеем-416. Но они стали унижать и запугивать его — для них он стал просто «нарушителем спокойствия». Они безропотно приняли диспозиционную перспективу, которую внушили им охранники, и даже не попытались осмыслить голодовку Клея как символ и способ сопротивления слепому повиновению власти. <…> В начале эксперимента между этими двумя группами [«заключенные» и «охранники»] не было никакой разницы. Но не прошло и недели — и между ними уже не было ничего общего. Следовательно, можно сделать вывод, что их патологическое поведение стало результатом сочетания ситуационных сил, постоянно влияющих на всех обитателей мнимой тюрьмы».

И тут нельзя не вспомнить сквозной вопрос, который Зимбардо рекомендует читателю задавать самому себе на протяжении всего чтения:

«Способен ли я на зло?» Я хочу, чтобы в процессе нашего путешествия по незнакомым территориям вы снова и снова задавали себе этот вопрос».

Прежде чем перейти к более подробным выводам из эксперимента, давайте обратим внимание на некоторые характерные эпизоды из этих шести дней. Их аналоги можно найти повсюду: в армии, на работе, в больницах, в школах…

Филип Зимбардо «Эффект Люцифера. Почему хорошие люди превращаются в злодеев» - рецензия П. Можейко (часть 1 из 2), image #5

Интересно, что во многом детали эксперимента стали откровением и для самого автора. Так, например, фокус эксперимента постепенно сместился с заключенных на охранников, т.е. с изучения «покорности» на «рождение садизма».

«Со временем нам стало ясно, что наблюдать за поведением охранников не менее, а иногда даже более интересно, чем за поведением заключенных. Смогли бы мы получить те же результаты без этой встречи, если бы ограничились только поведенческим контекстом и описали роли? Как мы скоро увидим, несмотря на наши однобокие рекомендации, охранники вначале не спешили использовать методы подавления. Только через какое-то время воздействие новых ролей и ситуационных факторов привело к тому, что охранники превратились в правонарушителей, жестоко обращающихся с заключенными. За это зло, появившееся в Стэнфордской окружной тюрьме, я несу полную личную ответственность».

Про самого ретивого охранника, или как рожденная Системой скука порождает изощренные издевательства:

«Хеллман придумал новый творческий план, как сделать так, чтобы Джерри-5486 навсегда запомнил свой номер: «Сначала пять отжиманий, потом четыре прыжка, потом восемь отжиманий и шесть прыжков. Так ты точно запомнишь свой номер, заключенный 5486». Он придумывает все более изощренные наказания. На наших глазах рождается злой гений».

Адовая перекличка, или как покорность заключенных еще больше подстегивала надзирателей:

«Теперь Хеллман настаивает, чтобы заключенные не смотрели на свои номера, когда их произносят, потому что уже должны были их запомнить. Если кто-то произносит свой номер неправильно, наказание ждет всех: дюжина отжиманий от пола. Все еще конкурируя с Лендри за первое место в иерархии охранников, Хеллман становится все более жестким: «Мне не нравится, что вы произносите номер, когда опускаетесь к полу. Я хочу, чтобы вы это делали, когда поднимаетесь. Эй, № 5486, еще десять отжиманий, лично для меня». Заключенные послушно и все быстрее выполняют приказы. Но это только подстегивает охранников. Начинаются новые требования».
Филип Зимбардо «Эффект Люцифера. Почему хорошие люди превращаются в злодеев» - рецензия П. Можейко (часть 1 из 2), image #6

Интересная деталь про отбывание роли и жестокость наедине с заключенными:

«Что интересно, охранник Серос позже сказал нам, что ведя заключенного в туалет и обратно, ему было трудно играть роль охранника, потому что там не было внешних физических атрибутов тюрьмы — туалет находился за ее пределами. Как и большинство других охранников, он утверждал, что во время походов в туалет с заключенными он действовал более жестко и был более требовательным, чтобы не выйти из роли. Охранникам было труднее быть «крутыми», оставаясь один на один с заключенным. Они также испытывали чувство стыда: взрослые люди превратились в «туалетный патруль».

Охранники использовали принцип «разделяй и властвуй», искусственно ранжируя заключенных по доступу к лучшим условиям содержания:

«Охранники понимают, что вшестером они смогут подавить бунт заключенных, но в будущем им придется действовать только втроем против девяти заключенных, и это будет нелегко. Но ничего страшного: Арнетт объясняет остальным охранникам психологическую тактику «разделяй и властвуй». Нужно сделать третью камеру «элитной» и дать ее обитателям особые привилегии — мыться и чистить зубы, вернуть им кровати, постельные принадлежности и включить в их камере воду».

Как и в настоящих тюрьмах, для заключенных устраивали комиссии по УДО, их посещали родственники и даже приходил священник. Один из заключенных настолько поверил словам комиссии по УДО, что он никогда не выйдет из тюрьмы, что вернувшись к товарищам, сказал об этом и им. Всего одна эта фраза сломала волю остальных. Задумайтесь, каков вес каждого слова в таких местах!

«Дуг-8612 не спеша выходит во двор, где половина заключенных стоит в строю по обе стороны второй камеры и открывает всем ужасную новость: «Я имею в виду именно это. Я имею в виду, что не могу уйти! Я только что говорил с врачами и юристами, и…» Он замолкает. Непонятно, что он хочет сказать. Другие заключенные начинают хихикать. № 8612 стоит перед строем, игнорируя требования встать у стены; своим поведением он, кажется, ошарашил товарищей. Он продолжает декламировать высоким плаксивым голосом: «Я не могу уйти! Они не разрешили мне уйти! Отсюда никто не может уйти!» Хихиканье сменяется нервным смехом. <…> Вероятно, ничто не могло сильнее подействовать на заключенных, чем неожиданная новость, будто в этом эксперименте они лишились свободы и не могут уйти по первому требованию, у них нет права уйти по своему желанию. Именно в этот момент Стэнфордский тюремный эксперимент превратился в Стэнфордскую тюрьму. Не из-за спущенных сверху решений или действий персонала, а вследствие шедшего снизу заявления одного из заключенных. Точно так же, как бунт заключенных заставил охранников считать их опасными, заявление заключенного о том, что никто не сможет уйти, кардинально изменило отношение наших «мнимых заключенных» к своему новому статусу. Они действительно почувствовали себя беспомощными».
Филип Зимбардо «Эффект Люцифера. Почему хорошие люди превращаются в злодеев» - рецензия П. Можейко (часть 1 из 2), image #7

О наследии эволюции (как рост охранников коррелировал с лидерством и агрессией):

«Мы наблюдаем за ними, и нам становится ясно, что в вопросе лидерства размер все-таки имеет значение. Самые высокие охранники — это Хеллман, лидер ночной смены; Венди, который постепенно становится лидером утренней смены, и Арнетт, глава дневной смены. Самые невысокие охранники, Барден и Серос, оказываются в подчинении у своих высоких лидеров. Оба они ведут себя крайне высокомерно, агрессивно, часто кричат на заключенных — и больше всех склонны к физическому воздействию. Они толкают и пинают заключенных, вытаскивают их из строя. Именно они тащат непокорных в камеру-одиночку. Нам говорят, что иногда они толкают заключенных вниз по лестнице, когда ведут их в туалет, или грубо подталкивают к писсуарам, когда их никто не видит. Заметно, что им нравятся дубинки. Они не выпускают их из рук, стучат по прутьям, дверям и столу, громко возвещая о своем присутствии. Психоаналитик сказал бы, что они используют это оружие, чтобы компенсировать недостаток роста. Но какими бы ни были психологические мотивы, совершенно ясно, что именно они постепенно превращаются в самых грубых охранников».

Важные слова священника о ребятах:

«Во время затишья, пока заключенный № 819 готовится к встрече со священником, отец Макдермот признается мне: «Все они принадлежат к наивному типу заключенных. Они ничего не знают о тюрьме и не понимают, для чего она нужна. Это типично для образованных людей, которых я здесь вижу. Но именно такие люди нужны, чтобы попытаться изменить тюремную систему, — это завтрашние лидеры и сегодняшние избиратели, и скоро они будут формировать систему образования. Они просто мало знают о том, что такое тюрьма, и что она может сделать с человеком. Но то, что вы здесь делаете — хорошо, это их научит [жизни – П.М.]».

К слову, многие из участников эксперимента сделали неплохую карьеру, в том числе в областях, связанных с психологией.

Еще одна характерная для садистов черта - сексуализированные игрища:

«Теперь вы все, вонючие заключенные, садитесь на пол, мы поиграем в чехарду». Они начинают играть, но это сложно, потому что когда они перепрыгивают через согнутые тела товарищей, шлепанцы спадают, а робы задираются, обнажая гениталии. Заключенные не могут прыгать, и Бардену, кажется, неловко наблюдать эту игру. Возможно, он считает это действо слишком эротическим или слишком «гомосексуальным». Хеллман упрощает игру: теперь прыгают только № 2093 и № 5704. Они пытаются прыгать через спины друг друга, а Барден испускает шутливые стоны. Гомоэротичная игра только усугубляет издевательства Хеллмана. «Как собаки, правда? Так собаки делают! Он уже готов, разве нет? Смотрите, он стоит сзади, это собачий стиль! Почему вы не сделаете это как собаки?»

Охранники стравливали заключенных между собой, вовлекая их в круг насилия и унижения:

«Хеллман ухмыляется и отворачивается, но только для того, чтобы найти новую жертву. Он открывает дверь в карцер и кричит, словно ярмарочный зазывала: «Тут кто-то есть! Только посмотрите на этого человека! № 416, ты еще здесь?» № 416 смотрит из темноты на выстроенных у стены заключенных и охранников, а они смотрят на него. В каждой руке он держит по сосиске! Барден: «Что это ты вцепился в свои сосиски, № 416?» «Он не съел до сих пор их, эти сосиски, — говорит Хеллман, чья обычно правильная речь сбивается — его явно захлестывают эмоции. — И вы знаете, что это означает для всех остальных?» Заключенные мрачно отвечают: «Сегодня ночью не будет одеял». «Правильно, это означает, что сегодня все спят без одеял! Подходите по одному и попробуйте сказать что-нибудь № 416, чтобы заставить его есть эти сосиски. Начнем с тебя, № 5486». № 5486 подходит к двери, смотрит прямо в глаза № 416 и тихо говорит: «Съешь эти сосиски, № 416». «Так ты от него ничего не добьешься, № 5486, — предупреждает Барден. — Кажется, ты не хочешь сегодня спать под одеялом. Следующий, № 7258». В отличие от первого заключенного, № 7258 сердито кричит мятежнику: «Жри свои сосиски, № 416, или я тебе задницу надеру!» Хеллман рад выражению открытой вражды между заключенными и улыбается от уха до уха. «Вот это уже лучше! № 5486, иди сюда и скажи ему еще раз. Скажи ему, что ты надерешь ему задницу, если он не съест эти сосиски». Тот подчиняется. «№ 2093, иди сюда и скажи ему, что надерешь ему задницу». Сержант неожиданно заявляет: «Сожалею, сэр, я не стану использовать непристойные слова по отношению к другому человеку».
Филип Зимбардо «Эффект Люцифера. Почему хорошие люди превращаются в злодеев» - рецензия П. Можейко (часть 1 из 2), image #8

Кардинальные изменения уже на четвертый день эксперимента:

«К этому моменту заключенные, по большей части неохотно, хотя и полностью, подчинились чрезвычайно жесткой структуре своих ролей в нашей тюрьме. Они называют себя по идентификационным номерам и охотно отвечают на вопросы, обращенные к их «анонимной идентичности». На вопросы, которые должны были бы показаться им как минимум странными, они отвечают со всей серьезностью — например, о своих «преступлениях» и о том, что они делают для реабилитации. За редкими исключениями они полностью подчинились власти комиссии по условно-досрочному освобождению, как и охранникам и системе в целом. Только заключенному № 7258 хватило смелости назвать причиной своего пребывания в тюрьме добровольное участие в эксперименте, но и он быстро отказался от этого утверждения после словесной атаки Прескотта. <…> Большинство заключенных, кажется, полностью приняли ситуацию. Они больше не возражают, не бунтуют и делают все, что им говорят или приказывают. Они похожи на актеров, следующих системе Станиславского, продолжающих играть свои роли за кулисами и в отсутствие камеры. Их роли поглотили их личность. Тех, кто верит в наличие некого врожденного человеческого достоинства, должна очень огорчить рабская покорность бывших мятежников, героев-бунтарей, превратившихся в жалких просителей. Героев не осталось».

Дегуманизация заключенных (из отчетов охранников):

«В заключительном отчете охранника Сероса мы находим другой взгляд на растущую дегуманизацию заключенных в восприятии охранников: «Несколько раз я забывал, что заключенные — это люди, но я всегда ловил себя на этом и напоминал себе, что они — люди. Я просто считал их “заключенными”, как будто в них нет ничего человеческого. Это бывало иногда, обычно когда я отдавал им приказы. Я устал, мне было противно — таким было мое обычное состояние. Я изо всех сил заставлял себя дегуманизировать их — так мне было легче». <…>
«Иногда мы почти не напрягались — мы не унижали заключенных настолько, насколько могли бы», — пишет Варниш. Роли могут влиять не только на эмоции, но и на мышление, и это интересно отражено в самоанализе Варниша после эксперимента: «В начале эксперимента я был уверен, что, скорее всего, смогу действовать так, как требует исследование, но постепенно я стал с удивлением замечать, что у меня возникают чувства, которых я раньше в себе не наблюдал. Я действительно начал чувствовать себя как настоящий охранник, хотя искренне считал, что неспособен на подобное поведение. Я был удивлен — нет, я был встревожен, — когда обнаружил, что могу… что могу вести себя так, как раньше не мог и помыслить. И при этом я не испытывал никаких сожалений, не испытывал чувства вины. Только потом, когда я начал размышлять над тем, что сделал, я начал понимать, как себя вел, я понял, что раньше просто не замечал в себе подобных качеств».

Объявление голодовки, как шаг отчаяния. Тут интересна реакция на нее других заключенных, которые считали, что объявляя голодовку их товарищ не столько борется за свои и общие права, сколько предает их, подвергая опасности.

«В некотором смысле первый день в Стэнфордской тюрьме повлиял на Клея-416 сильнее, чем на других заключенных. Он говорит об этом в своем отзыве, написанном в странно обезличенном стиле: «Я начал чувствовать, что теряю идентичность. Терять того, кого я называю “Клеем”, того, кто привел меня в это место, тот, кто добровольно оказался в этой тюрьме — а для меня это была тюрьма и до сих пор остается тюрьмой, я не считаю это экспериментом или моделированием, это тюрьма, которой управляло не государство, а психологи. Я стал чувствовать, что моя идентичность, тот, кем я был, тот, кто решил отправиться в тюрьму, — был где-то далеко, он отдалялся, пока, наконец, я перестал им быть. Я был “номером 416”. Я действительно стал своим номером, и заключенному № 416 нужно было решить, что делать. Именно тогда я решил объявить голодовку. Я выбрал голодовку, потому что еда была единственным вознаграждением, которое давали нам охранники. Они всегда угрожали, что они не дадут нам поесть, но не могли лишить нас еды. И я прекратил есть. У меня появилась какая-то власть, потому что я обнаружил, что они ничего не могут с этим сделать. Если бы им не удалось заставить меня поесть, они в конце концов сели бы в лужу. Поэтому голодовкой я как будто бы унижал их».
Филип Зимбардо «Эффект Люцифера. Почему хорошие люди превращаются в злодеев» - рецензия П. Можейко (часть 1 из 2), image #9

Теперь несколько слов о завершении эксперимента. Не только «заключенные» и «охранники» полностью вошли в роль. Сам Зимбардо подвергся влиянию своей роли «суперинтенданта». Тут важно отметить апелляцию Зимбардо к «высшей власти», которая смогла бы остановить зашедший далеко эксперимент. Это говорит о том, как важно, чтобы в Системах именно «сверху» пресекалось потворство насилию.

«Спустя годы я считаю, что не закончил исследование раньше, когда ситуация начала выходить из-под контроля, прежде всего из-за моего собственного внутреннего конфликта между двумя ролями: ролью научного руководителя, которому необходимо соблюдать этику исследования, и ролью суперинтенданта, стремящегося любой ценой поддерживать целостность и стабильность своей тюрьмы. Мне хотелось бы верить, что если бы роль суперинтенданта играл кто-то другой, я начал бы бить тревогу раньше. Сейчас я понимаю, что нам нужен был кто-то, обладавший большей властью, чем я, кто бы отвечал за общий ход эксперимента».

Если бы не коллега Зимбардо (ставшая потом его супругой), взглянувшая на эксперимент со стороны и не ужаснувшаяся тому, куда он зашел, кто знает, когда бы был остановлен «СТЭ» и с какими последствиями.

Реакция охранников на завершение эксперимента и важное замечание самого Зимбардо о том, что стоило более жестко контролировать охранников (опять же речь о том, что кто-то должен стоять НАД Системой):

«Хотя некоторые из них, те, кого заключенные назвали «хорошими охранниками», тоже были рады, что их испытания закончились, большинство же были недовольны преждевременным завершением эксперимента. Некоторые жалели, что не получат «шальных» денег за вторую неделю работы, ведь им удалось полностью взять под контроль ситуацию в тюрьме. (При этом никто не сказал о проблеме с голодовкой Клея-416 и о моральном превосходстве Сержанта в конфронтации с Хеллманом.) Некоторые охранники были готовы извиниться за то, что зашли слишком далеко и так откровенно наслаждались своей властью. Другие оправдывали свои действия и считали, что они были необходимы для выполнения той роли, которая им досталась. Моя главная цель в дискуссии с охранниками состояла в том, чтобы помочь им признать, что они испытывают некоторое чувство вины, так как заставляли других страдать и вышли за рамки роли, которую играли. Я ясно дал понять, что сам испытываю сильное чувство вины за то, что не вмешивался, когда это было нужно, и тем самым дал охранникам негласное разрешение дойти до крайности, что они и сделали. Возможно, если бы я более жестко их контролировал, они воздержались бы от многих злоупотреблений».

Реакция заключенных на завершение эксперимента:

«Бывшие заключенные продемонстрировали любопытное сочетание облегчения и возмущения. Все были рады, что кошмар наконец закончился. Те, кто выдержал эту неделю до конца, не проявляли особой гордости за этот «подвиг» и не считали себя лучше тех, кого освободили раньше. Они знали, что иногда вели себя словно зомби, послушно выполняя абсурдные приказы, без всяких сомнений сплотили ряды против заключенного Стюарта-819, участвовали в акциях устрашения против Клея-416 и высмеивали Тома-2093, нашего самого высоконравственного заключенного, Сержанта. <…> Как и следовало ожидать, бывшие заключенные стали бранить охранников, которые, по их мнению, вышли далеко за рамки роли и проявляли слишком много творчества в своих оскорблениях, когда выбирали их мишенью для особых злоупотреблений. Первыми в хит-параде мучителей оказались Хеллман, Арнетт и Барден, а за ними — Варниш и Серос, менее последовательные приспешники «зла».
Филип Зимбардо «Эффект Люцифера. Почему хорошие люди превращаются в злодеев» - рецензия П. Можейко (часть 1 из 2), image #10

РАБОТА С ДАННЫМИ И АНАЛИЗ ЭКСПЕРИМЕНТА «СТЭ»

Самое шокирующее в «СТЭ» - это скорость, с которой участники эксперимента смирились и сжились со своими ролями, показав, как внешние обстоятельства меняют людей. В данном случае – у всех в худшую сторону, но по-разному. Но наука любит точные цифры и объективные (насколько это возможно) данные. Поэтому ДО и ПОСЛЕ эксперимента участники прошли ряд тестов, определяющих характер и предпочтения, а также по завершении написали ретроспективные дневники, где своими словами изложили впечатления и свой анализ произошедшего.

Какой была методика тестирования личности у Зимбардо?

«Индивидуальные различия участников исследования изучались с помощью трех методик. Мы использовали шкалу F для измерения авторитарных установок, шкалу макиавеллизма, исследующую стратегии манипулирования при межличностном общении, и личностные шкалы Комрея».

Давайте посмотрим на результаты.

Авторитаризм:

«Шкала F (The F-Scale). Этот тест измеряет приверженность традиционным ценностям и склонность покорно, некритично относиться к власти. <…> Сравнивая результаты по шкале F пяти заключенных, оставшихся в «тюрьме» до конца исследования, и пяти заключенных, освобожденных раньше, мы обнаружили интересные данные. У тех, кто выдержал авторитарную атмосферу СТЭ до конца, показатели по шкалам традиционности и авторитаризма более чем вдвое (средний балл = 7,8) превышали показатели тех, кто был освобожден раньше (средний балл = 3,2). Вот что удивительно: когда мы ранжировали эти показатели у заключенных от самых низких до самых высоких, то обнаружилась очень существенная корреляция с количеством дней участия в эксперименте (коэффициент корреляции = 0,90). Заключенный, вероятно, останется в тюрьме тем дольше и адаптируется к авторитарной тюремной среде тем лучше, чем выше его показатели по шкалам жесткости, приверженности традиционным ценностям и подчинения власти — все эти качества были характерны для атмосферы нашей тюрьмы. И наоборот, заключенные, которые хуже всех переносили давление, продемонстрировали самые низкие показатели по шкале F — можно сказать, к их чести».

Манипулирование другими людьми:

«Шкала макиавеллизма (The Machiavellian Scale). Эта шкала, в соответствии со своим названием, оценивает наличие у человека стратегий, позволяющих манипулировать другими в межличностных отношениях. Средний показатель у охранников (7,7) был немного ниже, чем у заключенных (8,8); таким образом, никаких существенных различий между этими группами обнаружено не было».

Самооценка:

«Личностные шкалы Комрея (The Comrey Personality Scales). Этот опросник, основанный на самооценке испытуемого, состоит из восьми шкал. Мы использовали их, чтобы предсказать личностные различия между охранниками и заключенными. Вот эти шкалы: доверие, склонность к порядку, конформизм, активность, эмоциональная стабильность, экстраверсия, маскулинность и эмпатия. По этим шкалам средние показатели охранников и заключенных оказались практически одинаковыми; ни одно из различий между ними даже не приближается к статистически значимой величине. Более того, средние показатели группы по каждой шкале находились в диапазоне от 40% до 60% — это нормальные показатели для мужчин, по данным Комрея. Эти данные подтверждают идею о том, что личностные качества студентов в этих двух группах можно назвать «нормальными» или «средними».

Самооценка настроения:

«Шкалы самооценки настроения. Дважды, во время исследования и сразу после дебрифинга, каждый из студентов получил контрольный список прилагательных, описывающих их текущее настроение. Мы объединили эти прилагательные в группы, описывающие плохое и хорошее настроение, а также степень активности и пассивности. Как и следовало ожидать из наблюдений за состоянием заключенных, они отмечали в три раза больше негативных прилагательных, чем позитивных, и намного больше негативных прилагательных, чем охранники. Охранники демонстрировали немного больше негативных эмоций, чем позитивных. Другое интересное различие между двумя этими группами: в состоянии и настроении заключенных было больше колебаний. В ходе исследования изменения настроения происходили у них в два-три раза чаще, чем у относительно эмоционально стабильных охранников. По шкале активности — пассивности показатели заключенных были в среднем в два раза выше, что указывает на вдвое более выраженное внутреннее «возбуждение», чем у охранников. Тюремный опыт оказал негативное эмоциональное воздействие и на охранников, и на заключенных, но у заключенных оно было более глубоким и привело к более выраженной эмоциональной нестабильности. <…> Эмоциональное воздействие тюремного опыта было временным, и заключенные быстро вернулись к нормальному базовому уровню настроения, как только исследование было завершено. Это также подтверждает «нормальность» участников, которых мы так тщательно отобрали. Они быстро восстановились, что свидетельствует об их общей эмоциональной стабильности. Однако одни и те же реакции среди заключенных могли быть вызваны самыми разными причинами».

Главный урок «СТЭ»:

«Главный урок Стэнфордского тюремного эксперимента очень прост: ситуация имеет значение. Социальные ситуации зачастую оказывают более мощное влияние на поведение и мышление отдельных людей, групп и даже лидеров нации, чем мы привыкли считать. Некоторые ситуации оказывают на нас столь сильное влияние, что мы начинаем вести себя так, как раньше и вообразить себе не могли».

Как вы уже поняли, эксперимент был весьма жестким, люди буквально ломались во время его проведения. В экспериментальной тюрьме царила обстановка психологического насилия. Поэтому неудивительно, что чем больше появлялось информации о «СТЭ», тем больше было критики в его адрес. В этой книге Филип Зимбардо попытался дать ответ на обвинения в неэтичности эксперимента:

«Был ли СТЭ неэтичным? В некотором отношении, конечно же, да. Но есть и другие точки зрения на это исследование, и они позволяют нам ответить: нет. <…> С точки зрения такой абсолютной этики Стэнфордский тюремный эксперимент, конечно же, должен быть признан неэтичным — ведь люди перенесли настоящие страдания. Возможно, они страдали намного больше, чем ожидали, вызвавшись добровольно участвовать в научном исследовании тюремной жизни, которое проводилось в престижном университете. Более того, эти страдания со временем усугублялись и привели к таким сильным реакциям и эмоциональным срывам, что пятерых участников, совершенно здоровых молодых людей, пришлось освободить еще до окончания эксперимента. Охранники тоже страдали, когда осознали, что они делали под прикрытием своих ролей и темных очков, создававших ощущение анонимности. Они причиняли боль и унижения другим студентам, ничем не заслужившим такой участи. <…>
С точки зрения относительной этики можно утверждать, что СТЭ не был неэтичным, по следующим причинам: мы проконсультировались с юридическим отделом Стэнфордского университета, составили официальное заявление об «информированном согласии», где были указаны требования о работе, безопасности и страховании, которые мы должны были соблюдать, чтобы эксперимент был одобрен. Заявление об «информированном согласии», подписанное каждым участником, гласило, что во время эксперимента допускается вторжение в его частную жизнь; заключенные будут получать минимальное питание, будут лишены некоторых гражданских прав и подвергаться унижениям. Ожидалось, что все они будут выполнять свой двухнедельный контракт как можно лучше. Студенческая поликлиника была информирована о нашем исследовании, и с ней были достигнуты договоренности на тот случай, если у кого-нибудь возникнут проблемы со здоровьем. Мы получили официальное письменное одобрение от агентства, спонсировавшего исследование, Службы эффективности Управления морских исследований, а также от факультета психологии Стэнфордского университета и от университетского экспертного совета по этике».

ПРОДОЛЖЕНИЕ РЕЦЕНЗИИ ТУТ:

https://vk.com/@pavelmazheikabooksreview-355-2

https://vk.com/pavelmazheikabooksreview

https://t.me/pavelmazheikabooksreview

#PavelMazheikaBooksReview

#PavelMazheikaBooksNonfiction

64 views·2 shares