Думай и не ошибайся! Как избежать ловушек сознания - Оливье Сибони

За последние двадцать лет все больше научных экспериментов, информация о которых опубликована в академических изданиях, оказалось невозможно повторить с описанным результатом. В медицине и экспериментальной психологии бушует «кризис репликации». Одна из наиболее цитируемых статей об этом так и озаглавлена: «Почему результаты большинства опубликованных исследований ложные». Конечно, этому есть множество объяснений, но склонность к подтверждению играет среди них важнейшую роль.

Теоретически научный метод должен надежно защищать от риска предвзятого подтверждения. К примеру, если мы испытываем новое лекарство, то основная часть экспериментов не должна быть направлена на доказательство его эффективности. Вместо этого мы должны серьезно проверять «нулевую гипотезу» – что лекарство не работает. Если результат эксперимента с достаточной вероятностью опровергает нулевую гипотезу, тогда альтернативная гипотеза – что лекарство работает – будет скорее верна, а заключение исследования положительным. Формально процесс научного исследования должен идти в противоположном направлении, чем подсказывает нам интуиция, и прежде всего искать возможные опровержения первоначальной гипотезы.

На практике все несколько сложнее. Научные исследования проводятся в рамках длительных проектов и требуют принятия большого количества решений. Ученым нужно определить конкретные параметры исследования, провести эксперименты, решить, какие данные принять, а какие отбросить как ошибочные, а потом выбрать, какие именно результаты опубликовать. В процессе исследователи сталкиваются с множеством методологических вопросов, на каждый из которых существует несколько приемлемых ответов. И если не брать во внимание примеры намеренной фальсификации данных (которые довольно редки), выбор ответов и создает пространство для влияния склонности к подтверждению. Имея самые благие намерения и проявляя абсолютную добросовестность, исследователь тем не менее может влиять на результат работы, приближая его к той гипотезе, которую стремится доказать. И если это влияние не слишком ярко выражено, то его могут не заметить в процессе экспертной оценки. Так и получается, что научные журналы публикуют «ложно положительные» исследования, которые кажутся технически безупречными и соответствуют всем требованиям статистической значимости. Вот только результаты этих исследований невозможно повторить.

Например, в 2014 году авторам статьи в журнале «Психология, государственная политика и право» пришлось сообщить о неточности в уже опубликованной работе: ошибка в статистическом анализе привела к преувеличению полученного результата. Знаете, о чем была статья? О влиянии когнитивных искажений – и в особенности склонности к подтверждению – на свидетельства экспертов-психологов в суде! Как отметили авторы: «ирония ситуации заключается в том, что обнаруженная ошибка подчеркивает основную мысль статьи: когнитивные искажения приводят к ошибкам даже у тех людей, кто всерьез настроен не поддаваться искажениям и избегать ошибок».

Действительно, иронично. И показательно. Как бы мы ни старались быть «объективными», наша интерпретация фактов и цифр всегда подвержена когнитивным искажениям – у нас в голове всегда есть история, которую мы неосознанно пытаемся подтвердить.

Давайте вернемся к двум историям про «вынюхивание» нефти с самолетов. Склонность к подтверждению и ловушка сюжета помогают понять, почему множество умных и опытных людей так сильно ошиблись. И хотя в конкретных деталях схема мошенничества 2004 года слегка отличается от 1975-го, оба раза главным действующим лицом был талантливый «изобретатель», который успешно продал своим жертвам специально созданный для них сюжет.

В 1975 году Франция приходила в себя после первого нефтяного кризиса. «Изобретатели» обещали главной нефтедобывающей компании и государству ни много ни мало энергетическую независимость. Во Франции в тот момент активно развивалось самолетостроение (в лице корпорации Airbus), была одна из лучших в мире ядерных программ, а еще велись работы над высокоскоростными поездами TGV. Руководство страны все еще верило в национальную технологическую мощь и особое предназначение. И поэтому никому не показалось абсурдным предположение, что именно французские инженеры способны изобрести революционную технологию, которую никто в мире не только не описал, но даже пока не мог себе представить, и совершить промышленную революцию, которая вернет стране былую славу. Чтобы закрепить успех, злоумышленники, которые прекрасно знали, что пост председателя правления Elf Aquitaine занимал бывший министр обороны, намекнули и на военные возможности технологии: раз с самолета можно определить наличие нефти под землей, представьте, как легко он сможет обнаружить подводную лодку в океане.

Эти так называемые изобретатели не обладали инженерными навыками, но зато смогли сделать одну важную вещь: создать сюжет, невероятно привлекательный для их аудитории. В то время и в тех условиях сопротивляться его силе было невозможно. Как признавался председатель совета директоров Elf Aquitaine уже после скандала: «Кругом царила атмосфера безоговорочной веры в успех, поэтому те немногие, кто в нем сомневался, предпочитали помалкивать».

Это никоим образом не оправдывает руководство компании. В полном жестких формулировок отчете, представленном по итогам расследования этого дела, было написано: «Ни одно из этих соображений не должно было помешать соответствующим лицам проявить бдительность и критическое мышление… Вместо систематических попыток опровергнуть заявления изобретателей и реальную возможность воплощения их технологии все утверждения были приняты на веру без экспертизы или проверки». Руководство Elf Aquitaine санкционировало «крупномасштабные воздушные изыскания с применением новой технологии… при этом отказавшись от разовых запусков с целью тестирования и изучение оборудования». Специалистов компании отправляли «учиться и осваивать технологию, а не подвергать процесс систематическому сомнению». Следователи, составлявшие отчет, вряд ли слышали о когнитивных искажениях и склонности к подтверждению, но их описание главной причины произошедшего совпадает с описанием именно этого феномена: поиск свидетельств, подтверждающих изначальный тезис, а не опровергающих его, приводит к тому, что положительные свидетельства будут найдены, а все остальные проигнорированы.

В 2004 году сюжет столь же виртуозно адаптировали к американским реалиям и целевой аудитории. На этот раз «революционная технология» должна была создать «Google нефтегазовой отрасли». Именно об этом мечтали инвесторы в начале двухтысячных: о прорывных технологиях, которые могли бы изменить целые отрасли промышленности, особенно крупные и устоявшиеся. С этой точки зрения любое слабое место плана становилось преимуществом, каждый настораживающий признак – поощрением к действию. Может, стоило обеспокоиться тем, что Олсен ничего не понимал в нефтедобыче? Наоборот – все знают, что настоящие прорывы совершают люди со стороны и со свежим взглядом! А как насчет того, что практически все эксперты отнеслись к идее с недоверием? Тем лучше! Terralliance возьмет штурмом этот консервативный рынок и займет большую его часть.