Про ошибку выжившего

Что такое ошибка выжившего

Систематическая ошибка выжившего — это тип смещения выборки, возникающий, если при принятии решения человек опирается только на примеры «выживших» (тех, кто добился успеха), но не учитывает статистику по «погибшим» (тех, у кого не получилось прийти к такому же результату), поскольку данных по ним мало или они отсутствуют.

Подобные ошибки замечали еще древние греки. В трактате «О природе богов» Марк Туллий Цицерон (106 год до н. э. — 43 год до н. э.) рассказывает историю о философе и знаменитом «безбожнике» Диагоре Мелосском. Друг привел Диагора в храм на эгейском острове Самофракия и задал вопрос: «Вот ты счи­та­ешь, что боги пре­не­бре­га­ют людь­ми. Но раз­ве ты не обра­тил вни­ма­ния, как мно­го [в хра­ме] таб­ли­чек с изо­бра­же­ни­я­ми и с над­пи­ся­ми, из кото­рых сле­ду­ет, что они были пожерт­во­ва­ны по обе­ту людь­ми, счаст­ли­во избе­жав­ши­ми гибе­ли во вре­мя бури на море и бла­го­по­луч­но при­быв­ши­ми в гавань?»

«Так-то оно так, — отве­тил Диа­гор, — толь­ко здесь нет изо­бра­же­ний тех, чьи кораб­ли буря пото­пи­ла, и они сами погиб­ли в море».

Как ошибка выжившего искажает восприятие

Ошибка выжившего — это распространенное когнитивное искажение, в основе которого лежит непонимание причины и следствия. Человек находит закономерность в наборе данных, но не учитывает вероятность простого совпадения. Например, то, что некоторые основатели известных компаний бросили учебу в университете и стали успешны, является совпадением, поскольку не обязательно этот факт привел их к такому результату.

Где мы с этим сталкиваемся: примеры в жизни и бизнесе

Люди подвергаются этому когнитивному искажению в разных ситуациях: при принятии решений в повседневной жизни, финансовом планировании, в научных исследованиях, бизнесе.

Как все начиналось: сбитые самолеты Второй мировой войны

Хрестоматийным примером «ошибки выжившего» является открытие математика Абрахама Вальда во время Второй мировой войны. Американская армия теряла много самолетов в боях. Чтобы решить проблему и уменьшить потери, командование поставило перед Вальдом задачу: придумать, как укрепить конструкцию. Полностью забронировать машины было нельзя, иначе они бы просто не полетели, поэтому нужно было определить самые уязвимые места.

Военные инженеры изучили повреждения машин, вернувшихся с поля боя, и предположили, что нужно укреплять наиболее поврежденные части. Однако Абрахам Вальд отметил, что если самолет смог вернуться на базу, то попадания в эти части не критические. Важнее обратить внимание на те повреждения, с которыми самолеты не возвращались. То есть бронировать нужно те места, где у «выживших» машин не было пробоин. Это помогло снизить потери американской авиации и сохранить жизни многих летчиков.

«Ошибка выжившего» сегодня: как проявляется в повседневной жизни

• Если где-то произошло крушение самолета или врачи совершили ошибку, которая привела к летальному исходу, то в СМИ появляется статья об этом. Хотя, по статистике, большинство самолетов успешно приземляется, а врачи чаще совершают правильные действия, инфоповодами становятся в основном негативные сюжеты. Из-за такого перекоса у некоторых людей складывается впечатление, что летать опасно, а все врачи некомпетентны.
• Убеждение в том, что дельфины спасают людей, — еще один пример «ошибки выжившего». Известны случаи, когда они действительно помогали тонущим добраться до берега. Такие истории попадают в СМИ и создают впечатление, что дельфины — спасатели. На самом деле эти млекопитающие могут проявлять агрессивное поведение по отношению к людям, наносить серьезные травмы и даже топить. Те, кому повезло, рассказывают о чудесном спасении, а те, кто стал жертвой дельфинов, по очевидным причинам не расскажут ничего.
• «Ошибка выжившего» обнаруживается и в медицинских исследованиях. Например, когда ученые определяют показатели выживаемости для какого-либо заболевания, в статистику попадают только те пациенты, которым успели поставить диагноз. Те пациенты, которые умирают до постановки диагноза, не попадают в выборку. Это приводит к искажению реальных результатов.
• В условиях пандемии COVID-19 показательный пример «ошибки выжившего» — ковид-диссиденты.

«Ошибка выжившего» в бизнесе: как она влияет на принятие решений

«Ошибка выжившего» часто встречается в сфере бизнеса. Никто не говорит о компаниях, которые потерпели неудачу на ранней стадии и больше не существуют, зато успехи нескольких десятков компаний, которые «выстрелили», превозносятся десятилетиями. Это искажает статистику и убеждает многих, что положительный исход более вероятен, чем есть на самом деле. Например, несмотря на то, что по статистике 90% стартапов терпят неудачу, начинающие предприниматели уверены, что они смогут попасть в число победителей.

Истории чужого успеха и карьерная стратегия

Яркий пример «ошибки выжившего» — культ историй успеха. Многие черпают вдохновение из рассказов о предпринимателях-миллиардерах и при этом неверно понимают причины и следствие. Например: «Стив Джобс бросил колледж и стал миллионером. Значит, секрет успеха — это уйти из университета и посвятить все время своей идее». На деле это не работает, и миллиардеры без высшего образования встречаются реже, чем кажется: из 362 самых богатых людей Америки только 12,2% бросили университет.

Те, кто стремится повторить историю успеха компании или конкретного человека, часто игнорируют роль времени, удачи, связей и социально-экономического фона. Многие из известных предпринимателей добились успеха, несмотря на свой необычный выбор, а не благодаря ему.

Как не стать жертвой ошибки выжившего

Когда человек знает об «ошибке выжившего», ему гораздо проще не попасться в эту когнитивную ловушку. Кроме этого, избежать последствий влияния этой ошибки можно, если подходить к принятию решения критически.

Копайте глубже

Не доверяйте поверхностным суждениям и скоропалительным выводам, убедитесь, что у вас достаточно информации для принятия решения. Задавайте вопросы, которые помогут увидеть картину целиком. Например:

• Откуда я это знаю?
• Вся ли это информация по теме?
• Какие данные подтверждают эту версию/гипотезу?
• При каких условиях были собраны данные?
• Могу ли я отделить факты от субъективного мнения и впечатлений?
• Та информация, которая есть, составляет полную картину или только ее часть?

Изучайте разные точки зрения

Воспринимайте любую историю успеха как одну из версий развития событий, а не как истину в последней инстанции. Найдите неудачную статистику или истории провала и посмотрите, что в них пошло не так.

Category:

• Авиация
• Cancel

Систематическая ошибка выжившего как антинаучная хрень…

 Наука работает с фактами и стремиться количество этих фактов преумножить. Однако обратной стороной науки является всяческое толкование, которое увеличивает число «научных» работ, но никак не способствует росту количества знаний.  Ошибка выжившего как раз из этого последнего перечня…

 Итак из википудии:

Во Вторую мировую войну венгерскому математику Абрахаму Вальду, работавшему в нью-йоркской лаборатории SRG, поручили найти решение важной задачи. Не все американские бомбардировщики возвращались на базу. А на тех, что возвращались, оставалось множество пробоин от зенитной артиллерии и истребителей, но распределены они были неравномерно: больше всего на фюзеляже и прочих частях, меньше в топливной системе и намного меньше — в двигателе. Значило ли это, что в пробитых местах нужно больше брони? Вальд ответил: нет, исследование как раз показывает, что самолёт, получивший пробоины в данных местах, ещё может вернуться на базу. Самолёт, которому попали в двигатель или бензобак, выходит из строя и не возвращается. Поскольку попадания от вражеского огня на самом деле (в первом приближении) распределены равномерно, укреплять надо те места, которые у вернувшихся в массе наиболее «чистые»[1].

 Вроде бы все логично и даже научно. Абрахам произвел исследование, получил за него деньги, и вроде как уменьшил потери. Однако разберемся не торопясь. Какие новые факты сумел получить Вальд?  А никаких! Это все было известно до его исследования и даже до войны.

 Вот посмотрим на картинку — и применим методу Вальда. Возвращаются самолеты с дырками в тех местах, где поражение не критично. А вот если пули попадают в те места где дырок нет — такие самолеты гибнут и не возвращаются на базу. Ура — теперь у нас есть метода как уменьшить потери и …

 Однако посмотрим на картинку снова, а теперь представим что мы не стали звать ушлого Вальда и просто спросили конструктора самолетов какие места наиболее критичны в плане выживаемости? Конструктор без запинки даст ответ: моторы. Если у самолет поврежден один мотор, а тем более оба — его шансы вернуться на базу близки к нулю. Потом подумает и скажет — летчики. Если истребитель убьёт пилотов, то возвращение станет проблематичным. 

 И далее — турель с пулеметом. Если она будет повреждена — самолет не сможет обороняться и скорее всего будет сбит. 

 Ой — оказывается надо усиливать и защищать те же самые места, что и показало исследование Абрахама. Которое оказывается полностью бесполезно… Работа проделана, но мы не узнали ничего нового…

   Причем иногда это правило не просто бесполезно, а просто вредно. Вот известны случаи когда дельфины толкали пловцов к берегу, что позволяло тем выжить. Однако вроде бы разумно задать вопрос — но те кого дельфины толкали в другую сторону гибли и мы не можем получить их свидетельства. 

  Вроде бы логично, но…  Вот человек которого дельфины дотолкали до берега — факт. А то что они могут толкать и от берега — гипотеза нуждающаяся в проверке. И если мы хотим на ее основе делать выводы — нам нужно ее подтвердить или опровергнуть, а до того положиться на дельфинов для спасения будет вполне логично.

 Такие вот дела….

Ошибка выжившего

«Защита» — хороший ярлык для плохих дел.
Милтон Фридман «Свобода выбирать»

Этот текст получился в результате анализа некоторых комментариев к статьям «Дефекты лайков» и «Экономика и права человека».

Интерпретируя какие-либо данные и делая выводы, некоторые комментаторы совершали типичную «ошибку выжившего».

Что такое «систематическая ошибка выжившего»? Это учет известного и пренебрежение неизвестным, но существующим.

Примером «стоимости» ошибки выжившего и примером удачного преодоления этой ошибки является работа венгерского математика Абрахама Вальда, работавшего на американскую армию во время Второй мировой войны.

Командование поставило перед Вальдом задачу проанализировать пробоины от пуль и осколков на американских самолетах и предложить способ бронирования, чтобы пилоты и самолеты не погибали.

Сплошное бронирование применить было нельзя — самолет получался слишком тяжелым. Нужно было или бронировать те места, где повреждения были, куда попали пули, либо те места, где повреждений не было. Оппоненты Вальда предлагали бронировать поврежденные места (на картинке они помечены красными точками).

Вальд возражал. Он говорил, что самолеты с такими повреждениями смогли вернуться, в то время как самолеты с повреждениями в других местах вернуться не смогли. Точка зрения Вальда одержала верх. Самолеты были забронированы там, где у вернувшихся машин повреждений не было. В итоге количество уцелевших самолетов значительно возросло. По некоторым данным, Вальд таким образом спас жизни примерно 30% американских летчиков. (В цифре я могу ошибаться, но эффект был весьма значительным. Вальд спас сотни жизней).

Еще одной иллюстрацией «ошибки выжившего» является рассказ Цицерона о словах Диагора Мелосского, который на аргумент в пользу клятв богам, потому что есть множество «изображений о спасении людей, которые попадали в шторм и давали клятву богам совершить какой-либо обет», ответил, что «однако отсутствуют любые изображения тех, кто погиб в море в результате кораблекрушения».

И первая «ошибка выжившего» в комментариях к статье «Дефекты лайков» состоит в том, что нам неизвестно, сколько хороших, полезных, гениальных идей, творений, изобретений, научных работ было похоронено разнообразными «дизлайками», «игнорами» и «банами».

Процитирую формулировку господина @S-e-n: «Никто не знает, сколько хороших идей было слито, не опубликовано, не разработано из страха бана. Сколько было попыток, тихо закончившихся баном автора — тоже. То, что видно сейчас — сколько удачных идей признано сразу или с запозданием, сколько неудачных не признано. Если опираться только на то, что видно — то да, всё ок.»

Это актуально для любой системы рейтингов, основанной на предпочтениях большинства. Будь то наука, соцсети, поисковые системы, первобытные племена, религиозные группы или иные человеческие сообщества.

Не всегда «бан» и «дизлайк» происходят по «злому умыслу». Реакция «возмущения» на нечто новое и необычное — это рутинная физиологическая и психологическая реакция, называемая модным словом «когнитивный диссонанс» — это просто особенность всего вида Хомо Сапиенс, а не свойство какой-то отдельной группы. А вот раздражители у каждой группы могут быть свои. И чем «новее» и «необычнее», тем сильнее возмущение, сильнее диссонанс. И нужно очень хорошо владеть своей психикой, чтобы не наброситься на «возмутителя спокойствия». Что, впрочем, нисколько не оправдывает агрессора. «Возмутитель» лишь «возмущает», в то время как действия агрессора направлены на уничтожение.

Ошибка выжившего встречается и в комментариях к статье «Экономика и права человека». И касается сертификации лекарств.

Чуть ниже я приведу большую цитату из книги «Свобода выбирать» нобелевского лауреата по экономике Милтона Фридмана, а пока лишь замечу, что огромное количество клинических испытаний, сертификатов и прочего почему-то не всех людей убеждают делать прививки, пить назначенные антибиотики и гормоны. Т.е. лицензирование и сертифицирование в данном случае «не работает». При этом есть довольно много людей, применяющих БАДы или гомеопатию, которые не подвергаются (мягко говоря) такому серьезному контролю, как лекарства. Есть много людей, предпочитающих обратиться к знахарям и народным целителям, вместо того, чтобы идти к доктору и пить «химию», на которую есть лицензии, сертификаты и которая прошла множество контролей и испытаний.

Цена такого решения бывает неимоверно высока — от инвалидности до смерти. Быстрой смерти. Время, которое пациент тратит на лечение БАДами, пренебрегая химией и визитом к врачу, оборачиваются упущенной возможностью успеть вылечить болезнь на ранней стадии, в т.н. «светлый промежуток».

При этом важно понимать, что прежде чем лекарство будет отправлено на «сертификацию», фармфирма проводит множество собственных испытаний и контролей, в т.ч. на людях.

Сертифицирование лишь дублирует эту процедуру. Причем в каждой стране все повторяется, что в конечном итоге увеличивает стоимость лекарства для потребителя.

Это было небольшое отступление от темы. Теперь, сильно сокращая, цитирую Милтона Фридмана.

«Для организации совместной взаимовыгодной деятельности людей не требуется вмешательства внешних сил, принуждения либо ограничения свободы… В настоящее время накоплены значительные свидетельства того, что регулирующая деятельность Управления (FDA) пагубна, что она принесла больше вреда, тормозя прогресс в производстве и распространении полезных препаратов, чем пользы, защищая рынок от вредных и неэффективных препаратов.
Влияние Управления по надзору за качеством пищевых продуктов и медикаментов (FDA) на темпы внедрения новых лекарств очень значительно… в настоящее время требуется значительно больше времени на то, чтобы получить одобрение нового лекарства, и, отчасти вследствие этого, затраты на разработку новых препаратов многократно возросли… для внедрения нового продукта на рынок нужно израсходовать 54 миллиона долларов и около 8 лет, т.е. произошел стократный рост затрат и четырехкратное увеличение времени по сравнению с общим двукратным ростом цен. В результате фармацевтические компании США больше не в состоянии разрабатывать новые препараты для лечения пациентов с редкими заболеваниями. Вдобавок мы даже не можем воспользоваться в полной мере зарубежными достижениями, поскольку Управление не принимает свидетельства из-за границы как доказательство эффективности препаратов.

Если исследовать терапевтическую значимость лекарств, которые не появились в США, но доступны, например, в Англии, вы столкнетесь с рядом случаев, когда пациенты пострадали от отсутствия лекарств. Например, существуют лекарства, которые называются бета-блокаторами и могут предотвратить смерть от сердечного приступа — вторичным предотвращением смерти от инфаркта миокарда, — если бы эти лекарства были доступны в США, они могли бы спасать примерно десять тысяч жизней в год…

Косвенным последствием для пациента является тот факт, что терапевтические решения, которые раньше были на усмотрении врача и пациента, все больше принимаются на национальном уровне комитетами экспертов. Для Управления по надзору за качеством пищевых продуктов и медикаментов высшим приоритетом является избежание риска, вследствие чего у нас есть лекарства более безопасные, но нет более эффективных.

Отнюдь не случайным является то, что Управление по надзору за качеством пищевых продуктов и медикаментов, несмотря на самые лучшие намерения, своими действиями отбивает охоту разрабатывать и реализовывать на рынке новые и потенциально полезные лекарства.

Поставьте себя на место чиновника Управления, отвечающего за одобрение или неодобрение нового препарата. Вы можете совершить две ошибки:

1. Одобрить лекарство, оказывающее непредвиденное побочное действие, которое приведет к смерти или серьезному ухудшению здоровья относительно большого числа людей.

2. Отказать в одобрении лекарства, которое могло бы спасти жизнь многих людей или облегчить огромные страдания и не имеющее неблагоприятных побочных действий.

Если вы сделаете первую ошибку и одобрите, ваше имя появится на первых полосах всех газет. Вы попадете в суровую опалу. Если вы совершите вторую ошибку, кто об этом узнает? Фармацевтическая фирма, продвигающая новый препарат, от которой можно отмахнуться, как от образчика алчных бизнесменов с каменными сердцами? Несколько разъяренных химиков и врачей, занимающихся разработкой и тестированием нового препарата?

Пациенты, чьи жизни можно было бы спасти, уже не смогут выразить свой протест. Их семьи даже не узнают о том, что дорогие им люди потеряли жизнь из-за «осторожности» неизвестного чиновника из Управления по надзору за качеством пищевых продуктов и медикаментов.

Даже имея самые лучшие в мире намерения, вы невольно запрещали бы многие хорошие лекарства или откладывали бы их одобрение, чтобы избежать даже отдаленной возможности пропустить на рынок лекарство, которое имело бы побочное действие в виде газетной шумихи…
Вред, причиненный деятельностью Управления по надзору за качеством пищевых продуктов и медикаментов, не является следствием недостатков людей, занимающих ответственные посты. Многие из них являются способными и преданными государственными служащими. Тем не менее, социальное, политическое и экономическое давление определяет поведение людей, отвечающих за деятельность правительственного агентства, гораздо в большей степени, чем они сами, определяют его поведение. Без сомнения, бывают исключения, но они почти так же редки, как и лающие кошки». Конец цитаты.

Таким образом «ошибка выжившего» в оценке эффективности работы контролирующего органа «обходится» человечеству в 10000 жизней в год только по одному препарату в одной стране. Размер всей невидимой части этого «айсберга» оценить сложно. И, пожалуй, страшно.

«Пациенты, чьи жизни можно было бы спасти, уже не смогут выразить свой протест. Их семьи даже не узнают о том, что дорогие им люди потеряли жизнь из-за «осторожности» неизвестного чиновника». Ни один нерадивый производитель не наносил своим согражданам такой ущерб.

Кроме прочего, услуга сертифицирования довольно дорого обходится налогоплательщикам. Т.е. всем жителям. По подсчетам Милтона Фридмана, доля «проедаемого» чиновниками, регулирующими различные социальные программы в США, составляет около половины всей суммы налогов, направляемых на различные социальные выплаты. Эта половина тратится на зарплаты и прочие расходы чиновников от социальной распределительно-регулирующей системы. Любой бизнес давно бы обанкротился с такими непроизводительными накладными расходами.

Это все равно, что заплатить официанту за плохое обслуживание в ресторане чаевые в размере стоимости ужина. Или оплатить упаковку продуктов в супермаркете в размере полной их стоимости только за то, что вам их упакуют в пакетики.

Наличие чиновника в цепочке изготовитель-товар-потребитель или услуга-потребитель удваивают стоимость любого товара и услуги. Т.е. на зарплату любого человека можно было бы купить вдвое больше товаров и услуг, если бы контролем этих товаров и услуг не занимался чиновник.
Как сказал судья Луис Брандис: «Опыт учит тому, что свобода особенно нуждается в защите, когда правительство устремляется к благотворным целям».

Лицензирование, как и иные запретительные способы регулирования (депрессирования) экономики вовсе не новы и известны со средних веков. Все разновидности гильдий, каст, сословий — это ни что иное, как лицензирование и сертифицирование, в переводе на современный язык. И цель их всегда была одна — ограничить конкуренцию, поднять цены, увеличить доходы «своих» и не допустить «чужих». Т.е. все та же дискриминация и банальный картельный сговор, ухудшающий качество и повышающий цены для потребителя.

Может надо как-то выбираться из средневековья? На дворе 21-й век.

Аварии на дорогах устраивают водители, имеющие права и лицензии. Врачебные ошибки совершают дипломированные и лицензированные врачи. Плохо учат, наносят ученикам психологические травмы лицензированные и дипломированные учителя. При этом знахари, гомеопаты, шаманы и шарлатаны великолепно обходятся без лицензий и экзаменов и прекрасно процветают, занимаются своим делом, удовлетворяя спрос населения.

В то же время, со всех этих лицензий и разрешений кормится масса чиновников, не производящих никаких полезных для граждан товаров или услуг, зато обладающей почему-то правом решать за гражданина, где ему лечиться и учиться за его же налоги.

Остается только удивляться тому что, не смотря на запретительный вектор работы чиновников, фармкомпаниям все же удалось в 20-м веке зарегистрировать множество лекарств, спасших миллионы жизней.

И остается лишь ужасаться тому, какое количество лекарств было не разработано, было не зарегистрировано, было признано неперспективными экономически в силу дороговизны и длительности разрешительного процесса. Ужасаться, скольким людям стоил жизни и здоровья результат запретительной деятельности чиновников.

При этом наличие огромного количества лицензирующих, контролирующих, надзирающих и штрафующих чиновников и инстанций нисколько не сократили количество шарлатанов, народных снадобий, всевозможных панацей и волшебных таблеток. Часть из них выпускается под видом биологически активных добавок, часть просто распространяется в обход любых аптек, магазинов и инстанций.

Стоит ли продолжать настаивать на ошибочном пути лицензирования и регулировки? Я думаю, что нет.

Если мозг героического уважаемого читателя, дочитавшего статью до конца, еще не полыхает яростным когнитивным диссонансом, то я хочу порекомендовать для «затравки» четыре книжки, написанные очень простым языком и разрушающие многие мифы, касающиеся капитализма, ошибки выжившего, экономики и государственного контроля. Вот эти книги: Милтон Фридман «Свобода выбирать», Айн Рэнд «Капитализм. Незнакомый идеал», Стивен Левитт «Фрикономика», Малькольм Гладуэлл «Гении и аутсайдеры», Фредерик Бастия «Что видно и чего не видно».
А вот здесь размещена еще одна статья про «ошибку выжившего».

Иллюстрации: McGeddon, Сергей Елкин, Акролеста.

P.S. Уважаемые господа читатели, прошу Вас помнить, что «Стиль полемики важнее предмета полемики. Предметы меняются, а стиль создает цивилизацию.» (Григорий Померанц). Если я не ответил на Ваш комментарий, значит что-то не так со стилем Вашей полемики.

Дополнение.
Прошу прощения у всех, кто написал толковый комментарий, а я не ответил. Дело в том, что кто-то из пользователей повадился минусовать мои комментарии. Каждый. Как только появляется. Это мешает мне набрать «заряд» и поставить плюс в карму и за ответ тем, кто пишет толковый комментарий.
Но если Вы все-таки хотите получить ответ и обсудить статью, Вы можете писать мне личное сообщение. Я на них отвечаю.

Дополнение 2.
«Ошибка выжившего» на примере этой статьи.
На момент написания этого дополнения у статьи 33,9к просмотров и 141 комментарий.
Предположим, что большинство из них негативные по отношению к статье.
Т.е. статью прочитали 33900 человек. Поругали 100. В 339 раз меньше.
Т.е. если очень грубо и с допущениями округлять, то у автора нет данных о мнении 33800 читателей, а есть данные только о мнении 100 читателей (на самом деле еще меньше, поскольку часть читателей оставляет несколько комментариев).
И что же делает автор, т.е. я, читая комментарии? Совершаю типичную «ошибку выжившего». Я анализирую лишь сто «минусов», полностью (психологически) игнорируя тот факт, что это лишь 0,3% мнений. И на основании этих 0,3%, что в пределах статистической погрешности, делаю вывод, что статья не понравилась. Огорчаюсь, не имея к этому ни малейшего повода, если рассуждать логически, а не эмоционально.
Т.о. «ошибка выжившего» лежит не только в области математики, но, вероятно, и в области психологии и нейрофизиологии, что делает ее обнаружение и исправление довольно «мучительным делом» для человеческого мозга.

Дополнение 3.
Хотя это выходит за рамки данной статьи, но поскольку в комментариях довольно бурно обсуждается вопрос контроля за качеством лекарств, то отвечаю сразу всем.
Альтернативой госконтролю может стать создание частных экспертных лабораторий, которые будут проверять качество лекарств, конкурируя друг с другом. (И такие лаборатории, общества, ассоциации и институты в мире уже существуют).
Что это даст? Во-первых, устранит коррупцию, поскольку всегда будет возможность перепроверить и опровергнуть данные коррумпированной экспертизы. Во-вторых, это будет быстрее и дешевле. Просто потому, что частный бизнес всегда эффективнее, чем государственный. В-третьих, экспертная лаборатория будет продавать свои услуги, а значит, будет отвечать за качество, сроки, цены, Все это совокупно снизит стоимость лекарств в аптеке. В-четвертых, если на упаковке не стоит отметка о проверке в независимой частной экспертной лаборатории, а то и в двух-трех, то покупатель будет понимать, что лекарство непроверенно. Или проверенно многократно. И будет «голосовать рублем» за того или иного фармпроизводителя.

Дополнение 4.
Мне кажется, что важно учитывать «ошибку выжившего» при разработке ИИ, алгоритмов машинного обучения и т.п.
Т.е. закладывать в обучающую программу не только известные примеры, но и некую дельту, возможно даже теоретические модели «возможного неизвестного».
На примере «рисующих» ИИ это м.б., условно «ван Гог + дельта», тогда при большой величине дельты, машина создаст фильтр на основе ван Гога, но совершенно уже на него не похожем.
Подобное обучение м.б. полезно там, где имеется дефицит данных: медицина, генетика, квантовая физика, астрономия и т.п.
(Прошу прощения, если «криво» объяснил).

Примечание (надеюсь последнее)
Всем, кто дочитал до конца — «Спасибо». Мне очень приятно видеть Ваши «закладки» и «просмотры».

Мозг человека устроен таким образом, чтобы сохранить как можно больше энергии в организме на случай возникновения ситуаций опасных для жизни. Нам больше не нужно спасаться от хищников, добывать мамонтов и воевать с другими племенами. Но, несмотря на многие века эволюции, одной из главных задач мозга остается эргономичное расходование энергии на любые процессы, не связанные напрямую с обеспечением жизнедеятельности организма. Помогают ему в этом когнитивные искажения, цель которых не давать нам отойти от привычных и проверенных шаблонов и алгоритмов действий.

Чтобы понимать, как правильно работать с когнитивными искажениями, необходимо подробно разбираться в каждом из них. Часть мы уже рассматривали в статье «7 когнитивных искажений, которые мешают принимать правильные решения». Сегодня добавим в эту копилку еще одно, благодаря которому мы часто приходим к неправильным выводам и, в результате чего, совершаем ошибки. Называется оно «систематическая ошибка выжившего».

Возникновение систематической ошибки выжившего

В годы Второй Мировой войны одной из важнейших задач, которую ставило перед собой командование вооруженными силами США, было сокращение количества сбитых самолетов-бомбардировщиков. Далеко не всем американским самолетам удавалось вернуться после обстрела, а, на тех, что вернулись, были пробоины от выстрелов.

Казалось бы, решение задачи лежит на поверхности: укрепить самолеты дополнительной броней. Однако сложность заключалась в том, что сплошное бронирование истребителей было исключено, поскольку они становились слишком тяжелыми. Перед инженерами встал вопрос: какую часть стоит укреплять дополнительной броней?

Решение проблемы было найдено венгерским математиком и статистом Абрахамом Вальдом, который, в противовес распространенному мнению о том, что укреплять необходимо места с наибольшим количеством дыр от пуль (вдоль крыльев, возле стрелка хвостовой стрелково-пушечной установки и по центру нижней части корпуса), предложил укреплять те части, где дыр от пуль не было вообще либо было очень мало (топливная система и двигатель). Он заявил, что выводы необходимо делать по сбитым самолетам и что неповрежденные места у бомбардировщиков являются одновременно их самыми уязвимыми местами. Именно благодаря тому, что в них не попали, самолеты смогли вернуться на базу.

Командование США приняло решение последовать совету Вальда и укрепило дополнительной броней места, на которых было меньше всего следов от пуль. Благодаря этому решению количество потерянных в результате обстрела самолетов значительно сократилось.

Желание сделать вывод на основании данных лишь об уцелевших самолетах, не приняв во внимание неудачную статистику, чуть не привело вооруженные силы США к значительным потерям и получило впоследствии название «Систематическая ошибка выжившего».

Что такое систематическая ошибка выжившего?

Систематическая ошибка выжившего – это разновидность когнитивной ловушки, в которой происходит искажение статистических данных. Попасть в эту ловушку очень легко: достаточно делать односторонние выводы, не принимая в расчет всей картины целиком. Данная ошибка допускается, когда при отборе информации используется статистика по группе успешных случаев, т.е. «выживших», но совсем не используются данные из группы «погибших».

Вся суть систематической ошибки выжившего сводится к одному: из большой группы одинаковых объектов (например, самолеты) мы берем лишь одну их часть (в нашем случае, уцелевшие), выделяем общие характеристики и свойства (места, уязвимые для обстрела) и затем распространяем эти свойства на всю группу (куда устанавливать дополнительную броню). Если не брать во внимание вторую часть объектов (не вернувшиеся на базу самолеты), можно допустить фатальную ошибку, что в свое время чуть и не совершило командование США.

Данная ошибка встречается не только в этом примере, а подстерегает нас практически на каждом шагу. Давайте рассмотрим ее на других примерах.

Распространенные примеры систематической ошибки выжившего

Систематическая ошибка выжившего встречается в нашей жизни гораздо чаще, чем нам кажется. Среди ярких примеров можно выделить широко распространенный в народе слух о том, что все дельфины – добрые млекопитающие, которые помогают тонущим людям спастись, подталкивая их до берега. Никаких научных обоснований и подкреплений этого факта, кроме свидетельств и показаний выживших, нет. При этом в статистике совершенно отсутствуют цифры о погибших в результате того, что дельфины толкали их от берега. Делать заключение только лишь на показаниях одной части и распространять его на всю группу целиком – неверно. Именно поэтому заявление о героизме и доброте дельфинов не может считаться аксиомой.

К подобному умозаключению пришел древнегреческий поэт Диагор Мелосский, живший в 5 веке до н.э. Тогда вопрос касался выживших моряков, которые спаслись исключительно благодаря тому, что обращались с мольбой о помощи к древнегреческим божествам. Диагор подверг сомнению данное утверждение, спросив, а существуют ли упоминания о тех, кто молился богам во время шторма, но так и не выжил?

Именно отсутствие показаний погибших людей не позволяет нам в полной мере говорить об объективности статистики. В этом и заключается суть систематической ошибки выжившего: не принимать во внимание данные о тех, кто уже не может их предоставить.

Примеры этого когнитивного искажения можно найти абсолютно в каждой области, где возможно применить статистику. Например:

• Медицина. Интернет полон историями о том, как люди самостоятельно при помощи гомеопатии или домашней медицины излечивались от тяжелых, а иногда и смертельных болезней. При этом мало где указано количество смертельных исходов болезней у людей, выбравших данный метод лечения.
• Реклама. Маркетологи, желая продемонстрировать свой продукт в выгодном свете, приводят в пример позитивную статистику. Например, в рекламе средств для похудения можно встретить успешные примеры и отзывы довольных покупателей. О неудачных примерах людей, которым данный товар не помог, реклама, естественно, умалчивает.
• Литература. В школьной и студенческой программах рассматривается только малая часть произведений иностранной художественной литературы. При этом далеко не все задумываются, что иностранное искусство – это лишь небольшой процент переведенных на наш язык книг. Все остальные книги, оставшиеся на языке оригинала, могут быть не приняты в расчет. Сюда же можно отнести все бизнес-книги, которые учат нас примерам успешных людей, но не рассказывают о людях, которые пытались, но так ничего и не добились.

Как мы с вами видим, примеров систематической ошибки выжившего огромное множество. Умение замечать ее – важный шаг. Но, что же делать, чтобы ее не совершать?

Как избежать систематической ошибки выжившего?

Систематическая ошибка выжившего, как мы уже выяснили ранее, явление довольно распространенное. Каждый человек хотя бы раз в своей жизни сталкивался с данным когнитивным искажением, поскольку очень часто информация осознанно или неосознанно предоставляется лишь с одной стороны.

Если не научиться критически подходить к полученным данным и правильно их анализировать, можно совершить ошибки, которые впоследствии нанесут серьезный урон имуществу человека, его статусу, здоровью и даже могут стоить жизни.

Так как же научиться отслеживать это когнитивное искажение?

Систематическая ошибка выжившего – это учет известных фактов и пренебрежение неизвестными, но существующими. Поэтому при анализе информации и принятии решений необходимо задавать себе следующие вопросы:

• Всей ли информацией я владею?
• При каких условиях были собраны эти данные?
• Вижу ли я картину целиком или только малую ее часть?
• Обращаю ли я внимание на неудачную статистику?
• Какие данные я могу еще получить, чтобы видеть полную картину?

Ответы на эти вопросы помогают критически подойти к предоставленным данным, рассмотреть ситуацию со всех сторон и сделать вывод на основании подробного анализа.

Огромным помощником в этом может стать наша программа «Когнитивистика», в которой рассматриваются особенности, нюансы и различные техники мышления, позволяющие избежать распространенных и опасных когнитивных искажений.

Заключение

Научиться избегать систематической ошибки выжившего реально. Однако это требует определенных усилий и затрат. Мозгу привычнее действовать по проверенным сценариям, не затрачивая при этом много сил и времени на обработку и проверку информации. Но именно эти умения позволяют человеку избегать серьезных и не очень ошибок в восприятии. Согласитесь, лучше потратить время и силы на предотвращение катастрофы, чем потом разгребать ее последствия?