Искажения. Это не тайна.

Хотя, по какой-то причине, редко всплывает в разговорах и очень немногие спрашивают, что же нам с этим делать. Это шаблон, спрятанный за всеми нашими победами и поражениями, невидимый нашими глазами. Что это?

Представьте, что подходите к урне с семидесятью белыми шарами и тридцатью красными и вытаскиваете десять наугад. Возможно, три из них будут красными, и вы верно угадаете, сколько всего красных шаров в урне или, возможно, у вас будет четыре красных шара или какое-то другое число. Тогда вы, вероятно, получите неправильное общее число.

Эта случайная ошибка - цена за неполное знание и, как любая ошибка, это не так и плохо. Ваши оценки не будут неверны в среднем, и чем больше вы узнаете, тем меньше будет у вас ошибок.

С другой стороны, предположим, что белые шары тяжелее и опускаются на дно урны. Тогда ваша выборка может быть нерепрезентативной даже при последовательном вытаскивании.

Такой вид ошибок называется "Статистическая Ошибка". Когда ваш метод изучения мира имеет искажения, изучение может вводить в заблуждение. Накопление данных может даже ухудшать искаженное предсказание. Лишь в том случае, если вы привыкли твердо опираться на знание и запросы, то это пугающая перспектива. Внимание! Только в том случае, если мы хотим быть уверены, что познание поможет нам, а не сделает все еще хуже, чем ранее, нам надо узнавать об искажениях в наших данных и исправлять их.

Идея когнитивных искажений тем же образом работает. Когнитивное искажение - это систематическая ошибка в том, как мы думаем, в противоположность случайной ошибке, вызванной простым невежеством. В то время как статистическая погрешность искажает выборку так, что она менее точно отражает положение дел, когнитивные искажения портят наши убеждения так, что они менее точно отражают факты и вмешиваются в процесс принятия решений, вследствие чего мы достигаем наших целей с меньшей надежностью.

Возможно, вы склонны к оптимизму, а подсчет красных шаров существенен для лечения редкой тропической болезни, которую подхватил ваш брат. Тогда вы переоцените количество красных шаров в урне, поскольку будете желать, чтобы их было больше. И вот здесь будет искажена не ваша выборка, а вы сами.

Однако, нам следует быть осторожней, говоря об искажениях в людях. Обычно таким образом мы говорим о том, что люди нечестны или ущербны. Но когнитивные искажения - это совершенно другой зверь. Они являются основной частью того, как люди думают, а не каким-то дефектом, который можно списать на воспитание или гнилой характер. (1).

Когнитивное искажение - это систематический путь, по которому идут ваши внутренние шаблоны мысли, когда не достигают истины (или какой-либо потенциально достижимой цели, наподобие счастья. Наподобие статистических погрешностей, когнитивные искажения могут искривлять наше виденье реальности, их нельзя в большинстве случаев исправить просто собрав побольше данных, и их эффекты суммируются со временем. Но когда тот неточный инструмент, который вы пытаетесь откалибровать, это вы сами, избавление от искажений является уникальным вызовом.

И тут вполне очевиден вопрос, который следует задать в первую очередь. Таким образом, если вы не можете доверять своему мозгу, то как вы можете доверять вообще хоть чему-то?

Было бы полезно иметь название для этого проекта преодоления когнитивного искажения и для преодоления всех видов ошибок, которыми наши сознания могут навредить себе.

Мы могли бы назвать такой проект как угодно. В настоящий момент, полагаю, "Рациональность" такое же неплохое название, как и любое другое.

Рациональные чувства.

В голливудских фильмах быть "Рациональным" обычно значит, что вы суровы и гиперинтеллектуальны, наподобие спока из звездного пути, который "рационально" подавляет эмоции, "рационально" отказывается полагаться на интуицию и легко впадает в ошеломление, будучи превзойден "иррациональным" оппонентом. (2) есть другой вид "Рациональности", изучаемый математиками, психологами и социологами. Грубо говоря, это идея делать лучшее из того, что можешь. Рациональный человек, не имеет значения насколько продвинувшийся, формирует лучшие убеждения, которые может, из тех свидетельств, что у него есть. Рациональный человек, не имеет значения в насколько ужасной ситуации застрявший, делает лучшие выборы, что может, для улучшения своих шансов на успех.

Реальная рациональность не о том, чтобы игнорировать интуицию и эмоции. Для людей, часто, рационально осознавать свои чувства, чтобы учитывать их, как фактор, при принятии решений.

Рациональность может быть даже о том, чтобы знать когда не стоит сознательно рассуждать. Выбирая постер на стену, предсказывая исход баскетбольной игры, субъекты эксперимента показывали результаты хуже, если они их аккуратно обдумали (3(4. Есть проблемы, для которых сознательные рассуждения помогут нам больше, для других же - быстрые решения лучше. Психологи, работающие над теорией двух процессов, выделяют процесс "Система 1" (Быстрое, Неявное, Ассоциативное, Автоматическое Суждение) и Процесс"система 2" (медленное, явное, интеллектуальное, подконтрольное суждение. (5. стереотипный рационалист целиком полагается на систему 2, игнорируя чувства и импульсы. В том случае, если посмотреть не на стереотип, а на того, кто действительно рационален, кто достигает своих целей, кто действительно смягчает урон от когнитивных искажений, можно обнаружить, что он сильно полагается на привычки и интуицию системы 1, в ситуациях, где на них можно положиться.

К сожалению, система 1 является плохим помощником, когда надо определить "стоит ли сейчас доверять системе 1? Наша нетренированная интуиция не подскажет нам когда мы должны перестать полагаться на нее. Предвзятость и непредвзятость ощущаются одинаково. (6. с другой стороны, поведенческий экономист Дэн ариели отмечает: мы предсказуемо иррациональны. Мы запарываемся одними и теми же способами, снова и снова, систематически.

Лишь в том случае, если мы не можем использовать инстинкт чтобы понять, когда поддаемся когнитивному искажению, то можно использовать науки о разуме.

Многоликие ошибки.

В ходе эволюции, наши мозги, для решения проблем, стали использовать когнитивные эвристики - кратчайшие пути, чтобы быстро получить правильные решения, но, время от времени - неправильные.

Эвристика репрезентативности, например, является нашей склонностью оценивать феномен, основываясь но том, насколько он характерен по отношению к разным категориям. Это может вести к таким ошибкам, как конъюнктивное заблуждение. Тверский и канеман обнаружили, что субъекты эксперимента считали менее вероятным, что сильный игрок в теннис "Проиграет в Первом Сете", чем "проиграет в первом Сете, но выиграет матч" (7. то, что сильный игрок сможет отыграться, кажется более характерным, так что мы переоцениваем вероятность такого сложного - но - так - разумно - звучащего рассказа, по сравнению с вероятностью действительно простого сценария.

Так же эвристика репрезентативности может быть частью нечувствительности к априорной вероятности, когда мы основываем наше суждение на том, насколько "Нормальна" комбинация атрибутов, пренебрегая тем, насколько распространены атрибуты в популяции в целом (8. Стив более вероятно является застенчивым библиотекарем, или застенчивым продавцом? Большинство людей будет думать над этим, анализируя насколько "Застенчивость" сочетается с стереотипами этих профессий. Они терпят неудачу в том, чтобы учесть насколько больше продавцов в сравнении с библиотекарями в соединенных штатах (9.

Среди других примеров искажений есть: игнорирование срока действия (оценка опыта без учета того, как долго он будет переживаться), заблуждение невозвратных затрат (чувство необходимости продолжать заниматься тем, на что уже потрачены силы и время, тогда как следует сжечь мосты и двигаться дальше), и ошибка подтверждения (придавать больше значения подтверждающим наши убеждения свидетельствам) (10), (11.

Знание об искажениях редко может защитить от них. В ходе исследований слепоты по отношению к искажениям, субъекты эксперимента предсказали, что, если они будут знать, что оцениваемая картина принадлежит кисти известного художника, им будет сложней нейтрально оценить качества этой картины. И, действительно, субъекты, которым сообщили имя автора картины и попросили оценить ее качество продемонстрировали действие искажения, которого они предсказали, относительно контрольной группы. Когда их опрашивали после, эти же субъекты заявляли, что их оценка картины была объективной и нетронутой искажением - и так во всех группах! (12), (13).

Особенно отвратительна мысль о том, что именно наши убеждения ошибочны. Даже если мы корректно определим ошибки других, для своих у нас есть особое слепое пятно (14. Нам не удается заметить "Ошибочно - Чувствующиеся Мысли", когда мы занимаемся самоанализом, так что мы полагаем себя более объективными, чем все остальные (15.

Изучение искажений может сделать вас более уязвимыми для сверхуверенности и ошибки подтверждения, по мере того, как вы будете видеть влияние искажений у окружающих, но не у вас. И слепое пятно, в отличии от остальных искажений, особенно серьезно проявляется среди интеллектуальных, вдумчивых, непредубежденных. (16 (, (17.

И это причина для беспокойства.

И все же … кажется, мы способны быть лучше. Известно, что мы способны снизить влияние нечувствительности к априорной вероятности, думая о вероятностях, как о частоте событий. Мы можем минимизировать игнорирование срока действия, уделяя внимание сроку действия и изображая его графически (18. Люди различаются в том, как сильно у них проявляются различные искажения, так что должны существовать способы повлиять на наши заблуждения.

Однако, если мы хотим стать лучше, недостаточно просто создать список когнитивных искажений. Подход к устранению искажений в "Рациональности: от ИИ до Зомби" предполагает системное понимание того, как работает правильное мышление и как мозг отстает от него. В определенных границах, эта книга делает свою работу, ее подход может быть сравнен с тем, что описан у серфаса, который заметил, что "Годы Работы в Финансовом Секторе" не влияют на уязвимость к заблуждению невозвратных затрат, тогда как "посещение некоторого количества курсов по бухгалтерскому учету" влияет.

Следовательно, следует различать опыт и компетентность, которая означает "Развитие Схематических Принципов, Включающих Концептуальное Понимание Проблем", что, в свою очередь, позволяет лицу, принимающему решения, распознать конкретное искажение. Однако, использование контрмер компетентности требует большего, чем знание контекста проблемы и того, что вы являетесь экспертом в своем деле. Это требует полного понимания скрытой подоплеки конкретного искажения, способности заметить его, наличия соответствующих инструментов для нейтрализации искажения (19.

Цель этой книги - заложить фундамент для создания рациональной компетентности. Что означает глубокое понимание структуры широкой проблемы: человеческие ошибки, самообман, и тысяча способов, как утонченная мысль может победить себя.

Слово об этом тексте.

"Рациональность: от ИИ до Зомби" родилась в качестве серии эссе Элиезера юдковского, опубликованных между 2006 и 2009 на экономическом блоге "Overcoming Bias" и побочном блоге "Less Wrong". Я работал с юдковским вот уже год в Machine Intelligence Research Institute (Miri), некоммерческой организации, основанной им в 2000 для исследования теоретических требований к созданию умней - чем - человесеского интеллекта (ИИ.

Читая его посты, я заинтересовался его работой. Он впечатлил меня способностью кратко передать идеи, выработка которых у меня занимала годы изучения аналитической философии. Ища пути соединить дух науки и скептицизма со строгим и системным подходом к исследованиям, юдковский старается не только опровергнуть, но и понять ложные шаги и слепые пятна плохой философии (плохой недо - философии. Помогая собрать его эссе в книгу, я надеюсь облегчить погружение в них и понимание их как целого.

Получившийся в результате рациональный букварь полон личных деталей - юдковский использует свой опыт общения с со своей матерью, ортодоксальной иудейкой (психиатром) и отцом (физиком), разговорах в чате и рассылках. Читатели, знакомые с юдковским по "Гарри Поттеру и Методам Рационального Мышления", его научно - ориентированной интерпретацией Гарри Поттера Дж. К. роулинг, узнают элементы непочтительного иконоборчества, и основные концепты.

С точки зрения стилистики, эссе в этой книге представляют гамму от "Жизнерадостный Учебник" до "сборник вдумчивых виньеток" и "буйного манифеста", контент соответственно, тоже отличается от эссе к эссе. В книге собраны сотни статей юдковского в двадцать шесть "Цепочек", как бы глав, связанных по смыслу постов. Цепочки же сгруппированы в шесть книг, раскрывающих темы: завершающая часть, ссылки и информация о переводчиках: Lesswrong. ru/212 статьи@Etorabotaet.