Головне коротко
- Когнітивне упередження — це не дурість і не забобон, а передбачуване відхилення суджень, яке трапляється в усіх; поняття запровадили Амос Тверскі й Деніел Канеман у статті 1974 року.
- Найнадійніше відтворюються ефект якоря, фреймінг, хибний консенсус і помилка атрибуції; ефект незворотних витрат підтверджено, але він малий.
- Чи є евристики помилками, науковці сперечаються: Ґерд Ґіґеренцер доводить, що в умовах невизначеності прості правила часто дають точніші відповіді, ніж складні розрахунки.
- Чужі упередження ми бачимо краще за власні, і високий інтелект від цієї «сліпої плями» не захищає.
- Знати назви упереджень недостатньо: помилки зменшує навчання з практикою і зворотним зв'язком, а ще надійніше — зміна умов, у яких ухвалюють рішення.
Когнітивне упередження (cognitive bias), або когнітивне викривлення, — це систематична помилка в судженнях. Мислення відхиляється від правил логіки чи теорії ймовірностей не випадково, а щоразу в той самий, передбачуваний бік. Людина при цьому не почувається неуважною: відповідь здається їй очевидною.
Уявімо цінник на куртці: закреслено «4000», написано «2400». Чи варта куртка цих грошей, ми не знаємо, але поруч із чотирма тисячами нова ціна здається вигідною. Перше число стало точкою відліку, якорем, хоча про якість речі воно нічого не каже.
Ідеться не про погляди й не про забобони щодо груп людей, а про збої в оцінці чисел, шансів, причин і власних знань. Таких ефектів описано десятки. Нижче — п'ятнадцять найвідоміших: для кожного наведено класичний дослід і сказано, чи витримав він повторну перевірку.
Звідки взялося поняття
1974 року ізраїльські психологи Амос Тверскі (Amos Tversky) і Деніел Канеман (Daniel Kahneman) надрукували в журналі Science статтю «Судження в умовах невизначеності: евристики та упередження». Її головна думка така: оцінюючи шанси, люди не рахують, а спираються на кілька евристик (heuristics) — простих правил, які зводять складне запитання до легшого.
Автори описали три такі правила. Репрезентативність: наскільки випадок схожий на типовий приклад. Доступність: наскільки легко згадуються подібні випадки. Якорення: оцінку будують, відштовхуючись від першого числа, яке трапилося. За словами авторів, ці правила «дуже ощадні й зазвичай дієві», але призводять до систематичних і передбачуваних помилок. Вони порівняли це із зором: відстань до предмета ми оцінюємо за його чіткістю, і здебільшого це працює, але саме через це правило ми помиляємося, коли видимість погана.
Так виник цілий напрям досліджень — «евристики та упередження». 2002 року Канеман отримав Нобелівську премію з економіки; Тверскі помер 1996 року.
П'ятнадцять упереджень: досліди й перевірки
Позначки «перевірка» здебільшого спираються на два міжнародні проєкти Many Labs («Багато лабораторій»), у яких десятки лабораторій повторювали відомі досліди за однаковим протоколом. У першому (2014) було 13 ефектів і 6344 учасники в 36 вибірках, у другому (2018) — 28 ефектів і 15 305 учасників із 36 країн і територій. У другому проєкті відтворилася рівно половина ефектів.
1. Ефект якоря (anchoring)
Довільне число, почуте перед оцінкою, тягне оцінку до себе. У досліді Тверскі й Канемана перед учасниками крутили колесо фортуни, а потім питали, яка частка африканських країн входить до ООН. Коли колесо зупинялося на 10, медіана відповідей була 25%, коли на 65 — 45%. Винагорода за точність ефекту не зменшувала.
Перевірка. Один із найнадійніших ефектів. У Many Labs 2014 року його перевіряли в пізнішому варіанті, з чотирма запитаннями на оцінку, і отримали в усіх 36 вибірках, до того ж сильнішим, ніж в оригіналі. Це стосується якоря, з яким людину просять порівняти оцінку. «Побіжний» якір — число, яке просто трапилося на очі, як-от у назві моделі телефона, — у Many Labs 2018 року на 6826 учасниках не спрацював.
2. Евристика доступності (availability)
Частоту події ми оцінюємо за тим, як легко спадають на думку приклади. Тверскі й Канеман питали, яких англійських слів більше: тих, що починаються на r, чи тих, де r стоїть третьою. Більшість обирала перше, бо слова легше згадувати за першою літерою. Насправді r частіше буває третьою.
Перевірка. Окремих дослідів на цю тему багато, але в проєктах Many Labs цього ефекту не перевіряли. Критики закидають, що «доступність» окреслено надто розмито, щоб її можна було спростувати.
3. Помилка кон'юнкції (conjunction fallacy)
Лінді 31 рік, вона незаміжня, відверта й дуже розумна, вивчала філософію, переймалася дискримінацією та соціальною справедливістю. Що ймовірніше: що Лінда касирка в банку чи що вона касирка в банку й активна феміністка? У досліді 1983 року 85% зі 142 студентів обрали друге. Проте дві умови разом не можуть бути ймовірнішими за одну з них.
Перевірка. Сперечаються не про самі відповіді, а про те, чи це помилка: критики вважають, що судження про один конкретний випадок не можна міряти теорією ймовірностей. Коли те саме питають про частоти («скільки зі ста таких жінок…»), помилок стає значно менше. Це визнають і Тверскі з Канеманом.
4. Нехтування базовою частотою (base-rate neglect)
Учасникам давали описи людей, нібито навмання взяті з групи в сто фахівців. Одним казали, що в групі 70 інженерів і 30 юристів, іншим — навпаки. Оцінки «це інженер» в обох випадках вийшли майже однакові: люди зважали на схожість опису зі стереотипом, а не на склад групи. Навіть про Діка, чий опис нічого не казав про фах, відповідали «п'ятдесят на п'ятдесят».
Перевірка. Ефект залежить від того, як подано задачу. Критики стверджували, що з частотами замість імовірностей він зникає. Тверскі й Канеман 1996 року відповіли, що говорити про зникнення передчасно.
5. Помилка гравця (gambler's fallacy)
Після серії однакових випадкових результатів ми чекаємо протилежного: червоне на рулетці випало кілька разів поспіль, отже, «тепер має бути чорне». Дослідження 2016 року знайшло слід цієї помилки в справжніх рішеннях. Американські судді у справах про притулок відмовляли частіше, якщо попереднє прохання задовольнили (у деяких групах справ — на 3,3 відсоткового пункта). Бейсбольні арбітри на 1,5 пункта рідше оголошували страйк, якщо страйком була попередня подача.
Перевірка. Споріднений лабораторний ефект відтворився в Many Labs 2014 року у 83% вибірок. Щодо суддів автори застерігають: частину результату може пояснювати й ефект контрасту з попередньою справою.
6. Ефект фреймінгу (framing effect)
Вибір залежить від того, якими словами описано ті самі наслідки. У задачі 1981 року хвороба загрожує 600 людям. Коли програми описували через порятунок («напевно врятують 200»), певний варіант обрали 72% учасників. Коли через смерті («напевно загинуть 400») — лише 22%, решта воліла ризикнути.
Перевірка. У Many Labs 2014 року ефект відтворився у 86% вибірок, але був приблизно вдвічі слабший, ніж в оригіналі.
7. Неприйняття втрат (loss aversion)
Втрата важить для нас більше, ніж такий самий виграш, тому річ, яка вже наша, здається ціннішою. У досліді 1990 року половині студентів роздали кухлі, які в університетській крамниці коштували 6 доларів, і влаштували торги. Власники погоджувалися продати кухоль щонайменше за 5,25 долара (медіана), покупці давали 2,25–2,75. З одинадцяти очікуваних угод відбувалося від однієї до чотирьох. Це назвали ефектом володіння (endowment effect).
Перевірка. Метааналіз 607 оцінок зі 150 статей дав середній коефіцієнт від 1,8 до 2,1: втрата важить приблизно вдвічі більше за виграш. Оцінки помітно залежать від того, як побудовано дослідження.
8. Пастка незворотних витрат (sunk cost effect)
Ми продовжуємо справу лише тому, що вже вклали в неї гроші чи час, хоча їх не повернути. Типовий сценарій: є квиток на матч улюбленої команди, але надворі лютий мороз. Ті, хто уявляв, що заплатив за квиток, частіше збиралися піти, ніж ті, кому він дістався задарма.
Перевірка. У Many Labs 2014 року ефект відтворився, але виявився малим: статистично значущим він був лише в половині з 36 вибірок.
9. Ефект типового варіанта (default effect)
Ми схильні лишати те, що обрано за нас заздалегідь. У досліді 2003 року 161 людину питали про згоду стати донором органів. Коли типовою відповіддю було «ні» і згоду треба було позначити самому, погодилися 42%. Коли типовою було «так» — 82%. Без типового варіанта — 79%.
Перевірка. У країнах Європи різниця у формальній згоді між двома системами сягала майже 60 відсоткових пунктів. Але на справжню кількість пожертв це впливало значно скромніше: за розрахунком самих авторів, приріст становив 16,3%.
10. Підтверджувальне упередження (confirmation bias)
Ми шукаємо те, що підтверджує нашу думку, а не те, що могло б її спростувати. 1960 року британський психолог Пітер Вейсон (Peter Wason) показував учасникам трійку чисел 2–4–6 і просив відгадати правило, пропонуючи власні трійки. Люди перевіряли приклади, які відповідали їхній здогадці, як-от «парні числа через два». Справжнє правило було простіше: будь-які числа за зростанням. З першої спроби його не назвали 80% учасників.
Перевірка. За оглядом 2005 року, пізніші повторення давали так само низькі показники.
11. Ретроспективне упередження (hindsight bias)
Дізнавшись, чим усе скінчилося, ми вважаємо, що це можна було передбачити: «я так і знав». У досліді 1975 року Барух Фішгоф (Baruch Fischhoff) давав студентам опис війни британців із гуркхами 1814 року. Ті, кому не сказали про результат, оцінили ймовірність перемоги британців у 33,8%. Ті, кому повідомили, що британці перемогли, — у 57,2%.
Перевірка. У самому досліді ефект проявився в усіх 24 порівняннях. За атласом повторень FORRT, 2021 року його відтворили на 890 учасниках; дві пізніші менші спроби в атласі позначено як невдалі.
12. Помилка планування (planning fallacy)
Ми недооцінюємо час, потрібний на власну справу, навіть коли пам'ятаємо, що схожі справи раніше забирали більше. Термін запровадили Канеман і Тверскі 1979 року. Пояснення таке: плануючи, людина уявляє гладкий перебіг саме цієї справи і не зважає на те, як воно зазвичай буває.
Перевірка. Психолог Роджер Бюлер (Roger Buehler), співавтор класичного дослідження 1994 року, називає цей ефект напрочуд стійким. У великих проєктах із повторення дослідів його не перевіряли.
13. Фундаментальна помилка атрибуції (fundamental attribution error)
Чужу поведінку ми пояснюємо вдачею людини й недооцінюємо обставини. Класична схема: учасники читають есе й знають, що позицію авторові призначили, проте однаково приписують йому ці погляди. У Many Labs 2018 року автора есе на захист смертної кари оцінили як її прихильника на 10,98 бала з 15, автора есе проти — на 4,45.
Перевірка. Відтворено на 7197 учасниках, ефект великий. В оригінальному дослідженні 2002 року в японських студентів він був помітно слабший, ніж в американських, тож сила ефекту може залежати від культури.
14. Ефект «кращий за середнього» (better-than-average effect)
Більшість людей ставить себе вище від середини. У досліді 1981 року шведський психолог Ула Свенсон (Ola Svenson) просив студентів порівняти себе як водіїв з іншими учасниками. Вправнішими за половину групи назвали себе 93% американців і 69% шведів.
Перевірка. Повторення 2023 року на 1203 учасниках дало той самий результат. Цей ефект — одна зі складових ефекту Даннінга — Крюґера.
15. Ефект хибного консенсусу (false consensus effect)
Нам здається, що більшість людей думає й чинить так само, як ми. У досліді Лі Росса (Lee Ross) з колегами 1977 року 320 студентів обирали один із двох варіантів поведінки й оцінювали, скільки однолітків зробить так само. Ті, хто обрав перший варіант, вважали, що його оберуть 65,7% інших. Ті, хто обрав другий, — що перший оберуть 48,5%.
Перевірка. Відтворено в Many Labs 2018 року на 7827 учасниках: 72,5% проти 48,8%.
Суперечка: помилки чи розумні правила
Найпослідовніший критик цього напряму — німецький психолог Ґерд Ґіґеренцер (Gerd Gigerenzer). 1996 року він і Канеман із Тверскі обмінялися статтями в журналі Psychological Review.
Ґіґеренцер висунув два закиди. Перший — «вузькі норми»: відповідь учасника оголошують помилкою, порівнюючи її з теорією ймовірностей, хоча самі статистики не згодні між собою, чи можна говорити про ймовірність одиничної події. Другий — «розмиті евристики»: поняття на кшталт репрезентативності пояснюють «водночас надто мало й надто багато», бо заднім числом під будь-який результат можна підібрати одне з них.
Канеман і Тверскі відповіли, що критик читає їхні праці вибірково. Помилки, за їхніми словами, трапляються і в судженнях про частоти: той самий якір вони показали на запитанні про кількість країн. А про те, що подання задачі змінює відповідь, вони писали й самі.
Згодом Ґіґеренцер розвинув власний погляд: евристики — це «набір інструментів», пристосований до середовища. У статті 2009 року він із колегою стверджує, що в умовах невизначеності правило, яке нехтує частиною інформації, може давати точніші висновки, ніж складний розрахунок.
Обидві сторони згодні, що люди користуються простими правилами. Розходяться вони в тому, що вважати мірилом правильної відповіді. Тому слово «пастка» в назві цієї статті треба розуміти з поправкою: ті самі правила в одних умовах підводять, а в інших допомагають.
Сліпа пляма упереджень
Упередження легко помітити в чужих судженнях і важко у власних. Американська психологиня Емілі Пронін (Emily Pronin) назвала це сліпою плямою упереджень (bias blind spot). У огляді 2008 року вона пояснює причину. Себе ми оцінюємо зсередини, за намірами, а наміри здаються чесними. Інших оцінюємо за поведінкою.
Розум від цього не захищає. У двох дослідженнях 2012 року сліпа пляма не меншала в людей із вищими пізнавальними здібностями, а радше трохи зростала. До того ж ті, хто її не мав, класичних помилок припускалися не рідше. Сам ефект відтворили у трьох вибірках, зокрема в двох американських по 303 і 621 особі.
Чи допомагає знання про упередження
Самого знання, схоже, замало: на це вказують і сліпа пляма, і те, що в досліді з якорем не діяла навіть грошова винагорода за точність. Краще працює навчання з практикою.
У двох експериментах 2015 року (243 і 238 учасників) люди один раз грали в навчальну комп'ютерну гру, яка показувала їм їхні власні помилки. Прояви шести упереджень, серед них якоря, підтверджувального упередження і сліпої плями, одразу зменшилися щонайменше на 32%, а за два місяці — щонайменше на 24%. Навчальне відео діяло слабше. У польовому дослідженні 2019 року 290 студентів-магістрів розв'язували навчальний кейс, не знаючи про перевірку. Ті, хто вже пройшов таке навчання, на 19% рідше обирали гірше рішення, яке підтверджувало початкову гіпотезу.
Це обнадійливі, але поодинокі результати однієї групи дослідників. Ще 2009 року оглядова стаття про те, чи можна навчити людей уникати підтверджувального упередження, лише перелічувала, що про це відомо, а чого бракує, і закликала дослідити питання ґрунтовніше. Надійніше змінювати не людину, а умови рішення: подати дані у вигляді частот, продумати типовий варіант, запитати думку стороннього.
Як зазвичай розуміють когнітивні упередження — і що тут не так
«Упередження — це ознака дурості»
Ні. Це побічний наслідок правил, якими користуються всі і які здебільшого дають добрий результат. Більшість дослідів, описаних вище, проводили зі студентами університетів, а вищі пізнавальні здібності не рятували навіть від сліпої плями.
«Їх близько двохсот, і всі доведені»
Число походить із популярної інфографіки «Кодекс когнітивних упереджень» (Cognitive Bias Codex). 2016 року Бастер Бенсон (Buster Benson) згрупував понад 200 назв зі списків упереджень, а дизайнер Джон Манугян (John Manoogian III) зробив із цього схему-плакат. Це перелік назв, а не підсумок перевірки. У ньому поруч стоять ефекти, відтворені на тисячах людей, і результати одного досліду, а деякі явища записано під кількома назвами. Наскільки ненадійним буває «відоме», видно з проєктів Many Labs: у другому не відтворилася половина з 28 ефектів, у першому — обидва ефекти праймінгу, коли зображення прапора чи грошей нібито робило погляди людей консервативнішими або прихильнішими до наявного ладу.
І не кожна хиба є когнітивним упередженням. Те, що глядачі не помічають «невидиму горилу», — обмеження уваги. Те, що учасники експерименту Аша погоджувалися з хибною відповіддю, — тиск групи.
«Знаєш про упередження — отже захищений»
Дані цього не підтверджують. Від помилок не рятували ні високий інтелект, ні грошова винагорода за точність, а чужі упередження ми помічаємо охочіше за власні. Допомагають практика зі зворотним зв'язком і зміна умов, у яких ухвалюють рішення.
«Упередження — завжди помилка»
Тверскі й Канеман самі називали евристики ощадними й зазвичай дієвими. Чи є відповідь помилкою, залежить від того, з чим її порівнюють і в яких умовах людина діє. Про це й точиться суперечка з Ґіґеренцером.
Що з цього випливає на практиці
- Складіть власну оцінку до того, як почуєте чужу цифру. Перше число, хай яке випадкове, стає якорем.
- Переформулюйте вибір. Якщо «врятують 200 із 600» і «загинуть 400 із 600» викликають різні рішення, річ у словах, а не у фактах.
- Питайте «скільки зі ста?». Із частотами люди помиляються менше, ніж з імовірностями.
- Плануючи, дивіться ззовні. Бюлер радить спершу згадати, скільки тривали схожі справи, а потім ділити план на дрібні кроки.
- Шукайте те, що могло б вас спростувати, і людей, які з вами не згодні: чужі упередження видно краще за свої.
- Не робіть із назви упередження аргумент у суперечці. Досліди описують середнє в групі й нічого не кажуть про конкретного співрозмовника.
Що почитати
Мислення швидке й повільне
Книжка одного з двох авторів самого поняття: тут докладно, з дослідами, розібрано якір, доступність, репрезентативність, неприйняття втрат і незворотні витрати — те, що в статті вмістилося у два абзаци на кожне.
Джерела
- Tversky, A., & Kahneman, D. (1974). Judgment under uncertainty: Heuristics and biases. Science, 185(4157), 1124–1131
- Tversky, A., & Kahneman, D. (1981). The framing of decisions and the psychology of choice. Science, 211(4481), 453–458
- Tversky, A., & Kahneman, D. (1983). Extensional versus intuitive reasoning: The conjunction fallacy in probability judgment. Psychological Review, 90(4), 293–315 — прочитано частково
- Kahneman, D., Knetsch, J. L., & Thaler, R. H. (1990). Experimental tests of the endowment effect and the Coase theorem. Journal of Political Economy, 98(6), 1325–1348 — прочитано частково
- Fischhoff, B. (1975). Hindsight ≠ foresight: The effect of outcome knowledge on judgment under uncertainty. Journal of Experimental Psychology: Human Perception and Performance, 1(3), 288–299 — прочитано частково
- Svenson, O. (1981). Are we all less risky and more skillful than our fellow drivers? Acta Psychologica, 47(2), 143–148
- Johnson, E. J., & Goldstein, D. (2003). Do defaults save lives? Science, 302(5649), 1338–1339
- Klein, R. A., et al. (2014). Investigating variation in replicability: A «Many Labs» replication project. Social Psychology, 45(3), 142–152 — авторський рукопис
- Klein, R. A., et al. (2018). Many Labs 2: Investigating variation in replicability across samples and settings. Advances in Methods and Practices in Psychological Science, 1(4), 443–490 — прочитано частково
- Kahneman, D., & Tversky, A. (1996). On the reality of cognitive illusions. Psychological Review, 103(3), 582–591 — прочитано частково
- Gigerenzer, G. (1996). On narrow norms and vague heuristics: A reply to Kahneman and Tversky (1996). Psychological Review, 103(3), 592–596 — прочитано частково
- Gigerenzer, G., & Brighton, H. (2009). Homo heuristicus: Why biased minds make better inferences. Topics in Cognitive Science, 1(1), 107–143 — прочитано анотацію
- Chen, D. L., Moskowitz, T. J., & Shue, K. (2016). Decision-making under the gambler's fallacy: Evidence from asylum judges, loan officers, and baseball umpires. NBER Working Paper 22026 (згодом — Quarterly Journal of Economics, 131(3)) — прочитано вступ і частину результатів
- Brown, A. L., Imai, T., Vieider, F. M., & Camerer, C. F. (2021). Meta-analysis of empirical estimates of loss-aversion. CRC TRR 190 Discussion Paper No. 275 — прочитано анотацію й вступ
- Koppel, L., et al. (2023). We are all less risky and more skillful than our fellow drivers: Successful replication and extension of Svenson (1981). Meta-Psychology, 7 — прочитано частково
- Vallée-Tourangeau, F., Krüsi Penney, A., & Payton, T. (2005). Representational effects in a rule discovery task. Proceedings of the Annual Meeting of the Cognitive Science Society, 27 — про дослід Вейсона 1960 року
- Wason, P. C. (1960). On the failure to eliminate hypotheses in a conceptual task. Quarterly Journal of Experimental Psychology, 12(3), 129–140. DOI 10.1080/17470216008416717 — не читав; відомо з переказу: Vallée-Tourangeau та ін. (2005)
- Pronin, E. (2008). How we see ourselves and how we see others. Science, 320(5880), 1177–1180 — прочитано частково
- West, R. F., Meserve, R. J., & Stanovich, K. E. (2012). Cognitive sophistication does not attenuate the bias blind spot. Journal of Personality and Social Psychology, 103(3), 506–519 — прочитано анотацію
- Warren, M. (2019). The «bias blind spot» («everyone else is more biased than me») just replicated. BPS Research Digest — про дослідження: Pronin, Lin & Ross (2002); Chandrashekar та ін. (2021)
- Morewedge, C. K., Yoon, H., Scopelliti, I., Symborski, C. W., Korris, J. H., & Kassam, K. S. (2015). Debiasing decisions: Improved decision making with a single training intervention. Policy Insights from the Behavioral and Brain Sciences, 2(1), 129–140 — авторський рукопис, прочитано частково
- Sellier, A.-L., Scopelliti, I., & Morewedge, C. K. (2019). Debiasing training improves decision making in the field. Psychological Science, 30(9), 1371–1379 — прочитано анотацію
- Lilienfeld, S. O., Ammirati, R., & Landfield, K. (2009). Giving debiasing away: Can psychological research on correcting cognitive errors promote human welfare? Perspectives on Psychological Science, 4(4), 390–398 — прочитано анотацію
- Buehler, R. (2019). The planning fallacy. Character & Context Blog, Society for Personality and Social Psychology
- Buehler, R., Griffin, D., & Ross, M. (1994). Exploring the «planning fallacy»: Why people underestimate their task completion times. Journal of Personality and Social Psychology, 67(3), 366–381. DOI 10.1037/0022-3514.67.3.366 — не читав
- FORRT Replication Atlas. Hindsight is not equal to foresight (Fischhoff, 1975): перелік повторень — про дослідження: Chen та ін. (2021)
- Association for Psychological Science (2018). Replications don't hinge on sample and setting differences, multilab project shows. APS Observer
- Benson, B. (2016). Cognitive bias cheat sheet; сторінка «Cognitive Biases» на сайті автора
- Manoogian III, J. Cognitive Bias Codex: 180+ cognitive biases, codified and categorized (GitHub Gist)
- Ross, L., Greene, D., & House, P. (1977). The «false consensus effect»: An egocentric bias in social perception and attribution processes. Journal of Experimental Social Psychology, 13(3), 279–301 — не читав; відомо з переказу: Klein та ін. (2018)
- Jones, E. E., & Harris, V. A. (1967). The attribution of attitudes. Journal of Experimental Social Psychology, 3(1), 1–24 — не читав; відомо з переказу: Klein та ін. (2018)