home   |   А-Я   |   A-Z   |   меню


Предвзятость – это обязательно плохо

Том Гриффитс

Доцент кафедры психологии; директор Лаборатории вычислительной когнитивистики и Института когнитивных наук и наук о мозге, Университет штата Калифорния в Беркли.

Любая предвзятость представляется нам чем-то плохим. Интуитивно мы ставим знак равенства между рациональностью и объективностью. Казалось бы, рациональный субъект, столкнувшись с трудным вопросом, не должен быть изначально предрасположен к выбору какого-то одного ответа в ущерб другим. Если о новом компьютерном алгоритме, предназначенном для распознавания объектов в изображениях или понимания естественного языка, говорят как о предвзятом, – значит, это плохой алгоритм. И когда психологические эксперименты снова и снова демонстрируют, что люди систематически предвзяты в своих суждениях и решениях, мы начинаем сомневаться в человеческой рациональности.

Но предвзятость – это не всегда плохо. Даже наоборот, на некоторые вопросы лучшие ответы находятся за счет предвзятости.

Многие из самых сложных задач, которые приходится решать человеку, – это так называемые индуктивные задачи, то есть такие, где правильное решение не может быть окончательно найдено исходя из имеющихся данных. Два классических примера таких задач – это как раз распознавание объектов в изображениях и интерпретация естественного языка. Изображение – это всего лишь двухмерный массив пикселей, набор чисел с указанием того, светлый ли это участок или темный, зеленый или синий. Объект же является трехмерным; в одном и том же наборе пикселей содержится множество разных комбинаций трехмерных форм. Когда мы смотрим на определенный набор чисел, сам по себе он ничего не говорит нам о том, какую из этих трехмерных форм он представляет: мы должны взвесить все имеющиеся данные и догадаться самостоятельно. Подобным же образом извлечение слов из «сырого» потока человеческой речи требует от нас обоснованного «угадывания» смысла конкретного произнесенного предложения.

Единственный способ успешного решения индуктивных задач – это некоторая изначальная предвзятость. Поскольку имеющихся данных недостаточно для принятия решения, нам приходится привлекать уже имеющиеся у нас знания и предвзятые суждения, которые существуют независимо от этих данных. И наше умение решать подобные задачи – то есть способность делать правильные догадки – зависит от того, насколько адекватно эта предвзятость помогает нам оценить вероятность правильности того или иного ответа.

Человек в принципе отлично умеет решать индуктивные задачи. Распознавание объектов и понимание естественного языка – именно те два вида задач, которые человек до сих пор решает лучше, чем компьютер. А объяснение этого как раз и состоит в том, что человеческий разум склонен к предвзятому суждению, и эта предвзятость тонко настроена именно на решение подобных задач.

Предвзятость зрительной системы человека проявляется во многих оптических иллюзиях – изображениях, которые демонстрируют удивительные несовпадения между нашими догадками и реальностью. Тот факт, что такие иллюзии редко встречаются нам в повседневной жизни, – свидетельство полезности нашей предвзятости. Изучая оптические иллюзии, на которые откликается наше зрительное восприятие, мы можем идентифицировать предвзятости этого восприятия, а затем встроить их в компьютерные алгоритмы.

Предвзятость в интерпретации мы демонстрируем, когда играем в испорченный телефон или пытаемся понять слова какой-нибудь песни на слух. Эту предвзятость можно обнаружить и в программах по распознаванию речи. Однажды я, уходя из своего кабинета на совещание, запер за собой дверь, а по возвращении обнаружил, что кто-то взломал мой компьютер и оставил на экране поэтическое послание в стихах. Кто это был, и что он хотел мне сказать? Спустя пару минут, полных замешательства и самых неприятных предположений, я обнаружил, что забыл выключить программу распознавания речи, и таинственное послание – ее интерпретация шелеста листьев за приоткрытым окном! Тот факт, что из этого шелеста получился сравнительно вразумительный английский текст, демонстрирует способность программы к предвзятому суждению, что и позволяет ей «услышать» в шорохе листвы звуки человеческой речи.

Нашими способностями в решении зрительных и языковых задач мы во многом обязаны изначальным «склонностям» нашего сознания в пользу рациональных, конкретных ответов. Таким образом, и компьютерные алгоритмы, призванные решать подобные задачи, должны быть «искажены» подобным образом. Поэтому нас не должна удивлять и систематическая предвзятость человека и в других областях. Эта особенность совершенно не обязательно означает какое-то отклонение от рациональности; она просто показывает сложность задач, которые приходится решать людям. И чтобы научить компьютеры лучше решать эти задачи, нам надо сперва понять, как именно работают наши предвзятые суждения.

Утверждая, что предвзятость не всегда вредна, я вовсе не собираюсь заявлять, что она всегда полезна. Объективность – это идеал, когда мы выносим моральные суждения, например, оцениваем действия других людей. Чем больше информации и времени будет у нас в распоряжении, тем больше мы сможем приблизиться к идеалу. Но подобная объективность – слишком большая роскошь в условиях дефицита информации и времени. Так что при решении индуктивных задач предвзятость – это самый рациональный подход.



Модули мозга Патрисия Чёрчлэнд | Эта идея должна умереть. Научные теории, которые блокируют прогресс | Картезианская гидравлическая модель Роберт Курцбан



Loading...