Предвзятость — не единственная проблема с кредитными рейтингами, и нет, ИИ не может помочь

Но в на сегодняшний день крупнейшее исследование реальных данных по ипотекеэкономисты Лаура Блаттнер из Стэнфордского университета и Скотт Нельсон из Чикагского университета показывают, что различия в одобрении ипотеки между меньшинствами и группами большинства связаны не только с предвзятостью, но и с тем фактом, что меньшинства и группы с низким доходом имеют меньшую репутацию.

Это означает, что когда эти данные используются для расчета кредитного рейтинга, а этот кредитный рейтинг используется для прогнозирования кредитного дефолта, этот прогноз будет менее точным. Именно отсутствие точности приводит к неравенству, а не только к предвзятости.

Последствия очевидны: более справедливые алгоритмы не решат проблему.

«Это действительно замечательный результат», — говорит Ашеш Рамбачан, изучающий машинное обучение и экономику в Гарвардском университете, но не принимавший участия в исследовании. Предвзятость и нерегулярные кредитные истории были горячими проблемами в течение некоторого времени, но это первый крупномасштабный эксперимент по рассмотрению кредитных заявок миллионов реальных людей.

Кредитный рейтинг сжимает ряд социально-экономических данных, таких как история работы, финансовые отчеты и покупательские привычки, в одно число. Помимо принятия решений по заявкам на получение ссуды, кредитные рейтинги теперь используются для принятия многих жизненно важных решений, включая решения о страховании, найме и жилье.

Чтобы выяснить, почему ипотечные кредиторы по-разному относятся к меньшинствам и группам большинства, Блаттнер и Нельсон собрали кредитные отчеты для 50 миллионов анонимных потребителей США и связали каждого из этих потребителей с их социально-экономическими данными, взятыми из маркетинговой базы данных, их активами и ипотечными сделками и данными. ..об ипотечных кредиторов, давших им ссуды.

Одна из причин, по которой это первое исследование такого рода, заключается в том, что эти наборы данных защищены и не являются общедоступными для исследователей. «Мы пошли в кредитное бюро и, по сути, должны были заплатить им за это много денег, — говорит Блаттнер.

Шумные данные

Затем они экспериментировали с различными алгоритмами прогнозирования, чтобы показать, что кредитный рейтинг был не просто искаженным, а «шумным» — статистическим термином для данных, которые нельзя использовать для точных прогнозов. Возьмем заявителя из числа меньшинств с кредитным рейтингом 620. В предвзятой системе мы можем ожидать, что эта оценка всегда переоценивает риск заявителя и что более точным будет, например, 625 баллов. Теоретически это предвзятость может быть объяснено некоторыми форма алгоритмических позитивных действий, таких как снижение порога одобрения для заявок от меньшинств.

[

]

Add a Comment

Ваш адрес email не будет опубликован. Обязательные поля помечены *