Алгоритмы принятия решений о выдаче Apple Card продолжают коллекционировать жалобы

Весной 2019 года компания Эппл, объединившаяся с финансовой корпорацией Goldman Sachs, запустила новую продукцию – пластиковые карты. Фанаты «яблочного бренда» стали массово обзаводиться новинками. Однако уже спустя несколько месяцев после старта проекта стало заметно, что алгоритмы принятия решений относительно предоставления кредитных карт не так совершенны, как это утверждается в пресс-релизах. С июня 2019 года на Apple Card периодически поступают жалобы. Клиентов не устраивают несправедливые отказы и заниженные лимиты, рассчитываемые искусственным интеллектом.

Одним из последних скандалов, связанных с пластиковыми картами Эппл, стало обвинение проекта в сексизме. Американец Дэвид Хейнмейер вместе с женой подали заявки на получение карты. Причем у них была единая декларация, а кредитная история супруги заметно выделялась на фоне мужниной.

В результате обработки заявки, система удовлетворила запрос на получение карт, вот только лимит Девида оказался в 20 раз выше, чем у его половины. В ответ на жалобу, представители Эппл сослались на автоматическую обработку заявок искусственным интеллектом, алгоритмы работы которого до конца не ясны и им самим. Ханссону ничего не оставалось, как заявить в соцсетях о сексизме в выдаче кредиток Apple.

В качестве компенсации Apple выдала супруге бизнесмена ВИП-карту со столь же крупным кредитным лимитом, как и у Девида. Однако эти меры не отменяют проблем в работе роботов, обслуживающих выдачу карт. В итоге дело было передано в департамент финансовых услуг города Нью-Йорка для расследования факта дискриминации личности по половому признаку.


Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *