Герман Греф: Сбербанк потерял миллиарды из-за искусственного интеллекта
Возникает вопрос - а стоило ли того увольнение 70% персонала?
26-02-2019
#ПятничныйНаброс
Время чтения: 2 минуты
— Маленькая ошибка может привести к большим последствиям.
Как сообщило во вторник, 26 февраля, интернет-издание «Meduza», Герман Греф признался, что Сбербанк потерял миллиарды рублей из-за ошибок искусственного интеллекта. Об этом глава банка рассказал на «Уроке цифры» в столичной частной школе, видеозапись урока можно посмотреть на YouTube-канале Сбербанка.
- Искусственный интеллект, как правило, принимает решения в больших и очень больших системах. И маленькая ошибка, закравшаяся в алгоритм, может приводить к очень большим последствиям. В нашей практике мы теряли большие деньги на этом. Из-за того, что машина совершала маленькую ошибку на больших объемах, мы теряли миллиарды рублей. И потом, когда эта ошибка выявлялась, мы учились на ней.

Герман Греф
Глава Сбербанка
Почитать о том, почему ценой ошибки искусственного интеллекта могут стать 500 атомных электростанций, можно здесь.
Тем временем, РБК со ссылкой на пресс-службу Сбербанка пишет, что «речь идет не о прямых убытках, а скорее о недополученной прибыли». Учитывая, что в банке используют алгоритмы ИИ для оценки кредитных рисков, можно понять о каких ошибках идет речь. В данной ситуации ошибка первого рода означает, что наш кандидат на получение кредита был неблагонадежен, но система одобрила кредит. Ошибка второго рода означает, что ИИ, наоборот, отверг кандидатуру благонадежного заемщика и из-за неполадок посчитал, что этому человеку кредит давать не стоит. Это, как раз, и является причиной недополучения банком прибыли, а заодно – причиной жалоб клиентов, которые неоднократно озвучивались.
Ранее, в ноябре прошлого года, сообщалось, что внедрение искусственного интеллекта привело к сокращению 70% сотрудников банка, выполнявших рутинные операции. В связи с этим возникает закономерный вопрос: а стоит ли 70% персонала этих миллиардов? Удалось ли сэкономить банку, если он не тратится, на зарплаты сотрудникам, но теряет миллиарды рублей, «благодаря» ИИ?

Возникают большие сомнения в выигрышности подобной стратегии, учитывая, что зарплаты сотрудников, одобрявших кредиты, вряд ли были столь уж высоки, а ошибки формата «все документы в порядке, но кредит все равно не одобрен» они если и совершали, то реже, чем система, которая, судя по всему, не может оценить адекватность такого вывода.
Что можно почитать про ИИ в нашем блоге?
В своей работе мы не раз использовали то, что сейчас называется искусственным интеллектом (а раньше просто автоматизацией). Как и чем нам это помогло, читайте в наших кейсах.
Раз в месяц мы делаем рассылку с анонсом новых кейсов и статей, опубликованных на сайте.
Подпишитесь на обновления.
Гарантируем - никакого спама. Нажимая на кнопку, вы даете согласие на обработку персональных данных и соглашаетесь c политикой в отношении обработки персональных данных.
Читать еще:
Материалы, которые могут вас заинтересовать.