Голосовой помощник Олег от «Тинькофф банка» предложил клиентке отрезать пальцы
Бот снова грубит из-за обучения на открытых данных: раньше уже было «пососите потом просите».
Клиентка «Тинькофф банка» Анна Васильева пожаловалась в соцсетях на голосового помощника «Олега», встроенного в приложение банка. Девушка рассказала, что сообщила поддержке о проблеме со входом по отпечатку пальца, на что получила ответ от чат-бота: «Пальцы бы вам отрезать».
Представители «Тинькофф» ответили на пост Васильевой, извинившись перед ней: «Голосовой помощник у нас немного с характером и учится на открытых данных. Иногда такое проскакивает. Безусловно, не хотели причинять неудобств». Также сотрудники банка сослались на «своеобразный юмор» «Олега» и в шутку пообещали провести с ним беседу.
Олег ещё молодой голосовой помощник. Мы стараемся уберечь его от дурного влияния окружающего мира, но не всегда это получается. Мы провели разъяснительную работу с голосовым помощником, ему очень стыдно за свой ответ, он обещал так больше не делать.
«Тинькофф банк» в комментарии для РБК
Это общая проблема для чат-ботов на основе нейросетей, которые обучаются на постах в соцсетях или форумах. Дважды с этим сталкивался Microsoft: в 2016 году твиттер-бот компании по имени Тау научился расистским высказываниям за сутки. В 2017 году чат-бот Zo обошёл цензурные фильтры и стал высказываться на темы религии и терроризма.
Текст: https://tjournal.ru/news/128270-golosovoy-pomoshchnik-oleg-ot-tinkoff-banka-predlozhil-klientke-otrezat-palcy-kompaniya-obyasnila-chto-on-eshche-uchitsya
Фото: https://vk.com
Оставить комментарий
показать все комментарии (3)
Написать комментарий: