Исследователь взломал собственный банковский счет, имитировав голос с помощью ИИ

Журналист Vice Motherboard Джозеф Кокс (Joseph Cox) доказал, что голосовые ID, используемые банками в США и Европе, это не слишком безопасный способ входа в учетную запись. Систему удалось обмануть с помощью голоса, синтезированного ИИ-сервисом ElevenLabs.

Кокс рассказывает, что банки в США и Европе все чаще используют голосовую верификацию, чтобы клиенты могли входить в свои учетные записи по телефону. Некоторые банки даже рекламируют голосовую идентификацию как эквивалент отпечатка пальца, заявляя, что это безопасный и удобный способ взаимодействия с банком.

 Однако эксперимент журналиста доказывает, что голосовая биометрия вряд ли является надежной защитой в современном мире, где любой желающий может сгенерировать синтетический голос дешево или вовсе бесплатно.

Для своего опыта Кокс использовал бесплатный сервис для синтезирования речи от компании ElevenLabs. Примечательно, что ранее тролли уже использовали сервис ElevenLabs для создания голосовых дипфейков голосов Эммы Уотсон, Джо Рогана и других знаменитостей, заставляя ИИ «произносить» их голосами расистские, оскорбительные и жестокие вещи (например, голосом Эммы Уотсон пользователи 4chan «озвучили» отрывок Mein Kampf). В итоге представители  ElevenLabs пообещали разработать дополнительные меры безопасности для своей платформы.

«Потенциально любой человек, хотя бы несколько минут голоса которого можно найти открытом доступе (пользователи YouTube, инфлюэнсеры в социальных сетях, политики, журналисты), может быть подвержен такого рода клонированию голоса», — пишет Кокс.

Свой эксперимент журналист поставил на британском Lloyds Bank. На сайте финансового учреждения сообщается, что программа Voice ID абсолютно безопасна. «Ваш голос подобен отпечатку пальца и уникален, — говорится на сайте. — Voice ID анализирует более 100 различных характеристик вашего голоса, которые, как и ваш отпечаток пальца, уникальны. Например, то, как вы используете свой рот и голосовые связки, ваш акцент и как быстро вы говорите. [Voice ID] распознает вас даже в том случае, если у вас простуда или боль в горле».

При этом исследователь отмечает, что аналогичные услуги предлагают и другие банки, включая VoicePrin в TD Bank, Voice ID в Chase, Voice Verification в Wells Fargo и так далее.  По мнению Кокса, все эти системы так же уязвимы перед атаками с использованием синтетических голосов, и позволяют выполнять множество действий по телефону, включая проверку истории транзакций, остатков на счетах и, в некоторых случаях, даже перевод средств.

Также отмечается, что для такой атаки мошеннику потребуется знать дату рождения жертвы, однако, благодаря множеству утечек данных, это вряд ли станет большой проблемой.

«Я протестировал несколько ИИ-сервисов для генерации голоса. У большинства из них присутствуют ограничения или были проблемы с воссозданием моего британского акцента, который был необходим для доступа к счету в Lloyds Bank. В конце концов, я воспользовался услугами ElevenLabs, который хорошо справился с акцентом. Чтобы синтезировать голос, я записал около пяти минут речи и загрузил ее в ElevenLabs (я прочитал разделы европейского закона о защите данных). Вскоре синтетический голос был готов к использованию, и он произносил любой текст, введенный на сайте ElevenLabs», — рассказывает журналист.

Источник: https://xakep.ru/2023/02/27/voice-id/