Jornalista usa voz de IA para invadir sua própria conta bancária no Reino Unido

Em um experimento recente, o escritor do Vice.com, Joseph Cox, usou uma voz gerada por IA para burlar a segurança do Lloyds Bank e acessar sua conta.

Para conseguir isso, Cox usou um serviço gratuito da ElevenLabs , uma empresa de geração de voz de IA que fornece vozes para boletins informativos, livros e vídeos.

Cox gravou cinco minutos de fala e carregou no ElevenLabs. Depois de fazer alguns ajustes, como fazer com que a IA lesse um corpo de texto mais longo para obter uma cadência mais natural, o áudio gerado superou a segurança do Lloyds.

“Eu não conseguia acreditar que tinha funcionado”, escreveu Cox em seu artigo na Vice . “Eu usei uma réplica de voz com inteligência artificial para invadir uma conta bancária. Depois disso, acessei as informações da conta, incluindo saldos e uma lista de transações e transferências recentes.”

Vários bancos dos Estados Unidos e da Europa usam autenticação de voz para acelerar os logins por telefone. Embora alguns bancos afirmem que a identificação por voz é comparável a uma impressão digital, esse experimento demonstra que a segurança biométrica baseada em voz não oferece proteção perfeita.

LEIA TAMBÉM: Inteligência Artificial pode prever Alzheimer com quase 100 por cento de precisão

A ElevenLabs não comentou sobre o hack, apesar de vários pedidos, diz Cox. No entanto, em uma declaração anterior , o cofundador da empresa, Mati Staniszewski, disse que as novas salvaguardas reduzem o uso indevido e ajudam as autoridades a identificar aqueles que infringem a lei.

Prevenindo o uso indevido de voz AI

A tecnologia para neutralizar esse tipo de ataque, pelo menos em teoria, já está no mercado.

A ID R&D desenvolveu um sistema de autenticação biométrica multimodal que verifica passivamente múltiplas biometrias durante uma sessão de chat. Essa tecnologia foi projetada para garantir a autenticidade das conversas, garantindo que apenas pessoas genuínas e não bots estejam falando.

A Nuance Communications também está trabalhando para combater o uso indevido de voz de IA.

Brett Beranek, vice-presidente e gerente geral de segurança e biometria da Nuance, disse que os produtos de IA podem detectar fraudes nas conversas das pessoas durante as sessões de bate-papo ao vivo.

Ele analisa a escolha de palavras, precisão gramatical, convenções de sintaxe e emojis e acrônimos usados. Posteriormente, a IA compara esses elementos com os padrões dos clientes legítimos e com os de fraudadores conhecidos.

“Colocar essas modalidades de biometria com fatores não biométricos, como detecção de ambiente e forense de chamadas, e alimentar as saídas em um mecanismo de risco alimentado por IA permite que as organizações avaliem o risco de cada interação em tempo real”, disse Beranek.