El audio generado con IA puede suponer un gran problema. Meta tiene una idea para detectarlo: una marca de agua

Imagina lo siguiente: suena tu teléfono y la voz de tu hijo, tu madre o quien sea conocido te dice que está en apuros y que necesita que le mandes X cantidad de dinero a cierta cuenta. Si fuese una voz sintética "tipo Loquendo" seguramente no cuele, pero una voz clonada muy fiel te puede poner, como poco, en una tesitura. ¿Cómo solucionar este problema? ¿Cómo podemos detectar que un audio ha sido generado por inteligencia artificial?

Con una marca de agua. Ese es el enfoque de Meta y su nueva propuesta llamada AudioSeal (PDF). Este sistema de detección consta de dos redes neuronales, una que añade una suerte de marcas invisibles e indetectables por el oído humano; y una segunda que detecta estas señales. Es decir, un generador y un detector. La clave de AudioSeal es que funciona incluso en audios largos o en aquellos que hayan sido editados.

Gratis, y un pero. AudioSeal está disponible en GitHub con licencia comercial para que cualquier persona o institución pueda implementarla en sus sistemas. El problema es, precisamente, ese. De nada sirve tener una marca de agua muy potente como esta si no es implementada en los sistemas de generación de audio sintético.

Por otro lado, los experimentos de Meta sugieren que cuanto más se revela sobre el algoritmo de detección, más vulnerable se vuelve el sistema. Es decir, que si un atacante tiene mucha información sobre cómo funciona el sistema, es posible que sea capaz de evitar la detección.

Imagen Pexels

En este blog La nueva empresa de Ilya Sutskever tiene un objetivo claro: crear una superinteligencia con seguridad "nuclear"