Google ofrece un método para etiquetar y detectar textos de IA. La idea es buena, pero ese no es el problema

Google ofrece un método para etiquetar y detectar textos de IA. La idea es buena, pero ese no es el problema
google ofrece un método para etiquetar y detectar textos de ia. la idea es buena, pero ese no es el problema

La IA deberĂ­a firmar sus obras. Igual que los autores —como quies suscribe— firman lo que escriben o los pintores firman en sus cuadros, los sistemas de IA generativa deberĂ­an etiquetar (por ejemplo, con marcas de agua) los contenidos que generan como lo que son: contenidos generados por IA. Google, que ya tenĂ­a una buena idea al respecto, acaba de dar un paso importante para impulsarla. El problema es otro.


SynthID. Google y DeepMind llevan tiempo trabajando en este problema. Hace mås de un año presentaron SynthID, y ahora acaban de ofrecerlo como herramienta libre para que cualquiera pueda utilizarla. El objetivo: que las plataformas de IA generativa tengan así un método de firmar los contenidos que generan para poder luego identificarlos fåcilmente.


Pero tiene limitaciones. Aun asĂ­, la compañía reconoce que SynthID no se comporta demasiado bien con textos cortos, textos que se han reescrito, textos traducidos de otros idiomas o con respuestas a preguntas muy concretas porque en ellas la respuesta suele ser muy especĂ­fica. ("¿CuĂĄl es la capital de Francia?").


No hay un eståndar universal. Las técnicas de marcas de agua para los contenidos son una gran idea. Sin embargo, a pesar de limitaciones como las que Google reconoce, su valía como solución a esta situación se enfrenta a un gran obståculo. No hay un sistema de etiquetado eståndar y universal. OpenAI lleva años trabajando en su propio sistema de marcas de agua, y lo mismo ocurre con Adobe, que forma parte de la C2PA (Coalition for Content Provenance and Authenticity). Este organismo tiene su propia especificación, pero aunque la idea es la misma que la de Google u OpenAI, su implementación es ligeramente distinta. Meta, por cierto, también tiene el suyo propio para audios generados por IA.


Consenso, por favor. La soluciĂłn a esta situaciĂłn es clara: habrĂ­a que elegir una Ășnica soluciĂłn entre todas las disponibles y adoptarla como estĂĄndar universal. Uno que todas las empresas y desarrolladores deberĂ­an poder adoptar libremente y que permitirĂ­a que poco a poco impulsara su uso masivo. Estos esfuerzos aportan, pero tambiĂ©n provocan esa falta de un criterio unificado tan necesaria en este ĂĄmbito.


Imagen Google / DeepMind


En este blog La nueva empresa de Ilya Sutskever tiene un objetivo claro: crear una superinteligencia con seguridad "nuclear"


No hay comentarios.:

Con tecnologĂ­a de Blogger.