El creador de Chatgpt tiene tres soluciones para evitar que la inteligencia artificial se vuelva contra los humanos

Sam Altman, CEO y cofundador de OpenAI, ha presentado tres soluciones clave para evitar que la inteligencia artificial (IA) se vuelva en contra de los seres humanos y cause un daño significativo. Según un informe en el sitio web de 20 Bits, estas soluciones tienen como objetivo regular el desarrollo y el uso de la IA, protegiendo los derechos y las libertades de los ciudadanos.

Las tres propuestas de Altman son las siguientes:

1. Crear una agencia gubernamental responsable de otorgar licencias a los grandes modelos de IA y facultarla para revocar esas licencias si las empresas no cumplen con los estándares establecidos por el gobierno. Esta medida se asemeja a la iniciativa de Europa para regular la IA mediante licencias.

2. Establecer normas de seguridad para los modelos de IA, que incluyan evaluaciones de riesgo. Serían necesarias pruebas para determinar si los modelos pueden autoreplicarse y volverse rebeldes. Ejemplos de IA "malvada", como el caso de 'ChatGPT malvado', resaltan la importancia de evaluar y mitigar los posibles riesgos asociados con los modelos de IA.

3. Requerir auditorías realizadas por expertos independientes para evaluar el rendimiento de los modelos de IA en relación con diversas métricas. Estas auditorías permitirían una supervisión imparcial y garantizarían que los modelos cumplan con los estándares establecidos.

Preocupaciones sobre los riesgos de la IA

Altman reconoce la preocupación respecto a los riesgos de la IA, especialmente en lo que respecta a la manipulación de elecciones y la difusión de contenido falso. Sin embargo también, se muestra optimista sobre el impacto positivo a largo plazo de la IA en la generación de nuevos empleos y mejoras en el mercado laboral.

Esta semana, el cofundador de OpenAI estuvo en el Congreso de los Estados Unidos para solicitar la regulación del desarrollo y el uso de la inteligencia artificial. Explicó su temor sobre los riesgos asociados con una tecnología tan poderosa.

"Creemos que los beneficios de las herramientas que hemos desarrollado hasta ahora superan ampliamente los riesgos. Mi mayor temor es que causemos un daño significativo al mundo. Si esta tecnología sale mal, puede salir muy mal", concluyó.