El cliente de ChatGPT para Mac es el último ejemplo de que necesitamos más seguridad en IA

https://tinyurl.com/23f5zc8r

Los modelos de IA generativa como ChatGPT son estupendos para muchas cosas, pero terribles para otras. Ya sabemos que cometen errores e inventan cosas, pero es que cada vez más vemos cómo quienes los implementan no tienen un importante detalle en cuenta: la seguridad.

ChatGPT para Mac, fatal. Hasta el pasado viernes, la aplicación de ChatGPT disponible para macOS —de momento no la hay en Windows— tenía un importante falla de seguridad: guardaba todas las conversaciones en texto plano. Eso quiere decir que si alguien lograba acceso a nuestra máquina, podría también acceder a esas conversaciones y a los datos contenidos en ellas.

Actualización para solucionarlo. En OpenAI han publicado una actualización que cifra los chats y que por tanto hace que dichas conversaciones ya no puedan ser "espiadas" por otros usuarios que no sean los propios usuarios de ChatGPT.

La IA necesita prestar más atención a la seguridad. Lo que ha sucedido con ChatGPT se une a otros escándalos recientes. El más grave es probablemente el que sacudió a Windows Recall, la nueva característica de Microsoft que nada más lanzarse demostró ser un desastre de seguridad y privacidad.

Cuidado con lo que le cuentas a tu chatbot. Existe un problema incluso más difícil de resolver: ChatGPT y sus rivales no saben guardar secretos. Se ha demostrado que estos modelos de IA generativa pueden servir para acabar revelando datos sensibles que de alguna forma acabaron formando parte de sus conjuntos de datos de entrenamiento. El problema ha acabado haciendo que se lancen versiones específicas como ChatGPT Enterprise, que teóricamente garantiza que las conversaciones con ese chatbot empresarial son absolutamente privadas.

En este blog La nueva empresa de Ilya Sutskever tiene un objetivo claro: crear una superinteligencia con seguridad "nuclear"