Cuidado con enamorarte de tu chatbot: en OpenAI alertan de que GPT-4o puede reducir la necesidad de socializar con seres humanos

https://tinyurl.com/24e5p4c4

OpenAI ha publicado la llamada GPT-4o System Card, un informe interno en el que muestra el resultado de su investigación sobre lo seguro (o inseguro) que es su último modelo de IA generativa. Los resultados son llamativos.

Riesgo "medio" en persuasión. En su evaluación los ingenieros de OpenAI han evaluado los riesgos que plantea GPT-4o en distintas áreas. Así, estudiaron si este chatbot podría plantear una amenaza en campos como la ciberseguridad, la creación de amenazas biológicas o su autonomía. En todos esos campos el riesgo fue calificado de "bajo", pero hubo uno en que se determinó que el riesgo era "medio": en persuasión.

Cuidado con enamorarte de tu chatbot. Esa evaluación reconocía que las "capacidades de audio" (la voz) de GPT-4o podía "facilitar interacciones más similares a las humanas con el modelo". La calidad de esa voz sintetizada es excepcional, y como la propia OpenAI reconoce, puede tener ventajas y desventajas. Por un lado, eso puede ser útil para personas solitarias, pero también puede aislarnos más y dejarnos enganchados a nuestra relación con una máquina. Lo explican en ese informe:

El riesgo está ahí. Algunos expertos indican que este informe de OpenAI es un buen primer paso, pero hay muchos más riesgos que evaluar. En cuanto al impacto en nuestras relaciones sociales, no es la primera vez que un estudio habla del tema. En abril Google DeepMind publicó su análisis de este tema. Iason Gabriel, uno de los autores de aquel estudio, explicaba que la capacidad del chatbot de comunicarse "crea la impresión de una intimidad genuina", y que ciertas voces, como las creadas por DeepMind, son inquietantes y dan lugar a "preguntas sobre este enredo emocional". La plataforma Replika sabe muy bien lo que está pasando: su chatbot ha conseguido enamorar a sus usuarios en el pasado.

En este blog OpenAI acaba de acercarnos más que nunca a 'Her': su nuevo modelo de voz nos acompañará (y quizás enamorará)