Renuncia otro alto mando en OpenAI: La crisis de la IA se reaviva con críptica advertencia

Fundada en 2015, OpenAI es una compañía que actualmente se encuentra a la vanguardia en la investigación en inteligencia artificial (IA) gracias a ChatGPT. Y es que la organización fundada por figuras como Elon Musk y Sam Altman ha sabido avanzar en el campo y ganarse un lugar en el top de empresas tecnológicas, junto a otros grandes como Microsoft o Google. ¿El problema? Este meteórico ascenso no ha estado exento de polémicas.

Recientemente Gretchen Kreuger, ahora ex investigadora de políticas de OpenAI, decidió abandonar la empresa el pasado 14 de mayo, no sin antes dar a conocer su preocupación por los “procesos de toma de decisiones” al interior de la industria de la inteligencia artificial.

Luego de pasar años con un bajo perfil dentro de la industria, la compañía liderada por Sam Altman empezó a enfrentar sus primeras polémicas. Primero fue la repentina destitución de Altman, seguida por una ola de cuestionamientos respecto a la ética de OpenAI. Y luego de ser reintegrado en menos de una semana al cargo de CEO, lo cierto es que estas críticas continuaron resonando.

Ahora fue el turno de Kreuger, quien anunció su renuncia a través de un hilo en X, plataforma anteriormente conocida como Twitter, expresando que su salida no fue una decisión fácil y recalcando además la falta de supervisión en el sector.

“Necesitamos hacer más para mejorar aspectos fundamentales como los procesos de toma de decisiones; responsabilidad; transparencia; documentación; políticas de ACCIÓN; el cuidado con el que utilizamos nuestra propia tecnología; y mitigaciones de impactos sobre la desigualdad, los derechos y el medio ambiente”, decía uno de tus tuits.

Si bien en su misiva Kreuger no especificó las razones detrás de su decisión, sí advirtió sobre la necesidad de mejorar aspectos clave. Además, señaló que las decisiones tomadas por los líderes de la industria de la IA afectan a todos, advirtiendo que actualmente las decisiones son casi exclusivas de quienes dirigen las empresas. Esta concentración del poder, según la investigadora, podría ser destructiva para el futuro de la tecnología y la sociedad.

La nueva crisis de OpenAI

Recordemos que la salida de Kreuger se produjo en medio de un periodo tubulento para OpenAI. La compañía había enfrentado varios escándalos, incluyendo acusaciones de haber copiado ilegalmente la voz de la actriz Scarlett Johansson para GPT -4o, y prácticas cuestionables como presionar a empleados para que firmen acuerdos de confidencialidad bajo amenaza de pérdida de beneficios económicos.

Además, la renuncia coincidió con la salida de otros empleados clave como Ilya Sutskever, ex científico jefe, y Jan Leike, del equipo de seguridad “Superalignment”, encargado de asegurar que las IA teóricas a nivel humano no se descontrolen. Eso sí, “renuncié unas horas antes de escuchar las noticias sobre Ilya Sutskever y Jan Leike, y tomé mi decisión de forma independiente. Comparto sus preocupaciones. También tengo preocupaciones adicionales y superpuestas”, escribió la profesional.

Cerrando con que: “Todavía se está llevando a cabo un trabajo muy importante en OpenAI, desde el trabajo sobre aportes democráticos, la ampliación del acceso, el desarrollo del marco de preparación, las medidas de fomento de la confianza, hasta el trabajo para abordar las preocupaciones que planteé. Sigo entusiasmada e involucrada en este trabajo y su éxito”.

I gave my notice to OpenAI on May 14th. I admire and adore my teammates, feel the stakes of the work I am stepping away from, and my manager @Miles_Brundage has given me mentorship and opportunities of a lifetime here. This was not an easy decision to make.