“Estamos construyendo fantasmas”: el fundador de OpenAI dice que la IA no imita cerebros
Andrej Karpathy, cofundador de OpenAI y ex director de IA en Tesla, ha ofrecido una visiĂłn radicalmente distinta sobre el estado actual de la IA en una extensa entrevista con Dwarkesh Patel. Frente al optimismo desbordante, sostiene que los sistemas actuales son "fantasmas digitales" que imitan patrones humanos, no cerebros que evolucionan como los animales.
Su predicciĂłn: la AGI funcional llegarĂĄ en 2035, no en 2026.
La diferencia. Los animales evolucionan durante millones de años, desarrollando instintos codificados en su ADN. Una cebra corre minutos después de nacer gracias a ese "hardware preinstalado".
Los modelos de lenguaje aprenden imitando texto de internet sin anclar ese conocimiento en un cuerpo o una experiencia fĂsica. "No estamos construyendo animales", afirma. "Estamos construyendo entidades etĂ©reas que simulan comportamiento humano sin comprenderlo realmente". Fantasmas.
El problema del aprendizaje por refuerzo. Karpathy dice que el RL (aprendizaje por refuerzo) actual es "terrible" porque recompensa trayectorias completas en lugar de pasos individuales.
El colapso. Los modelos sufren "colapso de entropĂa":
Entre lĂneas. Karpathy vio que Claude Code y los agentes de OpenAI resultaron inĂștiles para cĂłdigo complejo durante el desarrollo de nanochat. Funcionan con cĂłdigo repetitivo que abunda en internet, pero fallan ante arquitecturas nuevas. "Las empresas generan slop", ha dicho. "QuizĂĄs para levantar financiaciĂłn".
El nĂșcleo. Su propuesta: construir modelos de mil millones de parĂĄmetros (enanos en comparaciĂłn a los mĂĄs usados hoy dĂa) entrenados con datos impecables que contengan algoritmos de pensamiento, pero no conocimiento factual. El modelo buscarĂa informaciĂłn cuando la necesite, como hacemos nosotros.
"Internet estĂĄ lleno de basura", explica. Los modelos gigantes compensan esa suciedad con tamaño bruto. Con datos limpios, un modelo pequeño podrĂa sentirse "muy inteligente".
El giro inesperado. Karpathy no espera ninguna explosiĂłn de inteligencia, solo continuidad. Los computadores, los celulares, Internet: ninguno ha alterado la curva del PIB. Todo se diluye en el mismo crecimiento del ~2% anual.
"Estamos viviendo una explosiĂłn", ha dicho, "pero la vemos a cĂĄmara lenta". Su predicciĂłn: la IA seguirĂĄ ese patrĂłn, difundiĂ©ndose lentamente por la economĂa, sin provocar el salto abrupto al 20% de crecimiento que algunos han anticipado.
En este blog La privacidad estĂĄ muriendo desde que llegĂł ChatGPT. Ahora nuestra obsesiĂłn es que la IA nos conozca lo mejor posible
Imagen destacada Dwarkesh Patel
No hay comentarios.: