Claude, el chatbot basado en inteligencia artificial que ha aprendido a distinguir entre el bien y el mal

Anthropic, una empresa dirigida por antiguos investigadores de OpenAI, está trazando un rumbo diferente para la inteligencia artificial: desarrollar una IA capaz de saber qué es bueno y qué es malo con una mínima intervención humana.

De acuerdo con el informe de Decrypt, Claude está diseñada con una “constitución” única, un conjunto de reglas inspiradas en la Declaración Universal de Derechos Humanos, diseñadas para garantizar un comportamiento ético junto con una funcionalidad sólida, junto con otras normas “éticas”, parecidas a las reglas de Apple para desarrolladores de aplicaciones.

Sin embargo, el concepto de “constitución” puede ser más metafórico que literal. Jared Kaplan, exconsultor de OpenAI y uno de los fundadores de Anthropic, dijo a Wired que la constitución de Claude “podría interpretarse como un conjunto específico de parámetros de entrenamiento, que cualquier entrenador usa para modelar su IA”.

Lo anterior implica un conjunto diferente de consideraciones para el modelo, que alinea más su comportamiento con su constitución y desalienta acciones consideradas problemáticas.

Superior a ChatGPT y Bard

El método de entrenamiento de Anthropic se describe en un artículo de investigación titulado “IA constitucional: inofensividad de la retroalimentación de la IA”, que explica una forma de crear una IA “inofensiva” pero útil que, una vez entrenada, puede mejorar por sí misma sin la retroalimentación humana, identificando comportamientos inadecuados y adaptando su propia conducta.

Anthropic detalla: “Gracias a la IA constitucional y la capacitación en inocuidad, puede confiar en Claude para representar a su empresa y sus necesidades. Claude ha sido entrenada para manejar con gracia incluso a compañeros de conversación desagradables o maliciosos”.

In this post, we explain what Constitutional AI is, what the values in Claude’s constitution are, and how we chose them: https://t.co/eLtcqG7MuQ

— Anthropic (@AnthropicAI) May 9, 2023

Introducing 100K Context Windows! We’ve expanded Claude’s context window to 100,000 tokens of text, corresponding to around 75K words. Submit hundreds of pages of materials for Claude to digest and analyze. Conversations with Claude can go on for hours or days. pic.twitter.com/4WLEp7ou7U

— Anthropic (@AnthropicAI) May 11, 2023

En particular, Claude puede manejar más de 100 mil tokens de información, mucho más que ChatGPT, Bard o cualquier otro modelo de lenguaje grande competente o chatbot de IA actualmente disponible.

En el ámbito de la IA, un token generalmente se refiere a una porción de datos, como una palabra o un carácter, que el modelo procesa como una unidad discreta. La capacidad del token de Claude le permite administrar conversaciones extensas y tareas complejas, lo que lo convierte en una presencia formidable en el panorama de la IA. Para el contexto, podría proporcionar fácilmente un libro completo como mensaje, y sabría qué hacer.