El 12 de septiembre, Dario Amodei, CEO de Anthropic, publicó un ensayo de unas 3.800 palabras en el que pidió a la industria frenar el ritmo al que aumentan las capacidades de los modelos de inteligencia artificial. Aclaró que “frenar” no significa detener el entrenamiento ni el progreso técnico. Siete días después, Reuters informó, citando a tres fuentes, que la propia Anthropic considera lanzar un nuevo modelo para responder al avance de GPT-6 Astra, de OpenAI. No hay decisión final ni fecha, la compañía evalúa la seguridad del sistema y no hizo comentarios.
La contradicción es real, pero tiene una explicación que la economía conoce desde hace más de setenta años.
El juego original
En 1950, los matemáticos Merrill Flood y Melvin Dresher, de la RAND Corporation, formularon un problema de decisión que Albert Tucker popularizó con una historia policial. Dos sospechosos son interrogados por separado y cada uno puede callar o confesar. Si ambos callan, cumplen un año cada uno. Si uno confiesa y el otro calla, el que confiesa queda libre y el otro cumple tres años. Si ambos confiesan, cumplen dos cada uno. Las cifras cambian según la versión; la estructura, no.
Lo decisivo es el razonamiento de cada prisionero. Si el otro calla, confesar lo deja libre. Si el otro confiesa, confesar lo salva del peor castigo. Confesar es la mejor jugada haga lo que haga el otro. Los dos razonan igual, ambos confiesan y terminan con dos años cada uno, un resultado peor que el de haber callado los dos. Cada decisión es racional para quien la toma y el resultado conjunto es peor.
Cómo se juega hoy
Trasladado a la IA, “callar” es moderar el ritmo de mejora de los modelos y “confesar” es acelerar. Si todos los laboratorios moderan, ninguno pierde posición y el riesgo que preocupa a Amodei baja. Si uno modera y los demás aceleran, el prudente cede mercado. Como acelerar es lo mejor para cada uno con independencia de lo que haga el resto, el equilibrio termina siendo que todos aceleran.
Los primeros datos van en esa dirección. Según Ramp, plataforma de gestión de gastos corporativos, Astra representa cerca del 13% del gasto empresarial en IA que registra, frente a alrededor del 8% de Claude Fable, de Anthropic. En OpenRouter, servicio que enruta el tráfico de desarrolladores entre modelos, el gasto en modelos de OpenAI superó al de Anthropic la semana pasada, algo que no ocurría hacía más de dos años y medio. Algunos inversores dijeron a Reuters que están reevaluando el lugar de Anthropic como proveedor líder de IA para empresas.
Todo esto ocurrió pocos días después de que Amodei pidiera bajar el ritmo. Sin un acuerdo que obligue a los demás, la prudencia de un solo jugador sale cara.
Por qué la palabra no alcanza
En teoría de juegos, un anuncio que no modifica los incentivos de los otros jugadores no cambia el resultado. Que el CEO de un laboratorio pida frenar no altera lo que le conviene hacer a OpenAI, a Google o a un laboratorio chino. Tampoco altera lo que le conviene al propio Amodei cuando un cliente se pasa a la competencia.
El problema se agrava porque el juego tiene más de dos jugadores. Si las empresas estadounidenses frenan mientras China avanza, aparece de inmediato el argumento geopolítico, que funciona como un incentivo adicional para que nadie afloje. Los modelos abiertos y de pesos abiertos, que según inversores citados por Reuters permiten a las empresas reducir costos, suman jugadores a los que ningún acuerdo entre laboratorios alcanzaría.
Las salidas conocidas
La literatura sobre el dilema muestra que la cooperación aparece bajo condiciones precisas. Cuando el juego se repite y los jugadores pueden vigilarse y castigar la deserción, la estrategia de responder en espejo a la conducta del otro, que ganó los torneos del politólogo Robert Axelrod en los años ochenta, hace rentable cooperar. Esa es la lógica de los tratados de control de armas entre Estados Unidos y la Unión Soviética, con verificación mutua, y del Protocolo de Montreal sobre sustancias que dañan la capa de ozono, que combinó compromisos con sanciones comerciales.
Ahí está la razón por la que el debate sobre seguridad en IA termina siendo un debate sobre regulación y coordinación. No porque los gobiernos sepan desarrollar IA mejor que las empresas, sino porque solo un tercero con capacidad de verificar y sancionar puede cambiar los incentivos. Si el mercado por sí solo castiga a quien decide ser prudente, la prudencia individual deja de sostenerse.
Los límites de la analogía
El modelo simplifica. Acelerar y frenar no son opciones binarias, sino grados. Los laboratorios tampoco parten de la misma posición: Anthropic conserva una ventaja de ingresos, con un run rate anualizado superior a u$s 65.000 millones a fines de julio frente a más de u$s 40.000 millones de OpenAI, según Reuters, y esa holgura le permite tolerar más pérdidas de cuota que a un competidor con menos espalda. Además, los datos de Ramp y OpenRouter son semanales y miden fenómenos distintos, como gasto, adopción y volumen de tráfico. En julio, la propia Ramp mostraba a Anthropic con mayor adopción entre empresas que OpenAI, 42,4% contra 39,5%. Una semana de números no consolida un cambio de liderazgo.
Hay una condición más de fondo: el dilema solo existe si los jugadores creen que el riesgo es real. Si un laboratorio no lo cree, no hay dilema, hay una carrera.
Una segunda presión: la salida a bolsa
La eventual oferta pública inicial de Anthropic agrega otra capa. Hasta ahora el conflicto entre seguridad y participación de mercado era entre laboratorios. Con una salida a bolsa pasa a ocurrir dentro de una misma compañía, donde seguridad, crecimiento y rentabilidad compiten por prioridad y los accionistas miden el trimestre.
La prueba importante ya no será lo que digan los CEO sobre seguridad, sino lo que hagan cuando seguridad y cuota de mercado apunten en direcciones distintas. La decisión sobre el nuevo modelo de Anthropic, todavía sin fecha, será uno de los primeros casos concretos.
