Tanius Karam*
Las noticias de agosto y de los primeros días de septiembre de 2026 muestran un cambio perceptible en la conversación pública sobre IA. El debate ya no gira únicamente alrededor de qué tan rápido mejoran los modelos, qué empresas dominan el mercado o qué nuevas aplicaciones llegarán al consumidor. Y durante varios días la conversación ha girado en torno a discursos sobre autonomía de los agentes de IA y su impacto en la seguridad de la sociedad, lo que algunos llevan a niveles apocalípticos.
Todo aumentó de tono cuando el 12 de septiembre, Dario Amodei, CEO de Anthropic, pidió públicamente reducir el ritmo con el que aumentan las capacidades de los modelos más avanzados para permitir que los mecanismos de seguridad puedan alcanzarlos. Su propuesta incluye evaluadores independientes con acceso a los laboratorios, coordinación entre las principales empresas y acuerdos internacionales. Sam Altman, de OpenAI, y Elon Musk de xAI expresaron apoyo a la idea general; lo que no ha dejado de llamar la atención tratándose de personas muy opuestas entre sí y que han chocado en varias ocasiones.
De manera adicional, el presidente Donald Trump rechazó aquel acuerdo de frenar el desarrollo de la IA, que acompañó incluido un mensaje del 14 de septiembre a través de su red social Social Truth, donde dentro de su particular estilo dijo: “El único control o mecanismo de seguridad que necesita la IA es un presidente fuerte e inteligente (¡con un alto coeficiente intelectual!), ¡y Estados Unidos lo tiene de sobra!”.
El acontecimiento inmediato que explican estas advertencias, declaraciones donde salvo Trump, todo mundo parece muy preocupado por la seguridad de la IA, ha sido el incidente entre OpenAI y Hugging Face —plataforma de código abierto y empresa tecnológica que centraliza herramientas y conjuntos de datos para el desarrollo de IA—, que aunque ocurrió originalmente en julio, el informe técnico completo de OpenAI se publicó el pasado 26 de agosto.
Durante evaluaciones internas de ciberseguridad, modelos que trabajaban con salvaguardas reducidas encontraron maneras de eludir los controles destinados a mantenerlos aislados de internet, explotaron vulnerabilidades, obtuvieron acceso externo y comprometieron partes de los sistemas de Hugging Face y de la propia infraestructura de investigación de OpenAI.
Posteriores investigaciones describieron comportamientos como comunicación no autorizada entre agentes y manipulación de elementos de los entornos de evaluación. El episodio no demuestra que una IA haya adquirido voluntad propia en sentido humano, pero sí ilustra un problema central del llamado “alineamiento de agentes”: un sistema suficientemente capaz puede encontrar procedimientos no anticipados –incluso contrarios a la intención de sus diseñadores– para conseguir el objetivo que se le asignó, y sobre lo que la propia empresa OpenAI, ha publicado en un texto institucional (“El incidente de Hugging Face y el camino a seguir” 26/08).
¿El monstruo en su laberinto?
Para tener una perspectiva más amplia hay que conocer un poco a la poderosa OpenAI, empresa que con más claridad condensa las contradicciones de la industria. Esta organización inicio con una actitud abierta, pero tras las necesidades de capital, capacidad computacional y centros de datos se fue integrando al sistema financiero y a las mayores empresas tecnológicas.
En agosto la rivalidad con Elon Musk volvió a hacerse visible cuando la empresa anunció que dejaría de suministrar sus modelos a CURSOR, adquirida por SPACE-X. (OpenAI “La siguiente fase de la alianza entre Microsoft y OpenAI”, nota de empresa, 26/04/2026).
OpenAI parece estar atravesando desde hace tiempo una transformación interna muy profunda, marcada por salidas de ejecutivos, conflictos de gobernanza y una tensión creciente entre seguridad, crecimiento y competencia. En primer lugar, la empresa ha visto irse figuras claves como Brad Lightcap, Kevin Weil, Joshua Achiam, entre varias más. No todas estas salidas han sido por la misma razón, pero la suma de ellas sugiere una pérdida progresiva de voces internas que podían contrapesar la dirección del CEO, Sam Altman.
Un segundo tema tiene que ver con la gobernanza. En noviembre de 2023, el consejo de administración destituyó temporalmente a su presidente Sam Altman argumentando que no había sido suficientemente transparente con el órgano encargado de supervisarlo. Cinco días después, Altman regresó debido a la presión combinada de empleados, inversores y Microsoft, y el Consejo quedó prácticamente reemplazado.
Las interpretaciones pueden variar, pero una de ellas apunta a que el Consejo debía tener capacidad para frenar al CEO; en la práctica, Altman acumuló suficiente apoyo interno y externo como para revertir la decisión. Desde entonces, OpenAI habría evolucionado hacia una estructura mucho más concentrada alrededor de Altman.
La competencia en IA ya no es una carrera científica por desarrollar mejores modelos de lenguaje, sino una fuerte disputa por quién puede financiar durante más tiempo el enorme gasto de infraestructura que demanda esta tecnología. OpenAI necesita crecer en clientes, ingresos, centros de datos y capital para justificar ese gasto y mantener su posición frente a rivales como Anthropic, de aquí esa especie de precipitación.
OpenAI no está desapareciendo, sino la empresa original que fue lo que lleva la crisis a un tema de identidad institucional; es decir la que fuera una organización concebida como un laboratorio con mecanismos especiales de control, fundadores vigilándose mutuamente y una estructura en la que la seguridad podía teóricamente frenar el crecimiento. En su lugar estaría emergiendo una gran empresa tecnológica, con enormes necesidades de capital, presión comercial, competencia feroz y una estructura más convencional de poder corporativo.
En este contexto no debe llama la atención que recientemente el propio Sam Altman declaró que su empresa no saldrá a bolsa en 2026 –lo que en el lenguaje bursátil significa “hacerse empresa pública”–, contra lo que se esperaba sucedería, y relacionó la decisión con la necesidad de atender primero los problemas de seguridad y alineamiento.
¿Todos a una, Fuente ovejuna?
En las últimas semanas ha llamado la atención que tres figuras centrales de la industria de IA –Dario Amodei, Sam Altman y Elon Musk– hayan coincidido en la conveniencia de desacelerar, limitar o regular con mayor rigor el desarrollo de los sistemas de IA más avanzados. Influencers especializados en macro-economía y finanzas como Marc Vidal o José Luis Cava parten de esta coincidencia para formular una pregunta semejante: ¿por qué dirigentes que compiten entre sí y mantienen fuertes rivalidades empresariales parecen converger ahora en un mismo discurso de cautela? Parece más bien que tras el argumento público de la seguridad existen importantes incentivos económicos, empresariales y financieros.
Para Marc Vidal la carrera por permanecer en la frontera de la IA se ha vuelto extraordinariamente costosa: requiere inversiones crecientes en chips, centros de datos, electricidad, redes y entrenamiento de modelos. Aunque las empresas registran una fuerte demanda y un rápido aumento de ingresos, todavía no está claro cuánto capital necesitan reinvertir para sostener ese crecimiento ni qué retorno económico produce cada dólar adicional destinado a cómputo. En ese contexto, todos los grandes laboratorios podrían preferir una competencia menos acelerada, pero ninguno puede permitirse reducir unilateralmente la velocidad porque el rival podría aprovechar esa pausa para adelantarlo.
Una regulación común resolvería parcialmente ese dilema. Si todos desaceleran al mismo tiempo, disminuiría el burn rate, se reduciría la presión sobre el gasto de capital y las empresas podrían amortizar durante más tiempo cada generación de modelos e infraestructura.
La idea de “frenar la IA” porque las cuentas no resultan sostenibles, sería interpretada como una señal de debilidad, mientras que hacerlo en nombre de la seguridad como se ha presentado, suena a una decisión “más responsable”. La misma desaceleración tendría, por tanto, consecuencias financieras favorables y una justificación pública mucho más aceptable.
Por su parte José Luis Cava considera muy extraño que dirigentes en fuerte competencia por acelerar el desarrollo de la IA adopten simultáneamente un aparente “discurso de freno”. Este cambio pudiera ser una señal de que las compañías anticipan un deterioro en las condiciones de mercado y, en particular, dificultades para realizar futuras salidas a bolsa en un entorno menos favorable.
Según este razonamiento, si OpenAI o Anthropic quisieran colocar acciones de inmediato y abrirse a bolsa (o hacer empresas públicas como se dice), lo lógico sería transmitir optimismo, crecimiento y expectativas de beneficios, no generar temor entre los inversionistas acerca del futuro de la propia tecnología.
Desde esta perspectiva, la narrativa de la seguridad podría servir para justificar anticipadamente una desaceleración de las empresas, una postergación de sus planes bursátiles o un menor ritmo de crecimiento. Cava interpreta ese discurso como una forma de “ponerse la venda antes de la herida”: si se produjera una corrección de los mercados, especialmente del sector tecnológico, las compañías podrían presentar el freno como resultado de una decisión prudente frente a los riesgos de la IA y no simplemente como consecuencia de una menor disposición de los inversionistas a aceptar valoraciones extraordinariamente elevadas.
¿Y China?
No se puede hablar de IA sin mencionar a China. Al respecto el gigante reaccionó a este debate rechazando que la respuesta a los supuestos problemas de seguridad sea una desaceleración unilateral que pueda convertirse en una herramienta de ventaja geopolítica.
El 15 de septiembre, el portavoz del Ministerio de Relaciones Exteriores chino, Guo Jiakun, respondió a las recientes propuestas de líderes tecnológicos estadounidenses para ralentizar el desarrollo de la IA. Señaló, ya que la IA avanza “a una velocidad increíble”, es necesario reforzar las salvaguardas para evitar que quede fuera de control, pero insistió en que el desarrollo y la gobernanza deben abordarse mediante “verdadero multilateralismo” y que ningún país o empresa puede resolver por sí solo estos desafíos. Añadió que China busca equilibrar desarrollo y seguridad, mejorando leyes, normas éticas, mecanismos de supervisión y medidas contra el abuso de la IA (Cf. Embassy of the China in the Lao People’s Democratic Republic. 16.09, AI development, governance require practice of true multilateralism: Chinese spokesperson).
China entonces no parece haber respaldado la idea de una pausa general del desarrollo. Funcionarios chinos han cuestionado los llamados occidentales a desacelerar cuando esos llamados pueden terminar preservando la ventaja tecnológica estadounidense. Al mismo tiempo, Beijing sí ha aceptado discutir riesgos compartidos con Washington.
China parece decir sí a la seguridad, pero no a una desaceleración unilateral que congele la jerarquía tecnológica actual. Ese matiz conecta con las interpretaciones de Vidal y Cava que hemos citado. Desde Pekín, una regla internacional que obligara a todos a frenar podría ser aceptable sólo si fuera realmente multilateral y no sirviera para limitar el avance chino mientras Estados Unidos conserva el liderazgo.
Además cabe señalar que China continúa acelerando su propia infraestructura de IA: empresas como Alibaba están ampliando modelos, chips y capacidad de centros de datos, precisamente mientras se desarrolla esta discusión internacional sobre seguridad.
El debate sigue abierto respecto a quién corresponde definir las reglas y bajo qué condiciones respecto a seguridad, regulación. La preocupación no solo de China, es evitar una IA fuera de control, pero evitar también una gobernanza global que consolide el liderazgo tecnológico estadounidense bajo el argumento de la seguridad.
*Catedrático e investigador de la Universidad Autónoma de la Ciudad de México.
