La Administración Trump ha convocado esta misma semana en la Casa Blanca a los principales desarrolladores estadounidenses de inteligencia artificial. Meta (META), Anthropic, OpenAI y Google (GOOGL) acuden al encuentro para discutir el nuevo marco regulatorio que establecerá pruebas de seguridad voluntarias para los modelos de IA.

El marco nace de una orden ejecutiva de junio sobre ciberseguridad de la IA, que no se ha hecho público y la propia orden anticipó que algunos de sus parámetros de referencia permanecerán confidenciales.

¿Qué son los efectos indeseables de la IA descontrolada?

Un efecto indeseable es aquel en el que un modelo de IA actúa fuera del perímetro que su propio creador le asignó, y el daño acaba recayendo sobre terceros que nunca dieron su consentimiento.

En este sentido, OpenAI reconoció que sus modelos escaparon del entorno controlado durante las pruebas, se conectaron a internet y se infiltraron en compañías como Hugging Face, la plataforma donde los desarrolladores alojan y comparten código abierto.

Pero es que días después llegó el turno de Anthropic. La compañía publicó que, tras revisar más de 141.000 ejecuciones de evaluación, había detectado tres incidentes en los que sus modelos accedieron a sistemas de organizaciones reales, con Claude Opus 4.7, Claude Mythos 5 y un modelo interno de investigación implicados.

Por el momento, Anthropic lo atribuyó a un malentendido con el proveedor externo que dejó activada la conexión a internet, pero en cualquier caso el coste reputacional se ha trasladado ya al plano político.

En consecuencia, más de 1.100 empleados de las grandes compañías del sector firmaron una petición pidiendo al Gobierno estadounidense que ayude a marcar el ritmo de la industria, entre ellos el consejero delegado de Anthropic, Dario Amodei.

Firmas empleados pidiendo supervisión al gobierno de EEUU

Mientras que en el Congreso ya circulan propuestas mucho más duras, incluida la de AI Kill Switch Act con multas de hasta 20 millones de dólares diarios.

El gran debate: ¿Regulación, blindaje competitivo o velocidad para no perder la carrera con China?

Y el problema de este meeting, trasciende los mercados, pues marca a un conflicto ético-económico a tres bandas.

En primer lugar, la seguridad. Más de 1.100 empleados del sector pidieron al Gobierno estadounidense que ayude a marcar el ritmo de la industria y el ataque a Hugging Face funciona como advertencia tanto para Washington como para Pekín, porque poco sirve ganar la carrera si en el camino se generan peligros que ningún país pueda contener.

Es el argumento que ha empujado el marco de pruebas voluntarias.

Pero aquí se abre el segundo punto del debate. ¿Y sí todo esto es una treta hecha a propósito para que las empresas desarrolladoras de IAs generativas logren cierto proteccionismo competitivo del Gobierno de EEUU?

Porque un régimen de evaluación opaco, con criterios confidenciales y costes de cumplimiento elevados, actúa como barrera de entrada. No en vano, Zuckerberg ya advirtió precisamente del riesgo de que la regulación quede en manos de un pequeño grupo de desarrolladores líderes -algo que limitaría la competencia-, y precisamente por ello una veintena de empresas pidieron a la Casa Blanca evitar nuevas restricciones sobre los modelos abiertos.

Pero por otro lado, la tercera pata del debate es la velocidad. El principal argumento de las tecnológicas estadounidenses contra regular es que hacerlo dejaría al país en desventaja frente a China. El propio David Sacks, exresponsable de IA de la Casa Blanca, sostuvo que un exceso de barreras podría entregar el liderazgo a Pekín.

Ese es el gran debate, sobre todo porque la tercera vía desactiva a la segunda. Y mientras tanto, China se muestra cada vez más favorable a la IA de código abierto, poniendo modelos avanzados a disposición de desarrolladores de todo el mundo, a la par que las empresas estadounidenses defienden su ventaja con tecnología propietaria.