El aumento de las tensiones entre Estados Unidos y China en materia de inteligencia artificial amenaza los esfuerzos para establecer estándares conjuntos de seguridad, advirtieron analistas, en un momento en que los modelos de IA son cada vez más potentes y aumentan las preocupaciones por riesgos cibernéticos y otros posibles usos indebidos.
La disputa más reciente surge tras las acusaciones de Estados Unidos contra la empresa china Moonshot, a la que señala de haber utilizado tecnología derivada de un modelo estadounidense avanzado, lo que añade un nuevo punto de fricción a una relación ya marcada por controles de exportación y rivalidad geopolítica.
Estados Unidos investiga a desarrolladores chinos de IA
Funcionarios estadounidenses acusaron esta semana a Moonshot de haber destilado su modelo Kimi K3 a partir del avanzado modelo Fable 5 de Anthropic, lo que llevó al secretario del Tesoro, Scott Bessent, a advertir que podrían imponerse sanciones.
La destilación es el proceso mediante el cual un modelo de inteligencia artificial se entrena utilizando los resultados generados por otro modelo más avanzado para reducir los costos de desarrollo y mejorar su rendimiento.
Al mismo tiempo, el Departamento de Comercio de Estados Unidos investiga si empresas chinas, entre ellas Moonshot, obtuvieron semiconductores estadounidenses avanzados en violación de las restricciones de exportación.
La cooperación en seguridad enfrenta nuevos obstáculos
Los analistas consideran que esta disputa podría poner en peligro las conversaciones previstas entre Washington y Pekín sobre seguridad en inteligencia artificial.
Aunque ambos países consideran que la IA de frontera representa un activo estratégico, los expertos sostienen que también comparten el interés de desarrollar normas comunes de seguridad conforme estos modelos adquieren capacidades cada vez más avanzadas.
Las acusaciones más recientes, junto con los reportes de que Washington evalúa imponer nuevas restricciones a los modelos chinos de código abierto con pesos abiertos, podrían provocar represalias y complicar el diálogo bilateral sobre IA previsto para septiembre.
Paul Triolo, socio de DGA-Albright Stonebridge Group, advirtió que “Dependiendo del número de empresas chinas afectadas y de la naturaleza de las medidas punitivas adoptadas… las represalias tienen el potencial de hacer fracasar tanto el diálogo sobre IA como la reunión del 24 de septiembre entre los presidentes Trump y Xi.”
Los modelos de pesos abiertos aumentan las preocupaciones de seguridad
El debate también se ha intensificado en torno a los modelos de pesos abiertos, que pueden descargarse, modificarse y redistribuirse con relativamente poca supervisión.
Los investigadores sostienen que, aunque estos modelos impulsan la innovación, también dificultan el control de capacidades potencialmente peligrosas mediante restricciones de software.
Las preocupaciones aumentaron después de que Hugging Face utilizara el modelo chino GLM-5.2 para contener un ciberataque protagonizado por un modelo descontrolado de OpenAI durante pruebas de seguridad.
Los expertos piden estándares más estrictos para la IA
A medida que los sistemas de inteligencia artificial se acercan al auto-mejoramiento recursivo, en el que los modelos pueden mejorar sus propias capacidades sin intervención humana, los especialistas consideran que la cooperación internacional será cada vez más importante.
El pionero de la inteligencia artificial Yoshua Bengio advirtió que las decisiones sobre los modelos de pesos abiertos tendrán consecuencias duraderas.
“Lo lógico es realizar una buena evaluación de estos modelos, compartir aquellos que no sean demasiado peligrosos y no compartir los que superen el umbral de riesgo”, afirmó.
Algunos investigadores proponen establecer pruebas obligatorias antes del lanzamiento y evaluaciones independientes para los modelos más avanzados tanto en Estados Unidos como en China.
Kristy Loke, investigadora especializada en la gobernanza de la inteligencia artificial en China, señaló: “En un mundo ideal, ambos países trabajarían juntos para desarrollar modelos más seguros… acordarían estándares comunes para las pruebas previas al lanzamiento y establecerían límites claros para los modelos abiertos más avanzados.”
Estados Unidos mantiene posturas divididas sobre la IA china
El debate sobre los modelos chinos también ha evidenciado diferencias dentro de Estados Unidos.
Mientras OpenAI y Anthropic han solicitado una postura más firme frente a los modelos chinos de menor costo, otros sostienen que un exceso de regulación podría perjudicar el liderazgo tecnológico estadounidense.
El asesor de inteligencia artificial de la Casa Blanca, David Sacks, rechazó endurecer las restricciones y afirmó que los principales laboratorios estadounidenses “quieren que el gobierno elimine a su competencia de código abierto.”
También sostuvo que “el pánico por Kimi tiene que terminar” y añadió: “Mientras no nos saboteemos con reglas innecesarias, Estados Unidos seguirá liderando.”
