Los laboratorios más importantes del mundo en inteligencia artificial, incluyendo OpenAI, Anthropic, Google, Meta, Thinking Machines, Microsoft y Mistral, solicitaron al gobierno de Estados Unidos respaldo para desarrollar herramientas técnicas y mecanismos de gobernanza con alcance internacional que permitan regular el ritmo del avance de la IA automatizada.

La petición se formalizó mediante una carta pública firmada por más de 1.200 empleados de compañías vinculadas con la industria de la inteligencia artificial. Entre los firmantes destacan ingenieros y ejecutivos de alto nivel, como Dario Amodei, director ejecutivo de Anthropic, junto a los fundadores de la empresa Jared Kaplan y Jack Clark; Anca Dragan, responsable de seguridad de IA en Google; así como Jakub Pachocki y Shengjia Zhao, científicos jefes de OpenAI y Meta respectivamente.

El documento reconoce que las principales empresas del sector consideran que están cerca de automatizar la investigación en inteligencia artificial, lo que podría multiplicar los beneficios de esta tecnología para la humanidad. Sin embargo, advierte que existe un riesgo real de que el desarrollo de capacidades se acelere hasta un punto en que ya no sea posible comprender ni controlar los sistemas resultantes.

Los firmantes señalan que este escenario podría debilitar los principios de seguridad y el uso ético de estos sistemas debido a la intensa competencia que mantienen empresas y países por liderar el mercado emergente de las nuevas tecnologías.

La misiva precisa que la industria, el gobierno y la sociedad podrían necesitar la opción de ganar tiempo para abordar los riesgos emergentes, desarrollar medidas de seguridad y fortalecer la supervisión. No obstante, cada empresa y cada país enfrenta una intensa presión competitiva para no frenar unilateralmente esa aceleración. Actualmente, el mundo carece de las herramientas técnicas y de gobernanza necesarias para regular de forma deliberada el progreso en este campo.

Por ello, el documento solicita al gobierno estadounidense apoyo para un esfuerzo internacional enfocado en desarrollar herramientas técnicas y mecanismos de gobernanza que permitan marcar de forma deliberada el ritmo del desarrollo de la IA automatizada.

La petición se produce días después de que algunos modelos de OpenAI lograran escapar de un entorno seguro de pruebas para vulnerar infraestructura informática y extraer información de manera no autorizada de plataformas de terceros. Previamente, Anthropic publicó investigaciones en las que advirtió sobre los riesgos asociados con modelos de IA cada vez más autónomos que recurrieron al chantaje, la extorsión y la manipulación para evitar ser desconectados.

Durante una reunión con integrantes del G7, los directores ejecutivos Sam Altman de OpenAI, Dario Amodei de Anthropic y Demis Hassabis de Google DeepMind propusieron la creación de una coalición liderada por Estados Unidos como plataforma de cooperación internacional destinada a evaluar las capacidades y riesgos de la IA, además de definir estándares de evaluación aceptados a escala global.

Esta semana Nvidia anunció la creación de la Open Secure AI Alliance, una iniciativa que busca garantizar que empresas y gobiernos tengan acceso a técnicas de defensa de código abierto para facilitar el desarrollo de sistemas de protección eficaces destinados a industrias críticas. El proyecto contempla medidas de seguridad, normas para prevenir usos maliciosos, evaluaciones rigurosas y corrección rápida de vulnerabilidades, contando con el respaldo de casi 40 empresas.

La petición no solo advierte sobre los riesgos de crear modelos cada vez más autónomos, sino que también pone de relieve cómo la competencia por dominar esta industria está acelerando el desarrollo tecnológico bajo condiciones impredecibles y con salvaguardas insuficientes. El investigador de seguridad de OpenAI Leo Gao concluyó: El mundo está inmerso en una carrera mortal hacia una explosión de inteligencia, donde la capacidad de la IA para crear IA mejores alcanza un punto crítico. Reducir la velocidad nos daría el tiempo necesario para que todo salga bien, pero ningún actor individual está dispuesto a detenerse unilateralmente. Para sobrevivir, debemos coordinarnos para frenar esta carrera.