Trump y los gigantes tecnológicos acordaron nuevas reglas para controlar la superinteligencia

Donald Trump y los principales líderes de la industria tecnológica firmaron en la Casa Blanca un acuerdo para reforzar los controles sobre el desarrollo y despliegue de los sistemas de inteligencia artificial más avanzados, a los que la administración estadounidense comenzó a denominar “superinteligencia”.

El documento, denominado “Acuerdo de la Casa Blanca sobre la superinteligencia: compromiso conjunto sobre las responsabilidades de la IA de frontera”, establece una serie de compromisos voluntarios para que las empresas incorporen mecanismos destinados a detectar problemas, evaluar los riesgos y corregir eventuales fallas.

Entre los firmantes se encuentran Trump y ejecutivos de compañías como Google, OpenAI, Anthropic, Meta, Nvidia y X, entre otras grandes empresas vinculadas al desarrollo de tecnologías de inteligencia artificial.

Cuatro niveles de control

El acuerdo establece cuatro capas de supervisión que las compañías participantes deberán implementar sobre sus sistemas.

La primera contempla la creación de controles internos sólidos para monitorear el comportamiento y las capacidades de los modelos durante su desarrollo y utilización.

La segunda incorpora la participación de auditores o evaluadores externos independientes, que deberán analizar si esos mecanismos funcionan de acuerdo con lo previsto.

El tercer nivel establece que los directorios de las compañías deberán contar con una comisión independiente encargada de supervisar los informes elaborados por los equipos internos y los auditores externos.

Finalmente, cada empresa deberá contar con equipos internos responsables de verificar que los controles, la supervisión y los mecanismos de detección funcionen correctamente.

También buscan evitar accesos no previstos

El pacto contempla controles específicos sobre las capacidades que puedan desarrollar los modelos durante su entrenamiento y despliegue.

Entre los aspectos mencionados aparecen la ciberseguridad, la bioseguridad y las amenazas químicas, con el objetivo de evitar que los sistemas puedan vulnerar o acceder de manera no prevista a sistemas técnicos.

Las empresas también acordaron reunirse periódicamente para establecer estándares y buenas prácticas comunes destinadas a mejorar la seguridad de sus sistemas.

Un acuerdo voluntario que podría convertirse en regulación

El documento no establece una nueva ley federal ni un régimen de sanciones. Se trata de un compromiso voluntario de las compañías, aunque el propio texto deja abierta la posibilidad de que algunas de estas medidas sean incorporadas posteriormente a leyes o regulaciones.

Trump calificó el acuerdo como una suerte de marco de protección para el desarrollo de la tecnología y planteó la posibilidad de crear un comité de unas diez personas para supervisar el cumplimiento de los compromisos.

En paralelo, el presidente estadounidense firmó una orden ejecutiva que dispone que las agencias del Gobierno federal utilicen los términos “Super Intelligence” y “SI” en lugar de “Artificial Intelligence” y “AI” en sus comunicaciones oficiales, en la medida permitida por la ley.

El acuerdo marca así un nuevo capítulo en la discusión sobre cómo controlar los riesgos de los sistemas de IA más avanzados sin frenar su desarrollo tecnológico.