Los líderes de la inteligencia artificial piden frenar la carrera y advierten por sus riesgos

La carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados abrió una inesperada coincidencia entre algunos de sus principales protagonistas. Dario Amodei, CEO de Anthropic, pidió reducir el ritmo de avance de los modelos de frontera para que los mecanismos de seguridad puedan acompañar su creciente capacidad. Sam Altman, de OpenAI, y Elon Musk respaldaron públicamente la postura.

El debate tomó fuerza después de las advertencias de Jacob Coxon, un investigador que trabajó en OpenAI y Anthropic y que recientemente dejó esta última compañía. Coxon cuestionó la velocidad con la que las empresas compiten por desarrollar sistemas cada vez más capaces y alertó sobre los riesgos de avanzar sin mecanismos suficientes para supervisar y controlar sus capacidades.

La propuesta de Anthropic

Amodei publicó un ensayo titulado We Must Pace the Frontier, en el que planteó que la industria necesita desacelerar el desarrollo de los modelos más avanzados. Su preocupación está vinculada especialmente con sistemas capaces de actuar con mayor autonomía y con la posibilidad de que sus capacidades evolucionen más rápido que las herramientas diseñadas para controlarlos.

Como parte de su propuesta, Anthropic anunció que permitirá que evaluadores externos tengan acceso permanente a sus sistemas, con facultades similares a las de sus propios empleados para analizar medidas de seguridad, reportar incidentes y evaluar el comportamiento de los modelos durante su entrenamiento.

La compañía también publicó esta semana un informe sobre usos maliciosos de Claude. Allí documentó operaciones vinculadas con ciberataques, espionaje, fraude, vigilancia e incluso investigaciones con potencial uso biológico y militar. Anthropic sostuvo que, a medida que aumentan las capacidades de los modelos, también crecen los riesgos derivados de su utilización por actores malintencionados.

OpenAI y Musk se sumaron

La advertencia de Amodei encontró rápidamente respaldo en Sam Altman, CEO de OpenAI y uno de los principales competidores de Anthropic. Altman coincidió en que es necesario moderar el ritmo de desarrollo de los modelos de frontera y anunció que OpenAI también dará a evaluadores independientes un nivel de acceso similar al de sus empleados.

A esa posición se sumó Elon Musk, fundador de xAI, otra de las compañías que participa de la competencia por desarrollar sistemas de inteligencia artificial cada vez más potentes. El empresario respaldó públicamente a Amodei con un breve mensaje: “Dario tiene razón”.

La coincidencia resulta significativa porque las tres figuras están vinculadas directamente con la carrera tecnológica que ahora buscan moderar. Las empresas tienen fuertes incentivos comerciales para lanzar modelos más capaces antes que sus competidores, mientras que los sistemas de evaluación, regulación y seguridad requieren tiempo para detectar nuevos riesgos.

La discusión plantea así una de las grandes paradojas de la actual revolución tecnológica: quienes están al frente de la carrera por llevar la inteligencia artificial hasta sus límites también comienzan a advertir que la velocidad de ese avance puede convertirse en uno de sus principales peligros.