El CEO de Anthropic, Dario Amodei, publicó un ensayo titulado “We Must Pace the Frontier”, pidiendo a toda la industria frenar deliberadamente el ritmo en que se mejoran las capacidades de los modelos de inteligencia artificial.
“Es una señal de advertencia de que necesitamos frenar”
“Debemos frenar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso sabio del tiempo que ganemos”, escribió Amodei en su ensayo de casi 4,000 palabras. En una entrevista posterior con CBS News, describió el avance de la IA como una curva exponencial que está “empezando a ponerse pronunciada”, señalando: “No significa que necesitemos entrar en pánico hoy. No significa que tengamos que apagarlo todo. Pero diría que es una señal de advertencia. Una señal de advertencia de que necesitamos frenar”.
Sam Altman y Elon Musk respaldan el llamado
El CEO de OpenAI, Sam Altman, respondió en X: “Estoy de acuerdo con Dario en que necesitamos pausar la frontera. Este ha sido un tema principal de las discusiones que hemos tenido en OpenAI en las últimas semanas. Comprometernos a tener evaluadores independientes con acceso similar al de un empleado es una gran idea, y haremos lo mismo”. Elon Musk, dueño de SpaceXAI, también compartió su respaldo con un simple “Dario tiene razón” en la misma red social.
Un plan de tres partes, con acceso permanente para evaluadores externos
Amodei detalló un plan de tres partes para lograr este freno colectivo, y confirmó que Anthropic se comprometió unilateralmente con el primer paso: otorgar a evaluadores externos acceso permanente y a nivel de empleado a sus sistemas. La jefa de política pública de Anthropic, Sarah Heck, añadió en X que “el gobierno tiene un papel crítico que desempeñar aquí, incluyendo bloquear la venta de los chips más avanzados a naciones adversarias como China, y promulgar una ley federal que exija pruebas de los modelos de frontera, con la capacidad de bloquear aquellos que resulten inseguros”. Amodei señaló que dos desarrollos recientes cambiaron su forma de pensar: la creciente capacidad de los sistemas de IA para construir IA todavía más avanzada, y un incidente de julio en el que agentes autónomos de IA impulsados por un modelo de OpenAI vulneraron sistemas pertenecientes a la compañía Hugging Face.