Los máximos responsables de Anthropic, OpenAI y xAI coincidieron públicamente en que la inteligencia artificial está avanzando demasiado rápido. Dario Amodei advirtió que sistemas mucho más poderosos podrían llegar a comprometer grandes partes de internet en apenas 6 a 12 meses.

Un hecho poco común sacudió a la industria tecnológica: tres de los hombres que están al frente de algunas de las compañías más poderosas de inteligencia artificial coincidieron en que es necesario desacelerar el desarrollo de los modelos más avanzados.

La alerta comenzó con Dario Amodei, CEO de Anthropic, quien publicó un extenso ensayo en el que pidió a las empresas de tecnología reducir el ritmo de desarrollo de las capacidades de la IA y poner la seguridad por encima de la velocidad.

Poco después, Sam Altman, CEO de OpenAI, respaldó públicamente la propuesta. Y Elon Musk, fundador de xAI, fue todavía más directo al responder a la advertencia de Amodei: “Dario tiene razón”.

La aterradora advertencia de Amodei

Amodei no se limitó a pedir precaución. En su ensayo explicó por qué considera urgente reducir la velocidad con la que se desarrollan los sistemas de IA.

El CEO de Anthropic advirtió que, debido al acelerado crecimiento de las capacidades de estos modelos, en un plazo de entre seis y 12 meses un enjambre de agentes de IA podría llegar a tomar el control de grandes partes de internet, mediante una red persistente de bots, con potenciales daños económicos de cientos de miles de millones de dólares.

“Me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente”.

Su preocupación está relacionada, entre otras cosas, con la capacidad de los sistemas para actuar de manera autónoma y con lo que Amodei denomina una “automejora recursiva”, en la que la propia IA podría contribuir cada vez más al desarrollo de nuevas generaciones de inteligencia artificial.

“Coincido con Dario”

La respuesta de Sam Altman llegó poco después y sorprendió por el respaldo directo a uno de sus principales competidores.

El CEO de OpenAI escribió en X:

“Coincido con Dario en que debemos marcar el ritmo de la frontera”.

Altman también respaldó una de las principales propuestas de Amodei: permitir que evaluadores independientes tengan acceso a los procesos de desarrollo de las compañías, con un nivel de acceso similar al de sus propios empleados.

Lea aquí: El iPhone 18 Pro Max llegará a Colombia en octubre y su precio superará los $8 millones de pesos

“Comprometerse a contar con evaluadores independientes que tengan un nivel de acceso similar al de los empleados es una excelente idea, y nosotros haremos lo mismo”.

Según Altman, este tema ha sido uno de los asuntos centrales de las conversaciones internas de OpenAI durante las últimas semanas.

Musk respondió con tres palabras

Si Altman sorprendió por respaldar a su rival, Elon Musk fue todavía más contundente.

El empresario y fundador de xAI respondió directamente a la publicación de Amodei en X con apenas tres palabras:

“Dario tiene razón”.

Musk lleva años advirtiendo sobre los posibles peligros de una inteligencia artificial demasiado poderosa. En esta ocasión, su mensaje significó un respaldo directo a la propuesta de desacelerar el desarrollo de los modelos de frontera.

También se sumó Google DeepMind

La coincidencia no terminó en estos tres empresarios.

Demis Hassabis, cofundador y responsable de Google DeepMind, también consideró acertada la dirección planteada por Amodei, aunque señaló que todavía hay detalles que deben definirse.

“Los detalles necesitan trabajarse, pero la dirección es correcta para afrontar este momento crítico”.

Con esto, el llamado dejó de ser una advertencia aislada de Anthropic y comenzó a convertirse en una conversación mucho más amplia dentro de las principales compañías que desarrollan IA.

Un exempleado también había lanzado una fuerte advertencia

La preocupación llega después de las declaraciones de Jacob Coxon, un investigador que trabajó tanto en OpenAI como en Anthropic y que recientemente renunció por sus inquietudes frente al rumbo que está tomando la industria.

Coxon afirmó que las empresas parecen estar demasiado concentradas en superarse unas a otras y cuestionó si la seguridad está avanzando al mismo ritmo que las capacidades de los modelos.

Su advertencia fue todavía más fuerte:

“Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década”.

El investigador sostuvo que había escuchado a ejecutivos e investigadores de alto nivel expresar temores sobre el futuro de esta tecnología.

¿Por qué quieren bajar la velocidad?

El temor no se limita a que la IA pueda cometer errores.

Los líderes de la industria están preocupados por ciberataques autónomos, bioterrorismo, comportamientos inesperados y la posibilidad de que los sistemas desarrollen capacidades que resulten cada vez más difíciles de supervisar.

Amodei incluso puso como ejemplo un incidente relacionado con agentes de OpenAI que, según su descripción, actuaron como un colectivo y realizaron ataques contra objetivos que no formaban parte de la tarea que tenían asignada.

La propuesta del CEO de Anthropic no consiste en detener para siempre el desarrollo de la IA, sino en ganar tiempo para construir mecanismos de seguridad capaces de seguirle el ritmo a la tecnología.

La carrera sigue, pero ahora hay una pregunta incómoda

Pese a las declaraciones, ninguna de estas compañías ha anunciado que vaya a detener sus investigaciones.

De hecho, la competencia continúa. Lo que cambió es que algunos de sus propios protagonistas están reconociendo públicamente que la carrera por construir una IA cada vez más poderosa podría estar avanzando más rápido de lo que la humanidad está preparada para controlar.

Y la pregunta que queda sobre la mesa es tan sencilla como inquietante: ¿qué pasa si la inteligencia artificial avanza más rápido que nuestra capacidad para ponerle límites?