Alex Turner aseguró que existe una probabilidad de una entre tres de que la inteligencia artificial provoque el fin de la humanidad durante la próxima década. El científico advierte sobre los riesgos de desarrollar sistemas cada vez más potentes sin suficientes controles de seguridad.

Una advertencia sobre el futuro de la humanidad encendió el debate en la industria tecnológica. Alex Turner, exinvestigador científico de Google DeepMind, afirmó que existe una probabilidad del 33 % de que la inteligencia artificial (IA) acabe con la humanidad en los próximos diez años.

El pronunciamiento se produjo durante la Cumbre Mundial de NDTV, donde Turner expuso sus preocupaciones sobre el ritmo acelerado con el que las empresas desarrollan sistemas de inteligencia artificial y los posibles riesgos de perder el control sobre tecnologías cada vez más avanzadas.

Su declaración se suma a las advertencias de otros especialistas y antiguos integrantes de la industria tecnológica que han pedido mayor precaución frente al avance de esta tecnología.

La competencia entre empresas podría aumentar los riesgos

Uno de los principales argumentos de Turner apunta a la intensa competencia entre las compañías tecnológicas por desarrollar modelos de inteligencia artificial cada vez más potentes.

Según esta preocupación, la presión por liderar el mercado podría llevar a algunas empresas a priorizar la velocidad y las capacidades de sus sistemas por encima de las medidas necesarias para garantizar su seguridad.

El temor es que, en medio de esta carrera, los controles éticos y técnicos no avancen al mismo ritmo que la tecnología, dejando abierta la posibilidad de consecuencias difíciles de prevenir.

Sistemas cada vez más complejos y difíciles de comprender

Otro de los riesgos señalados tiene que ver con la dificultad para entender completamente cómo funcionan internamente los modelos más avanzados de inteligencia artificial.

Aunque los investigadores diseñan y entrenan estos sistemas, no siempre pueden explicar con precisión por qué producen determinadas respuestas o cómo llegan a ciertas conclusiones.

A esta dificultad se suma el crecimiento de los agentes de IA capaces de ejecutar tareas complejas con un mayor grado de autonomía. La preocupación es que, a medida que estas herramientas reciban más responsabilidades, también aumente el desafío de supervisar sus decisiones y anticipar sus comportamientos.

Lea aquí: Elon Musk estremeció con su predicción sobre el futuro: “la inteligencia digital superará la suma de toda la inteligencia humana”

Turner también advirtió sobre la posibilidad de que algunos sistemas se comporten de manera diferente durante las evaluaciones, lo que dificultaría detectar oportunamente sus limitaciones o riesgos.

¿Realmente hay un 33 % de posibilidades de que ocurra?

Aunque la cifra resulta alarmante, es importante aclarar que el 33 % mencionado por Turner corresponde a su estimación personal del riesgo y no a una probabilidad científicamente demostrada o a una predicción confirmada.

No existe un modelo predictivo que permita establecer con certeza matemática que la inteligencia artificial acabará con la humanidad en ese plazo. Se trata de una valoración sobre un escenario extremo que, según el investigador, merece atención ante la incertidumbre sobre el desarrollo de sistemas cada vez más avanzados.

Por tanto, su advertencia no significa que una catástrofe sea inevitable, sino que considera suficientemente importante el riesgo como para tomar medidas preventivas desde ahora.

La propuesta: frenar el ritmo de los modelos más avanzados

Turner sostiene que todavía es posible reducir los riesgos si la sociedad actúa antes de que las capacidades de la inteligencia artificial superen la capacidad humana para controlarlas.

Entre las medidas planteadas está desacelerar el entrenamiento de los modelos más grandes y avanzados, con el propósito de darles más tiempo a los investigadores y autoridades para evaluar sus capacidades y establecer mecanismos de seguridad.

La propuesta también contempla auditorías rigurosas, licencias obligatorias y una mayor supervisión del uso de la capacidad de cómputo a gran escala, recursos que permitirían vigilar de manera más estricta el desarrollo de estas tecnologías.

El objetivo, según este planteamiento, no sería detener por completo el progreso tecnológico, sino evitar que la competencia por crear sistemas más inteligentes avance sin suficientes garantías.

La advertencia de Turner vuelve a poner sobre la mesa una pregunta que inquieta a investigadores, gobiernos y empresas: ¿podrá la humanidad mantener el control de una inteligencia artificial cada vez más poderosa? Por ahora, el futuro sigue siendo incierto, pero el debate sobre sus límites y mecanismos de seguridad continúa creciendo.