Hinton eleva la apuesta: advierte que hay hasta dos chances en diez de que la inteligencia artificial supere a la humanidad

Geoffrey Hinton, el científico canadiense-británico considerado uno de los padres del aprendizaje profundo, afirmó que existe entre un 10 % y un 20 % de probabilidades de que el desarrollo de sistemas de inteligencia artificial superinteligente termine provocando la extinción de la especie humana en un horizonte de aproximadamente treinta años. El investigador, de 78 años, dejó su puesto en Google en 2023 con el argumento de que necesitaba poder manifestarse con libertad sobre los riesgos que ve en esta tecnología, y desde entonces multiplicó sus intervenciones públicas para reclamar marcos regulatorios sólidos y coordinados a nivel internacional.

Un salto cualitativo en los modelos de lenguaje

El planteo central de Hinton no apunta contra la inteligencia artificial como herramienta, sino contra la velocidad con la que avanza. Para graficar la situación, el científico suele comparar la innovación tecnológica con un automóvil: cuanto más rápido se circula, mayor es la urgencia de contar con un volante. En su esquema, ese volante es la regulación gubernamental, y advierte que sin ese componente, el aumento de capacidad de los sistemas equivale a un aumento directo del riesgo.

Hinton insistió en que los modelos de lenguaje más avanzados ya trascienden la mera detección de patrones estadísticos en grandes volúmenes de texto. Según su análisis, esos sistemas comprenden efectivamente los conceptos semánticos y abstractos que procesan, una distinción que, a su criterio, cambia la categoría del riesgo y obliga a repensar cualquier marco normativo previo.

Rechazo a la autorregulación del mercado

Ante el argumento de que imponer límites regulatorios puede dejar en desventaja competitiva a un país frente a sus rivales, el investigador respondió que confiar en la autorregulación del mercado frente a una amenaza de esa magnitud constituye un error estratégico. En su postura, la competencia geopolítica no puede funcionar como justificación válida para postergar la discusión de leyes globales que ordenen el desarrollo de la inteligencia artificial.

• Hinton estima entre 10 % y 20 % las chances de que la IA superinteligente provoque la extinción humana en los próximos treinta años.
• Señaló que los modelos actuales ya comprenden conceptos abstractos, no solo patrones estadísticos.
• Comparó la innovación tecnológica con un acelerador sin volante: más velocidad equivale, sin regulación, a más peligro.
• Afirmó que la humanidad nunca antes se enfrentó a entidades más inteligentes que ella misma, un punto ciego que definió como el mayor peligro del momento.
• Defendió la necesidad de regulación estatal con leyes de alcance global, y rechazó que el mercado pueda contener por sí solo los riesgos.

La advertencia se completa con un llamado a definir la orientación ética de los sistemas antes de que esa ventana se cierre. Hinton consideró que todavía es posible encauzar la tecnología por carriles compatibles con la supervivencia de la especie, pero alertó que ese margen se reduce a medida que los modelos ganan capacidad de forma autónoma.

“Sin regulación, más velocidad equivale a más peligro. La humanidad todavía puede definir la orientación ética de los sistemas que está construyendo, pero ese margen se achica.”Geoffrey Hinton