El “padrino de la IA”, Geoffrey Hinton, ha elevado la alarma: estima entre un 10 % y 20 % la probabilidad de que la inteligencia artificial nos conduzca a la extinción en las próximas décadas, si no se aplican regulaciones estrictas.
1. Superinteligencia autónoma
Hinton compara la posible IA futura con algo más inteligente que cualquier humano. “Nunca antes hemos enfrentado algo así”, advirtió; y subraya el problema de alineamiento: sin metas alineadas con el bienestar humano, podrían surgir decisiones contra nuestros intereses.
2. Ciberataques a escala
La IA puede ejecutar intrusiones masivas en segundos. Hinton explica que sistemas avanzados podrían explotar vulnerabilidades críticas en infraestructura, bancos o redes sociales, generando caos mundial.
3. Armas autónomas
Desde drones letales hasta robots asesinos, Hinton advierte que estas plataformas pueden actuar sin supervisión humana, generando conflictos escalables y derramamiento de sangre sin control directo.
4. Biotecnología con IA
El diseño asistido por IA de patógenos letales abre la puerta a pandemias sintéticas intencionales o accidentales. Un riesgo comparable al de armas nucleares si no se regula con severidad .
5. Desinformación global
La diseminación masiva de contenidos falsos podría erosionar democracias e instituciones. Hinton advierte que la manipulación digital ya es una amenaza real para la cohesión social.
6. Evolución sin control
La capacidad de la IA para autocorregirse y mejorarse presenta un grave riesgo de que persiga objetivos no alineados con la ética humana, provocando resultados impredecibles y peligrosos.
Urgencia regulatoria y ética
La probabilidad del 20 % no es alarmismo, es una evaluación respaldada por figuras como Hinton, miembro del Centro para la Seguridad de la IA. Su llamada a destinar recursos y cómputo para estudiar fallos, junto a regulación legislativa, no puede ignorarse.
La historia demuestra que tecnologías potentes sin control pasan de ser herramientas a amenazas —y la IA es potencialmente la más poderosa—. Ante esto, MetroCM insta a gobiernos y sector privado a actuar con la misma urgencia con que se enfrenta al cambio climático o armas nucleares.
