Hinton, el padre del aprendizaje profundo, le pone número al peor escenario: hasta dos de cada diez chances de que la IA nos extinga

¿Puede una máquina inventar algo que el inventor ya no entiende? Geoffrey Hinton, el tipo que en los años ochenta le enseñó a las computadoras a aprender solitas, dice que sí, y que eso debería preocuparnos mucho. El investigador británico canadiense, premio Turing 2018 y durante una década figura central del equipo de inteligencia artificial de Google, viene repitiendo una cifra inquietante: entre el 10 % y el 20 % de probabilidades de que una IA superinteligente provoque la extinción de la humanidad en los próximos treinta años.

Lo llamativo es de dónde sale ese número. No de un gurú de la ciencia ficción, sino de uno de los científicos que más hizo para que hoy le preguntemos cosas a ChatGPT o al Asistente de Google. Hinton dejó la compañía en 2023 expresamente para poder hablar sin que el departamento de prensa corporativo le pusiera candado. Desde entonces no calla: advierte que la velocidad del cambio superó con creces sus propias proyecciones de hace una década, y que los marcos regulatorios actuales no llegan ni por casualidad a seguirle el ritmo.

El acelerador sin volante

La imagen que usa el propio Hinton para explicar el problema es bien terrenal: pensá la innovación tecnológica como el acelerador de un auto. Cada año lo pisamos más fuerte, pero no tenemos volante. La regulación estatal, en su planteo, es ese volante. Sin él, más velocidad equivale de manera directa a más peligro. El riesgo no es que la tecnología sea intrínsecamente mala, aclara: es que el piso del taller donde armamos las reglas va varios cambios atrás del motor que estamos fabricando.

“La competencia geopolítica no puede ser razón suficiente para postergar marcos legales globales.”Geoffrey Hinton, investigador y premio Turing

Esa idea, la de la coordinación internacional, choca con un argumento bien concreto que se escucha en Silicon Valley y en los gobiernos: si regulamos muy fuerte, nos comemos los competidores. Hinton lo rebate de frente. Dice que confiar en que la mano invisible del mercado contenga una amenaza de esta escala es un error estratégico de manual. La apuesta es que legislar sea una ventaja competitiva, no un freno: los países que primero escriban las reglas claras van a terminar exportando tecnología confiable, igual que pasó con la industria automotriz europea cuando instaló el cinturón de seguridad como estándar.

Los modelos ya no adivinan, entienden

El punto donde Hinton pone más énfasis hoy es uno que suena técnico pero tiene consecuencias enormes. Según su lectura, los modelos de lenguaje más avanzados ya no se limitan a detectar patrones estadísticos en enormes volúmenes de texto, como quien encuentra en una mesa de Excel. Lo que hacen, asegura, es comprender los conceptos semánticos y abstractos que procesan. La diferencia parece sutil y no lo es en absoluto: un sistema que solo corre correlaciones es una calculadora enorme, mientras que uno que entiende lo que dice empieza a parecerse a un interlocutor que puede tomar iniciativas. Para el científico, ese salto cualitativo cambia la categoría entera del riesgo, porque pasamos de herramientas a entidades con capacidad de planificación propia.

¿Y entonces qué cambia para vos, que usás el celular todos los días? Por ahora, casi nada en lo inmediato. Los chatbots actuales son útiles para redactar un mail, resumir un PDF o sacarte una duda de cocina. Lo que dice Hinton es que esa misma tecnología, en pocas iteraciones más, puede dar lugar a sistemas con objetivos propios que resulten incontrolables. La ventana para definir la orientación ética de esos sistemas, remarca, se sigue cerrando. Y por eso insiste con la frase que más repite en sus últimas entrevistas: todavía estamos a tiempo, pero la paciencia del reloj se está acabando.

• Hinton estima entre 10 % y 20 % las probabilidades de que una IA superinteligente extinga a la humanidad antes de 2055.
• Dejó Google en 2023 para poder alertar sobre los riesgos sin restricciones corporativas.
• Sostiene que los modelos actuales comprenden conceptos abstractos, no solo patrones estadísticos.
• Compara la innovación tecnológica con un acelerador sin volante, donde la regulación estatal cumple esa función.
• Pide regulación estatal urgente y leyes globales, y rechaza la autorregulación del mercado.
• La ventana para definir la ética de estos sistemas se cierra a medida que los modelos ganan autonomía.