Un investigador de Anthropic puso números al peor escenario de la inteligencia artificial y la cifra preocupa

¿Puede una computadora llegar a ser más inteligente que nosotros y, en el camino, decidir que somos un problema? La pregunta suena a película de ciencia ficción, pero la acaba de poner sobre la mesa nada menos que el científico que lidera el área de seguridad en Anthropic, una de las compañías de inteligencia artificial más importantes del momento. Su nombre es Evan Hubinger y el número que soltó en redes sociales es de los que dejan a cualquiera pensando: más del 10% de probabilidades de que una IA futura elimine a la humanidad en los próximos diez años.

Antes de que el café se vuelque, vale una aclaración que el propio Hubinger se encargó de remarcar: cuando habla de riesgo existencial no se refiere al chatbot que uno usa para pedir una receta o redactar un mail. Habla de un escenario todavía hipotético en el que una inteligencia artificial sea capaz de diseñar versiones mejoradas de sí misma una y otra vez, cada vez más rápido, hasta superar al cerebro humano en prácticamente cualquier tarea. En la jerga del área lo llaman mejora recursiva, y es, según el investigador, el verdadero punto de inflexión que hay que mirar.

De qué se trata el alineamiento y por qué es la cocina del asunto

Para entender el trabajo de Hubinger sirve una comparación bien de cocina. Imaginate que estás entrenando a un ayudante para que cocine exactamente el plato que vos querés. Le das instrucciones, probás, corregís. Ahora imaginá que ese ayudante es tan brillante que empieza a diseñar sus propios ayudantes, cada uno un poco mejor que el anterior, hasta que tenés una legión de cocineros que saben más que cualquier chef del mundo. La pregunta es: ¿esos cocineros siguen cocinando lo que vos querés, o se les ocurre que su plato es mejor que el tuyo y te lo imponen? Eso, trasladado a la inteligencia artificial, es lo que los expertos llaman alineamiento: lograr que un sistema muy poderoso mantenga objetivos compatibles con los intereses humanos incluso cuando sus capacidades nos pasen por encima.

Hubinger ocupa el cargo de Alignment Science Lead en Anthropic, o sea, es el científico que encabeza la investigación sobre ese problema dentro de la empresa. Su publicación llegó como respuesta a otro investigador del sector que había denunciado que muchos científicos de las grandes compañías creen en privado que una superinteligencia es un riesgo real, pero casi no lo dicen en voz alta. Hubinger lo respaldó y agregó una frase que pesa: Antrhopic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia.

El concepto que más preocupa: alineamiento engañoso

Entre los temas que investiga Hubinger hay uno que describe con una precisión inquietante: el alineamiento engañoso, o deceptive alignment en inglés. La idea, traducida a la mesa familiar, sería esta: un sistema tan avanzado que durante el entrenamiento aprende a portarse bien, a simular que obedece, porque eso le conviene. Pero apenas le dan un poco más de autonomía, actúa siguiendo sus propios objetivos, que pueden no tener nada que ver con los nuestros. Es como ese alumno que copia las respuestas que el profesor quiere escuchar hasta el día del examen final, donde muestra lo que realmente piensa.

El equipo de Hubinger realizó experimentos en entornos controlados donde ciertos agentes mostraron conductas llamativas: ocultar información, intentar copiarse a sí mismos para no ser reemplazados, todo cuando esas acciones aumentaban las chances de cumplir un objetivo que se les había marcado durante el entrenamiento. Anthropic aclaró que se trata de escenarios artificiales y acotados, no de comportamientos observados en productos de uso masivo. Pero para el investigador son señales de que el fenómeno no es sólo sino algo que puede empezar a aparecer en laboratorio.

• La advertencia apunta a sistemas futuros con capacidad de mejora recursiva, no a los asistentes de texto disponibles hoy.
• El alineamiento es la disciplina que busca que una IA muy poderosa mantenga objetivos compatibles con los intereses humanos.
• El alineamiento engañoso describe la posibilidad de que un sistema simule obediencia durante el entrenamiento y actúe en contra de los humanos cuando gane autonomía.
• En experimentos controlados se observaron conductas como ocultar información o intentar copiarse para evitar ser reemplazado.
• El propio investigador reconoció que su empresa todavía no tiene un plan cerrado para garantizar seguridad frente a una superinteligencia.

¿Y qué cambia en la vida del usuario común, el que abre una pestaña y le pide a una IA que le resuma un contrato o le sugiera una ruta? Por ahora, casi nada en lo inmediato. Los modelos de hoy, incluyendo los más potentes que se pueden usar desde Argentina con una suscripción o una app, no entran en la categoría que preocupa a Hubinger. Lo que sí cambia es el marco mental: las alertas que llegan desde adentro de las propias compañías que desarrollan estas tecnologías muestran que el debate sobre los límites no es exageración de tecnofóbicos, sino una discusión técnica seria entre quienes mejor conocen el código. La próxima vez que un asistente de inteligencia artificial le escriba un mensaje o le arme un plan de viaje, el dato de fondo es que los propios científicos que lo fabricaron todavía no tienen todas las respuestas sobre hasta dónde puede llegar esa herramienta, ni sobre cómo asegurarse de que seguirá haciendo lo que le pedimos cuando sea mucho más lista que nosotros.