Sam Altman enciende dos alarmas sobre la inteligencia artificial: pérdida de control y concentración de poder

¿Puede la inteligencia artificial escapársenos de las manos? Sam Altman, el CEO de OpenAI, dice que sí, y lo plantea como una de las dos amenazas más serias que enfrenta el desarrollo de esta tecnología. La otra, igual de inquietante, es que una sola persona, empresa o país termine acumulando un poder desmesurado gracias a sistemas cada vez más capaces. Sobre esas dos alertas habló en una serie de declaraciones recientes que reavivaron el debate sobre cómo regular el sector.

Para entender de qué habla Altman cuando menciona la pérdida de control, sirve una comparación bien de cocina: si dejamos que una olla exprés suba de presión sin válvula, termina explotando. Algo parecido, dice el ejecutivo, podría ocurrir si los modelos de IA avanzan más rápido que los sistemas que los mantienen a raya.

Los dos riesgos que mencionó Altman

• Que la humanidad pierda el control de sistemas de IA cada vez más avanzados, con consecuencias difíciles de revertir.
• Que una persona, empresa o país concentre un poder desproporcionado mediante el uso de una IA extraordinariamente poderosa.
• La necesidad de transitar un angosto camino intermedio que aborde ambos peligros de manera simultánea.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI

Altman sostuvo que las técnicas de alineación y seguridad deben correr al mismo ritmo que las capacidades de los modelos, o incluso unos pasos adelante. Es comoHornear un pastel: si la masa crece más rápido que el molde, se desborda y arruina todo. En criollo, no sirve de nada tener modelos más potentes si no contamos con herramientas para que hagan lo que queremos y nada más.

Sobre la concentración de poder, el CEO de OpenAI fue gráfico: si una IA extraordinariamente poderosa queda en manos de un actor que quiere imponer su visión del mundo al resto, los resultados podrían ser extremadamente distópicos. Reconoció que enfrentar ambos riesgos al mismo tiempo implica caminar por un sendero estrecho, y que no hay atajos.

Qué propone para evitarlo

En el plano regulatorio, Altman respaldó la creación de un marco federal que fije requisitos de seguridad comunes para los llamados modelos de frontera, es decir, los que están en el límite actual de las capacidades tecnológicas. Pidió además que se sumen auditores independientes a los mecanismos de supervisión, y aclaró que las empresas no deberían esperar nuevas leyes para empezar a aplicar medidas de seguridad por cuenta propia.

También apuntó contra la idea de que la competencia geopolítica justifique correr riesgos innecesarios. Ninguna cantidad de presión competitiva debería justificar la imprudencia, afirmó, y consideró que la coordinación internacional será uno de los terrenos donde las compañías necesitarán el apoyo activo de los gobiernos.

Qué cambia para el usuario común

Para quien usa ChatGPT, Gemini o cualquier asistente basado en IA en su trabajo o en su casa, estas declaraciones no son filosofía abstracta. Si se imponen estándares federales de seguridad y entran auditores externos a revisar los modelos más avanzados, es probable que esos sistemas sean más confiables y menos propensos a fallar de maneras inesperadas. Y si la coordinación internacional avanza, también más difícil que un solo país domine el desarrollo de la tecnología y termine marcando las reglas de juego para todos. En pocas palabras, lo que plantea Altman es que la IA se construya con cinturón de seguridad antes de que la velocidad de la innovación nos pase por arriba.