Gates quiere meterle un árbitro global a la inteligencia artificial: la jugada completa

¿Quién controla al cocinero cuando la receta puede armar una bomba? Más o menos por ahí va la propuesta que Bill Gates acaba de poner sobre la mesa: crear un organismo global que se siente a fiscalizar los sistemas de inteligencia artificial más peligrosos, parecido a lo que ya pasa con las centrales nucleares, los aviones comerciales y los gases que destruyen la capa de ozono. La idea suena ambiciosa, y también políticamente espinosa, pero el fundador de Microsoft la viene masticando hace rato y esta semana la blanqueó en un documento que ya recorre despachos de Washington y Beijing.

Tres modelos viejos para un problema nuevo

Gates no partió de cero: tomó prestadas tres arquitecturas que ya funcionan en otros rubros. El régimen de inspecciones nucleares, donde la Agencia Internacional de Energía Atómica controla quién puede enriquecer uranio y bajo qué condiciones. Los estándares de seguridad de la aviación civil, esa maraña de normas que permite que un vuelo entre Buenos Aires y Madrid llegue sin sobresaltos. Y los acuerdos internacionales que firmaron los países en los años 80 para dejar de producir clorofluorocarburos y así frenar el agujero de ozono.

Es como tener tres cocinas que ya aprendieron a no incendiarse: una sabe de materiales radioactivos, otra de turbulencias, y la tercera de gases tóxicos. Gates propone mezclar esas tres recetas para armar una cuarta cocina que se ocupe de los algoritmos. En criollo: aprovechar años de experiencia regulatoria en lugar de inventar todo de nuevo. El propio Gates reconoció que todavía no está claro si conviene ampliar una institución ya existente o crear una desde cero, pero dejó una condición sin vuelta atrás: sin Estados Unidos y China sentados en la misma mesa, no hay régimen que valga.

El plan en concreto: qué se controlaría y cómo se financiaría

• Auditoría de modelos capaces de diseñar moléculas o facilitar ataques biológicos, sin frenar aplicaciones médicas o científicas.
• Reunión pendiente con Xi Jinping, prevista en principio para noviembre, para negociar restricciones conjuntas sobre esos modelos de alto riesgo.
• Impuesto sobre los ingresos de empresas que reemplacen trabajadores con sistemas de IA, con destino a redes de protección social.
• Reserva de hasta un 40 por ciento de los puestos actuales para personas en sectores donde el trato humano sea irremplazable, como la atención de pacientes con Alzheimer.
• Supervisión supranacional con capacidad de auditar sistemas, similar a los inspectores nucleares o a los organismos de aviación civil.

Qué cambió para el usuario de a pie

Si todo esto avanza, el día a día del laburante común se movería en dos planos. Por un lado, los algoritmos que recomiendan una película o corrigen un mail seguirían funcionando como hasta ahora, sin controles extra. Por el otro, los sistemas más sensibles, los que diseñan fármacos o los que podrían ayudar a fabricar agentes biológicos, quedarían bajo la lupa de un auditor internacional con dientes para exigir cambios.

Y hay un dato que no es menor para el bolsillo: si una empresa decide echar gente y reemplazarla con IA, parte de lo que ahorre iría a parar a fondos de protección social. No es un gravamen nuevo sobre los consumidores, sino un intento de que el costo del reemplazo tecnológico no lo termine pagando el despedido. Gates lo graficó con una historia personal: el cuidado que recibió su padre cuando tuvo Alzheimer, una atención que, según insistió, ninguna máquina debería reemplazar.

“Es positivo que algunas empresas de IA estén proponiendo soluciones a los desafíos provocados por su propia tecnología, pero no deberíamos esperar que sean ellas quienes lideren el proceso.”Bill Gates

La frase resume el espíritu del plan y también su punto más flojo: Gates reconoce que la industria viene trabajando en sus propios mecanismos de seguridad, pero desconfía de que pueda regularse sola. En criollo, viene a decir que no es buena idea dejarle el cuchillo y el reloj a la misma persona. Por eso insiste con que el arbitraje lo tiene que hacer un ente externo, con representación de los gobiernos y, sobre todo, con Estados Unidos y China negociando en serio.

Faltan piezas clave para que el rompecabezas encaje. No hay fecha firme para el encuentro con Xi Jinping. No está definido qué organismo absorbería las nuevas funciones ni con qué presupuesto contaría. Y, como pasa cada vez que se toca el tema de la IA, queda la duda de cuánto margen tiene un solo actor, por más rico e influyente que sea, para mover los hilos de una conversación que hoy se da entre gobiernos, empresas y laboratorios repartidos por todo el planeta. Pero el documento ya está en la calle, y eso, para empezar, no es poco.