Con la IA y su regulación dominando gran parte del debate político americano estas dos últimas semanas, escribí un poco sobre ello en mi columna de VP del domingo. La reproduzco a continuación, por si os interesa. Mañana, con suerte, habrá un artículo repasando las elecciones al senado en los diez estados cruciales este noviembre.
Imaginemos, por un momento, el siguiente escenario. Una empresa súper sofisticada de altísima tecnología se planta en una ciudad cualquiera de nuestro país, prometiendo una inversión megamillonaria en una invención maravillosa. Los aguerridos emprendedores prometen construir una central eléctrica de nueva generación (digamos, un reactor de fusión pionero) capaz de producir cantidades esencialmente ilimitadas de energía a un coste cercano a cero, sin emisiones contaminantes de ninguna clase. La mera existencia de este milagro de la física hará que toda la región se convierta en el mejor lugar del continente para construir fábricas, centros de datos y cualquier cosa que utilice electricidad. Es una oportunidad única.
La empresa súper sofisticada de altísima tecnología, no obstante, añade un pequeño corolario, un asterisco a su promesa de prosperidad y crecimiento económico: durante la próxima década, hay un 10 % de probabilidades de que el reactor explote de forma incontrolable y volatilice todo lo que hay a 50 kilómetros a la redonda. Y no, no van a construirlo en otro sitio. Solo puede ser construido en un lugar específico de la ciudad por algún motivo científico incomprensible.
Parece bastante obvio, creo, que la inmensa mayoría de votantes de esta hipotética ciudad quizás se tomarían una oferta de esta clase con muchísima reticencia, por no decir aullidos de oposición al proyecto. Si la central eléctrica se empezara a construir, nadie duda de que veríamos un éxodo masivo. Tener un 10 % de probabilidades de morir vaporizado en cualquier momento no es exactamente la clase de riesgo que nadie quiere correr.
Esta clase de escenario, no obstante, dista mucho de ser una abstracción estos días, al menos si atendemos a lo que las empresas líderes en Inteligencia Artificial están diciendo en voz alta. Por extraordinario que parezca, tenemos a gente desarrollando e intentando vender productos de alta tecnología casi milagrosos (y la IA, si cumple con su promesa, es realmente revolucionaria) mientras nos advierten de que esos mismos productos tienen sobre un 10 % de probabilidades de exterminar a la especie humana durante el próximo decenio.
Excepto que, a diferencia del escenario anterior, no nos podemos mudar a otro planeta para evitar el apocalipsis y que, en el caso de la IA, ellos van a seguir construyendo sus maquinitas igualmente. Solo nos están avisando de que se lo van a tomar con un poco más de calma e irán con cuidado, pero que les dejemos hacer, que saben lo que están haciendo. Más o menos. Casi seguro. Probablemente.
No me voy a meter a hablar demasiado sobre el lado, digamos, “práctico” de este escenario, es decir, si la IA realmente puede matarnos a todos y cómo puede acabar sucediendo. Mi impresión es que eso requiere escenarios un tanto extremos y quizás hasta descabellados, vistos desde fuera, pero no imposibles. Las historias de IA saltándose normas y protocolos de seguridad y “fugándose” para hacer trastadas sin que sus creadores se den cuenta no son anecdóticas, y la tecnología está avanzando hasta un punto en el que los ingenieros no entienden por completo cómo funcionan las cosas. La idea de que una IA pueda “autoentrenarse” hasta el punto de ser incontrolable no es absurda, y la lista de cosas que puede llegar a romper siguiendo su propia lógica es larga.
Dudo mucho, además, que todo este debate sea una elaborada estrategia para hacer publicidad de sus productos, que en el fondo son bastante torpes y que nunca harán nada parecido. Ninguna empresa ahí fuera se vende a sí misma diciendo que su producto va a matarte una de cada diez veces que lo utilices. Aunque no todos los expertos creen que el riesgo es tan elevado como dicen, hay un número suficiente (y no minoritario, por lo que tengo entendido) que cree lo contrario como para tomarnos el problema en serio.
Asumiendo, entonces, que la IA es realmente tan buena como dicen pero tan potencialmente letal como sugieren, ¿cuál debería ser nuestra respuesta?
Anthropic, OpenAI, SpaceX, Meta, Google y el resto del sector dicen que debemos vigilar el desarrollo de estos engendros, pero que la regulación debe ser decidida por las empresas del propio sector. La tecnología está avanzando con tanta rapidez y su desarrollo es tan crucial para mantener el liderazgo de Estados Unidos frente a China que no podemos permitirnos que los políticos, burócratas y reguladores decidan sobre ello. Nadie en Washington o en Bruselas entiende o sabe lo suficiente sobre estos modelos como para poder diseñar una regulación eficaz que limite riesgos sin bloquear o retrasar el progreso del sector de forma irremediable.
Ellos tienen las mejores mentes, los mejores científicos, los más expertos programadores y los mejores abogados, e incluso un puñado de filósofos como mascotas para que escriban cosas profundas. Han prometido a sus accionistas que no van a destruir el mundo, y se van a portar muy bien. Dejadles en paz.
Quizás hayan reclutado a los más listos del lugar (con los sueldos que pagan, no lo dudo), pero creo que tanto Washington como Bruselas deberían enviarlos a la mierda e imponerles muy educadamente una regulación y supervisión estricta sobre todo lo que hacen -- por mucho que lloren sobre innovación y el peso de la burocracia y cómo nos van a ganar los chinos.
Si realmente están construyendo algo que quizás sea la máquina del juicio final, es bastante irrelevante si quedamos primeros o segundos. La prioridad debe ser no construir la máquina del juicio final en primer lugar, y negociar tan pronto como sea posible con cualquiera que esté cerca de esta frontera tecnológica para evitar que eso suceda.
Si la IA resulta no ser tan amenazante como parecía, el coste de llegar unos años tarde a la tierra prometida es un coste real, pero limitado. Pero si el riesgo es real, y realmente rompemos algo camino de la superinteligencia de forma irremediable, no hay vuelta atrás. Dejar que un puñado de empresas del sector decidan unilateralmente cuánto riesgo podemos tolerar es inaceptable.
Más allá del posible fin de la humanidad tal como la conocemos, incluso si todos los escenarios grotescos de rebelión de las máquinas fueran inverosímiles y no hubiera riesgo alguno, dejar que las empresas se regulen solas crea un riesgo de segundo orden que también debemos limitar. Durante la revolución de internet permitimos que fueran Facebook, Google, Microsoft y Amazon quienes decidieran cómo iban a implementarse tecnologías cruciales como redes sociales, publicidad, privacidad, acceso a información, la nube y demás. Esas empresas construyeron la red moderna de tal manera que ahora ocupan posiciones monopolísticas inalcanzables; privatizaron la regulación de internet para su propio beneficio.
No sabemos si la IA será la revolución que prometen, pero lo que no deberíamos permitir o tolerar es que sea otra revolución capturada y dominada por unos pocos.
Somos absurdos en esta cuestión, se está hablando muchísimo sobre unanespecie de marketing terminal sobre que necesitan parar y regular la maquina para de verdad dominarla (dominarnos), y lo dicen tan panchos; lo verdaderamente absurdo es permitir a unos pocos en el mundo decir esto, incluso independientemente de que sea verdad, si mi vecino me dice que hay un 10 por ciento de posibilidades de que te mate mañana al cruzarnos en el ascensor me resaltaría inaceptable, incluso aunque fuese el del ático y pagase la electricidad del edificio entero. EL PROBLEMA COMIENZA A NO SER LA MÁQUINA SI NO EL SISTEMANQUE LA HACE POSIBLE.
Imagina que las 5 empresas que hacen coches se están gastando tanta pasta en competir entre ellas que se dan cuenta que no pueden conseguir el ROI. Imagina que se juntan y deciden que o paran o se hunden, pero estamos en una sociedad capitalista donde otra empresa puede entrar y hacerlo mejor (ejem). Entonces es cuando le piden al gobierno que obligue a todos a reducir la investigación o el siguiente coche explotará en la autopista. No podemos sospechar que están actuando como un cártel por su propio interés?