Las empresas de IA tienen tan claro que habrá una gran catástrofe en 2027 que ya preparan el día después

No pasa una semana sin que conozcamos algún ataque hecho con IA o alguna advertencia de sus dirigentes ante una amenaza en ciernes. O directamente, con alguna comunicación que, de forma directa o indirecta, advierta de sus riesgos. Sin ir más lejos, esta misma semana OpenAI ha frenado el entrenamiento de sus modelos porque se han salido de control y Sam Altman ha dicho que algunas consecuencias negativas son inevitables (sic). Con ese percal, la pregunta casi ya no es si va a haber un gran desastre con la IA, sino cuándo.

Pues bien, según ha desvelado Axios, las grandes compañías de inteligencia artificial ya están ensayando en privado qué pasará el día después de ese gran incidente. Sus quinielas apuntan a un evento catastrófico en forma de ciberataque que deje sin servicios financieros, conexión a internet, electricidad o agua.

El día D. Hay dos datos demoledores: el primero es que esta eventual catástrofe casi parece inevitable. El segundo es que está a la vuelta de la esquina: según fuentes anónimas de Axios, podría ocurrir en los próximos 6 a 12 meses. Es decir, en 2027. Y cuando esto suceda, quieren estar preparados. Así, las esferas de Anthropic, OpenAI y otras empresas de IA están planificando escenarios postcatastróficos, muy al estilo Pentágono. 

Eso sí, mientras que un portavoz de OpenAI ha confirmado que ejecuta ejercicios por si acaso (aunque no lo da como inevitable), Anthropic no ha querido hacer comentarios. Entre las simulaciones, enjambres de agentes que escapan de un entorno de pruebas (al estilo del ataque de los agentes de OpenAI a Hugging Face) o actores maliciosos que encuentra usos inesperados para los modelos disponibles. No obstante, el gran trabajo de preparación pendiente es más pedagógico: advertir y formar al Congreso de EEUU.

Por qué importa. Un ataque de esta envergadura sobre una infraestructura crítica más o menos global se traduciría en más desconfianza hacia esta tecnología y en convertir a sus líderes casi en villanos. Y de fondo, a la clase política dirigente por no ponerle freno: recordemos que la UE es pionera en legislarla y que aun así, ha ido demorándola y suavizando el tono para no descolgarse. En cualquier caso, la sociedad tiene una patata caliente entre las manos: una IA cada vez más capaz y unos mecanismos legislativos insuficientes para minimizar riesgos. 

Vaya por delante que no es fácil: hace falta discernir el grano de la paja y sobre todo, tener formación y conocimientos para regular sin estrangular. Sin embargo, lo que EEUU tiene es un Congreso envejecido y poco techie y una economía muy ligada a la infraestructura de la IA. Mejor prevenir que curar, pero las grandes empresas de la IA ya piensan en ese momento en el que toque curar y lleguen las consecuencias. Sobre la mesa, posibles actuaciones como prohibir la superinteligencia como promueve Bernie Sanders, pausar el desarrollo de la IA avanzada o la obligación de incluir un apagado de emergencia.