¿Se está saliendo la IA de control? Esto es lo que dicen los expertos y la realidad del sector

La aceleración exponencial en el desarrollo de los modelos de lenguaje y de los agentes autónomos ha encendido las alarmas de investigadores y de ingenieros, quienes advierten sobre una evolución técnica que podría superar nuestra capacidad de supervisión; por eso, en redes sociales, en despachos gubernamentales y en laboratorios tecnológicos, ¡el debate sobre si la inteligencia artificial se está saliendo de control está más encendido que nunca!

Por un lado, figuras muy emblemáticas del sector afirman que nos acercamos a un punto de inflexión donde la pérdida de alineación y el riesgo existencial son posibilidades reales.

Por el otro, destacados científicos de la computación argumentan que la narrativa apocalíptica confunde la automatización avanzada con la conciencia y distrae de los verdaderos retos cotidianos, como la regulación y el uso ético de los datos.

En este artículo, analizaremos el estado real del debate sobre los avances de la IA a través de declaraciones verificables y públicas de los referentes más influyentes de la industria, evaluando tanto las posturas de alerta como la perspectiva pragmática del sector para que entiendas un poco mejor en qué punto nos encontramos.

¡Sigue leyendo!

¿Qué expertos consideran que la IA es un riesgo para la vida humana?

Durante los últimos años, algunas de las mentes más brillantes detrás del aprendizaje profundo (deep learning) han levantado la voz para advertir que el ritmo actual de desarrollo carece de las barreras de seguridad necesarias.

Para esta facción de expertos, el riesgo real a corto plazo no es necesariamente un robot de ciencia ficción, sino la pérdida progresiva del control humano.

Al delegar decisiones críticas a sistemas que no logramos interpretar por completo, temen que la humanidad quede vulnerable ante campañas de desinformación masiva, ciberataques sin precedentes y eventual pérdida de autonomía.

Geoffrey Hinton

Considerado uno de los «padrinos de la IA» y galardonado con el Premio Turing, Geoffrey Hinton acaparó los titulares mundiales cuando renunció a su cargo en Google en mayo de 2023.

Su objetivo era poder hablar, libremente, sobre los riesgos de la tecnología que ayudó a crear y Hinton ha advertido, en múltiples entrevistas, que nos acercamos a un escenario donde los modelos serán más inteligentes que nosotros.

Su mayor preocupación radica en que estos sistemas puedan desarrollar la capacidad de crear subobjetivos por sí mismos, volviéndose incontrolables y facilitando que malos actores los utilicen para fines perjudiciales.

Yoshua Bengio

Yoshua Bengio, otro de los pioneros ganadores del Premio Turing en esta disciplina, también, ha lanzado serias advertencias contra lo que considera un ritmo de desarrollo peligroso.

Bengio ha señalado que la competencia comercial desenfrenada entre las grandes empresas tecnológicas está priorizando la velocidad por encima de la seguridad y su postura es clara:

La humanidad no está preparada, ni técnica ni socialmente, para alinear los objetivos de una inteligencia superior con nuestros propios valores morales e intereses de supervivencia.

Carta abierta del Future of Life Institute

En marzo de 2023, el Future of Life Institute publicó una carta abierta que marcó un hito en la industria.

El documento, firmado por miles de investigadores y de figuras como Elon Musk o Steve Wozniak, advertía que los sistemas de IA con inteligencia competitiva a la humana plantean «profundos riesgos para la sociedad». La iniciativa solicitaba a todos los laboratorios de inteligencia artificial una pausa verificable e inmediata de, al menos, 6 meses en el entrenamiento de sistemas más potentes que GPT-4 para desarrollar protocolos de seguridad robustos.

Advertencia de extinción del Center for AI Safety

La preocupación escaló aún más en mayo de 2023, cuando el Center for AI Safety publicó una declaración respaldada por cientos de científicos y de líderes tecnológicos, incluyendo a CEO de la talla de Sam Altman (OpenAI) y Demis Hassabis (Google DeepMind).

El comunicado, de, apenas, una frase, sentenció, de forma rotunda, el nivel del riesgo percibido en el sector:

Mitigar el riesgo de extinción a causa de la IA debería ser una prioridad mundial junto con otros riesgos a escala social como las pandemias y la guerra nuclear.

Expertos que han declarado que el fin del mundo no está cerca

Existe una fuerte facción de investigadores, de científicos y de líderes de la industria que consideran que el miedo a la extinción humana es exagerado y contraproducente. Para este grupo de expertos, la inteligencia artificial actual está lejos de poseer autonomía o conciencia, y advierten que el pánico desmedido podría traer consecuencias negativas para el desarrollo tecnológico.

Estos especialistas consideran que la idea de una máquina consciente tomando el control del planeta pertenece al ámbito de la ciencia ficción.

El verdadero peligro, de hecho, no es que la tecnología se vuelva en nuestra contra por voluntad propia, sino que el miedo infundado lleve a crear monopolios regulatorios que impidan democratizar sus beneficios.

Yann LeCun

Yann LeCun, científico jefe de IA en Meta y ganador del Premio Turing (junto a Hinton y a Bengio), es la voz más prominente contra el llamado «alarmismo existencial».

LeCun ha reiterado, en múltiples conferencias y en debates públicos, que los actuales Modelos de Lenguaje Grande (LLM) no son superinteligencias, sino sistemas estadísticos avanzados que se limitan a predecir la siguiente palabra en un texto.

Según su perspectiva, estos modelos carecen de un entendimiento real del mundo físico y no tienen capacidad de planificación a largo plazo ni, mucho menos, deseos de dominación, por lo que proyectar intenciones humanas en herramientas matemáticas es un error de percepción y asegurar que la IA destruirá a la humanidad es «francamente ridículo».

Andrew Ng

Andrew Ng, cofundador de Google Brain, ex director de IA en Baidu y uno de los educadores tecnológicos más reconocidos a nivel global, ha expresado una profunda preocupación por la narrativa del «riesgo de extinción».

Ng argumenta que sobrerregular el desarrollo de la inteligencia artificial basándose en miedos hipotéticos podría sofocar la innovación, especialmente, en el ecosistema de código abierto (open source).

Además, su postura defiende que, lejos de ser una amenaza para nuestra supervivencia, la IA es la herramienta más poderosa que tenemos hoy en día para resolver verdaderos desafíos existenciales de la humanidad, como el cambio climático o la cura de enfermedades complejas.

Investigadoras de ética de la IA

Expertas en ética de la IA, como Timnit Gebru (fundadora del Distributed AI Research Institute) y Meredith Whittaker (presidenta de Signal), han señalado que el debate sobre el fin del mundo es una táctica de distracción.

Para ellas, hablar de robots superinteligentes incontrolables desvía la atención pública y regulatoria de los problemas que las grandes corporaciones tecnológicas ya están causando hoy, como explotación laboral en el etiquetado de datos, violaciones masivas a los derechos de autor, sesgos discriminatorios en los algoritmos y concentración de poder en un puñado de empresas.

Las expertas consideran que la tecnología no está «fuera de control» por sí sola, sino que está siendo controlada por muy pocos.

¿Qué es lo que, verdaderamente, nos debe preocupar hoy?

Más allá del debate sobre si la inteligencia artificial exterminará a la humanidad o no, existe un consenso amplio entre expertos, legisladores y reguladores, que señalan que la tecnología ya está generando impactos negativos tangibles en el presente.

La verdadera amenaza actual no proviene de máquinas conscientes, sino de las consecuencias inmediatas de desplegar modelos opacos e imperfectos a gran escala:

Desinformación masiva y deepfakes

La capacidad de generar texto, audio y video fidedignos a bajo costo ha transformado la creación de contenido falso en un proceso industrializado.

La manipulación de voz (voice cloning) y la imitación en video (deepfakes) representan una amenaza directa para la seguridad económica y para la estabilidad política. El riesgo inmediato no es una superinteligencia rebelde, sino un entorno digital donde resulta casi imposible distinguir la realidad de la falsificación mediática.

Sesgos algorítmicos y discriminación opaca

Los modelos de aprendizaje automático se entrenan con datos históricos que reflejan los prejuicios de la sociedad. Entonces, cuando estos algoritmos se aplican sin la debida supervisión en procesos de selección de personal, en concesión de créditos bancarios o en evaluaciones dentro del sistema judicial, tienden a perpetuar y a amplificar patrones de discriminación de género, de raza o de nivel socioeconómico.

El peligro real reside en automatizar la injusticia social bajo una falsa premisa de neutralidad tecnológica.

Propiedad intelectual y uso no autorizado de datos

El avance exponencial de la IA generativa se ha construido sobre el procesamiento masivo de información creada por humanos: textos, ilustraciones, código de programación y música.

Esto ha desencadenado una ola de demandas judiciales por parte de artistas, de medios de comunicación y de creadores que denuncian el uso de sus obras sin consentimiento ni compensación, de modo que el debate pone en jaque la sostenibilidad de las industrias creativas y los límites de los derechos de autor en la era digital.

Gobernanza global y carrera regulatoria

La falta de un marco normativo unificado ha llevado a una disparidad global en la supervisión tecnológica.

Iniciativas pioneras como la Ley de Inteligencia Artificial de la Unión Europea (EU AI Act) buscan clasificar los sistemas según su nivel de riesgo, prohibiendo aplicaciones inaceptables, como la puntuación social o la vigilancia biométrica masiva en espacios públicos, e imponiendo requisitos estrictos de transparencia.

Sin embargo, el reto de los gobiernos es regular con suficiente agilidad sin asfixiar el desarrollo tecnológico local frente a potencias rivales.

Entonces, ¿está la inteligencia artificial fuera de control?

La respuesta a si la inteligencia artificial se está saliendo de control depende de la perspectiva con la que se analice.

Si, por «fuera de control», se entiende la existencia de máquinas conscientes operando con voluntad propia para someter a la humanidad, la respuesta de la ciencia actual es no. Los avances más espectaculares del sector siguen siendo modelos de predicción estadística y de procesamiento masivo de datos dirigidos por seres humanos.

Sin embargo, si la pregunta se enfoca en si el ritmo de desarrollo, la adopción comercial y la velocidad de regulación están desbordando la capacidad de respuesta de la sociedad, ¡la respuesta se acerca a un preocupante sí!

La IA no necesita cobrar conciencia para representar un desafío sistémico, ya que basta con que sea lo suficientemente eficiente para desestabilizar mercados laborales, para amplificar la desinformación a escala masiva y para concentrar el poder tecnológico en un reducido número de corporaciones.

Que esta tecnología se mantenga como un motor de progreso o se transforme en un factor de inestabilidad dependerá, exclusivamente, de la capacidad de los gobiernos, de los laboratorios y de las empresas para priorizar la seguridad y la gobernanza ética por encima de la prisa comercial.