La advertencia de Ramon López de Mántaras no se dirige a una máquina que pudiera despertar y rebelarse, sino a quienes diseñan, financian y emplean sistemas capaces de intervenir en decisiones humanas. El físico e investigador, pionero de la inteligencia artificial desde los años setenta, sostiene que el riesgo más inmediato no es una voluntad autónoma de la tecnología, sino el uso deliberado de herramientas potentes para vigilar, manipular, discriminar o causar daño. Su crítica llega mientras las empresas tecnológicas compiten por presentar modelos cada vez mayores como un paso hacia una inteligencia artificial general.

Ese contraste importa porque el relato de una futura rebelión suele desplazar la atención desde daños presentes, identificables y atribuibles hacia un escenario hipotético. López de Mántaras enumera armas autónomas, falsificaciones, sesgos, vigilancia masiva y explotación laboral. En cada caso existe una cadena concreta de decisiones: quién desarrolla el sistema, con qué datos, para qué fin, quién lo despliega y qué controles aplica. Si se presenta la IA como agente independiente, advierte, esa cadena puede volverse menos visible y la responsabilidad más difícil de exigir.

De la promesa de autonomía al problema de la rendición de cuentas

La discusión no es meramente semántica. En un ciberataque, por ejemplo, un sistema puede automatizar tareas y ampliar la velocidad o el alcance de una operación, pero eso no convierte al software en responsable moral o jurídico. Investigar quién lo instruyó, quién facilitó el acceso y quién se benefició permite distinguir entre una herramienta técnica y las personas que la utilizaron. Lo mismo ocurre con un contenido falso generado mediante IA: la facilidad de producción aumenta el volumen potencial de engaños, pero no borra la intención de quien los difunde ni la obligación de las plataformas de responder a su circulación.

La misma lógica afecta a decisiones automatizadas en el empleo, el crédito o la administración pública. Un modelo entrenado con datos sesgados puede reproducir desigualdades sin que cada operador decida discriminar de forma explícita. Pero el resultado no es inevitable ni inocuo: corresponde a las organizaciones evaluar los datos, documentar el sistema y ofrecer vías de revisión para las personas perjudicadas. El énfasis en la responsabilidad humana evita tanto el fatalismo tecnológico como la excusa de que «lo decidió el algoritmo».

La economía de una expectativa difícil de medir

López de Mántaras cuestiona también la brecha entre la promesa de ganancias extraordinarias y los resultados observables. Cita inversiones estadounidenses en IA de 211.000 millones de dólares en 2025 y afirma que su impacto económico agregado ese año fue nulo. Esa cifra, tal como aparece en la entrevista, no demuestra por sí sola que la tecnología carezca de valor: los beneficios pueden tardar en reflejarse en productividad, concentrarse en ciertas empresas o no quedar bien capturados por las estadísticas. Sí pone sobre la mesa una pregunta esencial para inversores y responsables públicos: qué resultados justifican el gasto y quién asume sus costes.

El debate sobre productividad ayuda a precisar la respuesta. El economista Daron Acemoglu ha estimado que la IA podría automatizar alrededor del 4,6% de las tareas laborales durante la próxima década y elevar la productividad total en torno al 0,7% en ese periodo, lejos de las previsiones más optimistas que circulan en el sector financiero. Son proyecciones, no certezas; además, automatizar tareas no equivale necesariamente a eliminar puestos completos. Sin embargo, la diferencia entre esos cálculos y las expectativas de crecimiento de hasta el 7% revela cuánto depende la valoración de estas compañías de anticipar beneficios todavía no probados.

La consecuencia puede extenderse más allá de los mercados. Cuando una inversión se justifica mediante la expectativa de una IA general próxima, universidades, empresas y gobiernos pueden orientar recursos hacia modelos de enorme escala, aunque sus usos productivos sigan siendo inciertos. Si los retornos tardan, la presión por monetizar puede intensificar la recopilación de datos, la automatización precipitada o la reducción de costes laborales. Una corrección financiera, además, podría afectar a proveedores, centros de datos y proyectos de investigación que sí ofrecen beneficios más delimitados.

Escala, energía y una alternativa especializada

El investigador identifica otro límite en la estrategia de aumentar continuamente el tamaño de los modelos: para lograr mejoras marginales pueden requerirse incrementos desproporcionados de capacidad de cómputo, energía e inversión. La ley de rendimientos decrecientes que invoca no significa que cada modelo nuevo sea inútil; señala que el coste de una mejora adicional puede superar su valor práctico. En ese cálculo deben incluirse también los recursos físicos de los centros de datos y el impacto ambiental, no solo la velocidad de respuesta o el número de parámetros.

Como alternativa, propone recuperar el desarrollo de sistemas especializados, diseñados para tareas concretas. La comparación es práctica: una herramienta limitada para detectar defectos en una línea de producción o ayudar a interpretar imágenes médicas puede someterse a pruebas vinculadas a su finalidad, con criterios de error conocidos. Un modelo de propósito general ofrece más flexibilidad, pero también dificulta anticipar todas sus aplicaciones y medir con precisión sus fallos. La especialización no elimina los riesgos —un sistema acotado también puede discriminar o equivocarse—, aunque puede hacer más clara la evaluación y la supervisión.

El desacuerdo de fondo no enfrenta simplemente optimismo y pesimismo. Plantea qué tipo de innovación merece apoyo, cómo se distribuyen sus beneficios y qué obligaciones acompañan a su despliegue. Las advertencias sobre riesgos futuros pueden ser legítimas, pero pierden valor si sirven para eclipsar abusos actuales o diluir responsabilidades empresariales. A la vez, descartar toda investigación en IA general como una maniobra financiera iría más allá de lo que prueban los incentivos descritos. La cuestión pública es exigir evidencia, transparencia y mecanismos de reparación, tanto a los sistemas especializados como a los más ambiciosos.

En esa discusión, el legado de décadas de investigación específica ofrece una referencia útil: el progreso tecnológico no se mide solo por acercarse a una inteligencia humana universal. También cuenta que una herramienta resuelva un problema verificable, con costes proporcionados y daños controlables. Si gobiernos y compañías adoptan ese criterio, la conversación podrá salir de la disputa abstracta sobre una futura rebelión y centrarse en decisiones presentes: quién tiene el poder de desplegar la IA, bajo qué reglas y ante quién responde.