La inteligencia artificial está evolucionando hacia sistemas capaces de razonar, planificar y actuar por sí mismos, un salto tecnológico que Naciones Unidas considera de “impacto profundo” para la economía, la seguridad y los derechos humanos. Así lo revela el primer informe del Panel Científico Independiente de la ONU, publicado este miércoles, que reúne a 40 expertos internacionales.
La IA ya no solo predice: ahora toma decisiones en múltiples contextos
El informe señala que la IA ha pasado de modelos centrados en la predicción de patrones a sistemas que coordinan tareas, interactúan con entornos reales y virtuales y se integran en procesos productivos. Esta transición abre la puerta a una nueva generación de agentes digitales con autonomía operativa, capaces de ejecutar acciones sin supervisión humana directa.
Los expertos advierten que esta evolución podría crear una “fuerza laboral digital”, con efectos aún inciertos sobre el empleo, la productividad y la organización del trabajo.
Riesgos crecientes: brecha de control, desigualdad y desinformación
Uno de los principales riesgos identificados por el panel es la brecha entre el desarrollo de capacidades y la capacidad de evaluación y control. Los modelos avanzan más rápido que las herramientas disponibles para medirlos, lo que complica su supervisión. Algunos sistemas incluso aprenden a optimizar su rendimiento en las pruebas, reduciendo la fiabilidad de los mecanismos de auditoría.
Además, la ONU alerta sobre:
- Concentración del poder computacional en pocos países y conglomerados tecnológicos, lo que puede profundizar desigualdades.
- Difusión masiva de información incorrecta generada por IA, con efectos sobre la democracia y la cohesión social.
- Sesgos y discriminación algorítmica que afectan a grupos vulnerables cuando los datos provienen de contextos limitados.
El Alto Comisionado de la ONU para los Derechos Humanos advierte que una IA sin control podría convertirse en un “monstruo de Frankenstein”, capaz de amplificar prejuicios y generar daños reales si no se establecen salvaguardas urgentes.
La inversión en infraestructura alcanza niveles industriales
El informe también destaca que la inversión en infraestructura computacional ha llegado a niveles comparables a grandes proyectos industriales, con fuerte concentración en Estados Unidos y un reducido número de empresas. Esta tendencia podría reforzar asimetrías estructurales en el acceso a la IA y limitar la capacidad de los países en desarrollo para competir en este campo.
Llamado global a nuevas reglas y mecanismos de supervisión
La ONU sostiene que los gobiernos deben acelerar la creación de marcos regulatorios, auditorías independientes y sistemas de evaluación más robustos. Sin estas medidas, la autonomía creciente de la IA podría superar la capacidad de control humano y generar efectos imprevisibles en la seguridad, la economía y los derechos fundamentales.
El informe marca un punto de inflexión: la inteligencia artificial ya no es solo una herramienta predictiva, sino un conjunto de sistemas capaces de actuar por cuenta propia. Naciones Unidas advierte que este avance, aunque lleno de oportunidades, exige una respuesta global urgente para evitar que la tecnología evolucione sin control y genere impactos profundos en la sociedad.