La inteligencia artificial puede facilitar la creación de armas, acelerar ataques informáticos y aumentar la difusión de información falsa, advierten investigadores de MIT FutureTech y la Universidad de Queensland, que identificaron las amenazas de esta tecnología que requieren atención urgente.
En su estudio, publicado el 20 de julio, 272 expertos internacionales evaluaron 24 riesgos según su probabilidad y la gravedad de sus posibles consecuencias entre 2025 y 2030.
Los cinco principales riesgos
Capacidades peligrosas de la IA
Los avances en estos sistemas pueden facilitar tareas complejas y peligrosas, como la persuasión y la vigilancia.
Competencia entre empresas y países
La búsqueda de ventajas económicas o estratégicas puede impulsar a avanzar con rapidez, resistirse a las restricciones o invertir menos en seguridad.
Armas y ciberataques
La IA puede ayudar a detectar vulnerabilidades, generar código y acelerar operaciones cibernéticas ofensivas.
Concentración de poder y desigualdad
Distribución desigual de los beneficios de la tecnología y concentración del poder en pocas manos.
Información falsa o engañosa
Difusión masiva de desinformación y manipulación de la opinión pública mediante IA.
Probabilidad de consecuencias catastróficas
18 de los 24 riesgos analizados tendrían al menos un 10 % de probabilidad de causar consecuencias catastróficas, que el estudio define como:
- • Más de un millón de muertes
- • Pérdidas superiores a 100.000 millones de dólares
- • Daños intangibles de una escala comparable
Introducir medidas de mitigación reduciría esas probabilidades, pero no eliminaría por completo las amenazas. Incluso con su aplicación, los riesgos relacionados con las capacidades peligrosas de la IA, las armas y los ciberataques, así como el daño ambiental, alcanzarían el 12 % de probabilidad. La desigualdad y el desempleo, al igual que la concentración de poder, llegarían al 11 %.
Sectores más vulnerables
En el sector de la información, los riesgos incluyen la desinformación, la pérdida de privacidad, la manipulación y la erosión de la confianza en los contenidos. Para la seguridad nacional, las principales amenazas son los ciberataques, el desarrollo de armas, la vigilancia y el uso de sistemas de IA cada vez más avanzados por actores hostiles. En el sector financiero, esta tecnología puede amplificar el fraude, los riesgos cibernéticos, la manipulación de los mercados, las vulneraciones de la privacidad y los fallos de sistemas con efectos económicos más amplios.
Los expertos atribuyen la responsabilidad principal de afrontar estos riesgos a los desarrolladores de IA y a los actores encargados de su gobernanza, como los gobiernos y los reguladores. Mientras tanto, los usuarios de estos sistemas y las partes afectadas por ellos son quienes están más expuestos.
Los autores aclaran que el estudio no pretende predecir el futuro con certeza, sino ayudar a centrar la atención en los riesgos que los expertos consideran graves y plausibles a corto plazo.