En el comunicado de prensa "El Informe Internacional sobre Seguridad de la IA de 2026 muestra cambios rápidos y riesgos emergentes", publicado el 3 de febrero por Office of the Chair of the International AI Safety Report a través de PR Newswire, la organización nos informa de que se han realizado cambios. A continuación, el comunicado completo y actualizado, con más detalles al final:
El Informe Internacional sobre Seguridad de la IA de 2026 muestra cambios rápidos y riesgos emergentes
MONTREAL, 3 de febrero de 2026 /PRNewswire/ -- El Informe Internacional sobre la Seguridad de la IA 2026 se publica hoy. Este informe ofrece una evaluación actualizada, compartida internacionalmente y con base científica, sobre las capacidades de la IA de propósito general, los riesgos emergentes y el estado actual de la gestión de riesgos y las salvaguardias.
Presidido por Yoshua Bengio, ganador del Premio Turing, esta segunda edición del Informe Internacional sobre la Seguridad de la IA reúne a más de 100 expertos internacionales y cuenta con el respaldo de un Panel Asesor de Expertos compuesto por nominados de más de 30 países y organizaciones internacionales, como la UE, la OCDE y la ONU. Las conclusiones del informe servirán de base para los debates en la Cumbre sobre el Impacto de la IA, que se celebrará en India a finales de este mes.
Entre los aspectos más destacados del informe se incluyen:
- Las capacidades de IA de propósito general han seguido mejorando rápidamente, especialmente en matemáticas, programación y operación autónoma. En 2025, los sistemas de IA líderes obtuvieron medallas de oro en las preguntas de la Olimpiada Internacional de Matemáticas, superaron el rendimiento de expertos de nivel de doctorado en pruebas de referencia científicas y fueron capaces de completar de forma autónoma algunas tareas de ingeniería de software que a un programador humano le llevarían varias horas. Sin embargo, el rendimiento sigue siendo irregular, y los sistemas aún fallan en algunas tareas aparentemente sencillas.
- La adopción de la IA ha sido rápida, aunque desigual a nivel mundial. La IA se ha adoptado más rápido que tecnologías anteriores como la computadora personal, con al menos 700 millones de personas que utilizan sistemas de IA líderes semanalmente. En algunos países, más de la mitad de la población utiliza IA, aunque en gran parte de África, Asia y Latinoamérica, las tasas de adopción estimadas se mantienen por debajo del 10%.
- Los incidentes relacionados con deepfakes están en aumento. Los deepfakes de IA se utilizan cada vez más para fraudes y estafas. Las imágenes íntimas no consensuadas generadas por IA, que afectan de forma desproporcionada a mujeres y niñas, también son cada vez más comunes. Por ejemplo, un estudio reveló que 19 de las 20 aplicaciones populares de "desnudez" se especializan en la simulación de desnudez femenina.
- La preocupación por el uso indebido de sustancias biológicas ha impulsado la implementación de medidas de seguridad más estrictas para algunos modelos líderes. En 2025, varias empresas de IA lanzaron nuevos modelos con medidas de seguridad reforzadas después de que las pruebas previas a su implementación no descartaran la posibilidad de que los sistemas pudieran ayudar significativamente a los principiantes a desarrollar armas biológicas.
- Agentes maliciosos, como los delincuentes, utilizan activamente la IA de propósito general en ciberataques. Los sistemas de IA pueden generar código dañino y descubrir vulnerabilidades en el software que los delincuentes pueden explotar. En 2025, un agente de IA se ubicó entre el 5% de los mejores equipos en una importante competencia de ciberseguridad. Los mercados clandestinos ahora venden herramientas de IA preempaquetadas que reducen el umbral de habilidad para los ataques.
- Muchas medidas de seguridad están mejorando, pero las técnicas actuales de gestión de riesgos siguen siendo falibles. Si bien ciertos tipos de fallos, como las "alucinaciones", se han vuelto menos comunes, algunos modelos ahora son capaces de distinguir entre contextos de evaluación e implementación y pueden alterar su comportamiento en consecuencia, lo que crea nuevos desafíos en torno a la evaluación y las pruebas de seguridad.
Yoshua Bengio, presidente del informe, catedrático de la Universidad de Montreal, director científico de LawZero y asesor científico de Mila - Instituto de IA de Quebec, afirmó:
"Desde la publicación del primer Informe Internacional sobre la Seguridad de la IA hace un año, hemos observado avances significativos en las capacidades de los modelos, pero también en sus riesgos potenciales. La brecha entre el ritmo del avance tecnológico y nuestra capacidad para implementar medidas de protección eficaces sigue siendo un desafío crucial. El informe pretende proporcionar a los responsables de la toma de decisiones la evidencia rigurosa necesaria para orientar la IA hacia un futuro seguro y beneficioso para todos. Con su segunda edición, actualizamos y reforzamos nuestra comprensión compartida, con base científica, de la rápida evolución de la IA de vanguardia a escala global".
La ministra británica de IA, Kanishka Narayan, declaró:
"La confianza en la IA es crucial para liberar todo su potencial. Es una tecnología que ofrecerá mejores servicios públicos, nuevas oportunidades laborales e innovaciones que cambiarán vidas. Pero también estamos decididos a mantener la seguridad de las personas a medida que esta tecnología se desarrolla. El desarrollo responsable de la IA es una prioridad compartida, y solo podemos moldear su futuro para generar un cambio positivo si trabajamos juntos. Este informe nos ayuda a lograr precisamente eso: reunir a expertos de todo el mundo para garantizar que contamos con una sólida base científica para tomar las decisiones correctas hoy, lo que sentará las bases de un futuro más prometedor y seguro".
Ashwini Vaishnaw, ministra de Ferrocarriles, Información y Radiodifusión, y Electrónica y Tecnología de la Información del Gobierno de la India, afirmó:
"A medida que los sistemas de IA se vuelven más capaces, la seguridad y la protección siguen siendo prioridades fundamentales. El Informe destaca enfoques prácticos de evaluación de modelos, umbrales de capacidad peligrosa y compromisos de seguridad hipotéticos para reducir fallos de alto impacto. Nuestros marcos globales de gestión de riesgos aún son inmaduros, con parámetros cuantitativos limitados y deficiencias significativas en la evidencia. Estas deficiencias deben abordarse junto con la innovación. Para la India y el Sur Global, la seguridad de la IA está estrechamente vinculada a la inclusión, la seguridad y la preparación institucional. La apertura responsable de los modelos de IA, el acceso equitativo a la computación y los datos, y la cooperación internacional también son esenciales. Como anfitriona de la Cumbre de Impacto de la IA de la India de 2026, India desempeña un papel clave en la definición de los esfuerzos globales de seguridad de la IA. El Informe tiene como objetivo ayudar a los responsables políticos, los investigadores, la industria y la sociedad civil a definir las estrategias nacionales".
Acerca del Informe Internacional sobre la Seguridad de la IA
El Informe Internacional sobre la Seguridad de la IA es una síntesis de la evidencia sobre las capacidades y los riesgos de los sistemas avanzados de IA. Está diseñado para respaldar la formulación de políticas informadas a nivel mundial, proporcionando una base empírica a los responsables de la toma de decisiones. Presidido por el profesor Yoshua Bengio y redactado por un grupo diverso de más de 100 expertos independientes, el informe cuenta con el respaldo de un Panel Asesor de Expertos compuesto por representantes designados de más de 30 países y organizaciones internacionales, como la UE, la OCDE y la ONU. Si bien reconoce los inmensos beneficios potenciales de la IA, el informe se centra en la identificación de riesgos y la evaluación de estrategias de mitigación para garantizar que la IA se desarrolle y utilice de forma segura en beneficio de todos. El informe fue encargado por el Gobierno de Reino Unido, y la Secretaría, ubicada en el Instituto de Seguridad de la IA del Reino Unido, proporciona apoyo operativo.
Actualización: Esta versión del comunicado incluye un enlace anclado en el primer párrafo (bajo las palabras "Informe internacional sobre seguridad de la IA 2026") y una cita adicional al final del comunicado.
View original content:https://www.prnewswire.com/news-releases/el-informe-internacional-sobre-seguridad-de-la-ia-de-2026-muestra-cambios-rapidos-y-riesgos-emergentes-302679784.html
