La gobernanza debe ser mundial: conclusiones del AI Standards Hub de Londres

La IA está transformando industrias y sociedades a un ritmo sin precedentes, reconfigurándolo todo, desde la sanidad y las finanzas hasta la fabricación y las cadenas de suministro.

Sin embargo, esta rápida evolución ha suscitado preocupaciones urgentes en materia de transparencia, responsabilidad y despliegue ético. A medida que la IA se integra más en la vida cotidiana, se hace cada vez más esencial una gobernanza eficaz. 

Esta semana, en el AI Standards Hub de Londres, me reuní con destacados expertos para debatir estos desafíos. Durante el panel sobre la normalización internacional de la IA, exploramos el panorama cambiante de la IA y sus implicaciones de largo alcance. Durante nuestro debate surgieron tres temas clave, cada uno con el potencial de dar forma al futuro de la gobernanza de la IA:

La gobernanza de la IA es mundial por necesidad

La IA no entiende de fronteras. Su desarrollo, despliegue e impacto son intrínsecamente mundiales. Por lo tanto, un enfoque fragmentado de la gobernanza, específico para cada país, resulta poco práctico. Las políticas y los marcos normativos nacionales en materia de IA van en aumento, pero cada uno aborda los riesgos críticos de maneras diferentes. Este mosaico plantea importantes desafíos tanto a las empresas como a los innovadores y legisladores.

Sin unas directrices internacionales claras, las organizaciones enfrentan incertidumbres en torno al cumplimiento normativo, las ineficiencias y las barreras de acceso a los mercados mundiales. Los gobiernos también corren el riesgo de crear desajustes normativos que podrían frenar la adopción de la IA, ahogar la innovación o crear desequilibrios competitivos entre las economías.

Aquí es donde las Normas Internacionales desempeñan un papel fundamental. Ofrecen una base armonizada que garantiza que la gobernanza de la IA sea coherente en todas las jurisdicciones, al tiempo que permite flexibilidad para la adaptación local. Las normas proporcionan a las empresas mejores prácticas, marcos de gestión de riesgos y requisitos de interoperabilidad que trascienden las fronteras.

La cooperación mundial no es un debate teórico; ya está ocurriendo. Iniciativas como el Pacto Mundial Digital de las Naciones Unidas hacen hincapié en la colaboración internacional en materia de gobernanza digital, con la gobernanza de la IA como eje principal. También se han adoptado ampliamente los Principios de la IA de la OCDE, que ofrecen un marco para el desarrollo responsable de la IA. Organismos internacionales de normalización como ISO, IEC y UIT, junto con organizaciones nacionales como la British Standards Institution (BSI) y el Standards Council of Canada (SCC), trabajan para establecer marcos que alineen la IA a escala mundial.

La gobernanza de la IA exige un enfoque sociotécnico

La gobernanza de la IA no es un desafío únicamente técnico, sino también social. A menudo, los debates sobre la IA se centran en los algoritmos, la infraestructura de datos y la ciberseguridad, pasando por alto las implicaciones éticas, sociales y económicas más amplias. Si los marcos de gobernanza ignoran los valores humanos, la equidad y la inclusión, corren el riesgo de exacerbar las desigualdades y erosionar la confianza pública.

Una preocupación clave es la supervisión humana en la toma de decisiones de la IA. Aunque la IA puede mejorar la eficiencia, no debe sustituir al criterio humano, sobre todo en ámbitos de alto riesgo como la sanidad, las finanzas y la justicia penal. 

El sesgo en la IA es otro problema crítico. Si los sistemas de IA se entrenan con datos sesgados o se diseñan sin perspectivas diversas, pueden perpetuar las desigualdades sociales. Los desarrolladores deben garantizar la transparencia en la recogida de datos, el entrenamiento de los modelos y los procesos de toma de decisiones. Al incorporar principios centrados en la equidad a las normas de IA, las organizaciones pueden reducir el sesgo y garantizar que la IA sirva a todas las comunidades de manera equitativa.

Estas cuestiones sociotécnicas serán fundamentales en los próximos eventos clave, como el Día de las Normas en AI for Good en Ginebra (julio de 2025) y la Cumbre Internacional sobre Normas de la IA en Seúl (diciembre de 2025). Estos foros, apoyados por ISO, IEC y UIT, ofrecen una plataforma mundial para alinear la gobernanza en materia de IA con las necesidades sociales en sentido amplio, garantizando así que la IA sirva a la humanidad de manera responsable y ética.

La confianza es la piedra angular de la adopción de la IA

Un desafío fundamental en la gobernanza de la IA es generar confianza: confianza en los sistemas de IA, en las organizaciones que los desarrollan y en las políticas que rigen su despliegue. Las preocupaciones en torno a la desinformación, las amenazas a la ciberseguridad y los perjuicios en línea son primordiales, como se señala en el Informe de Riesgos Globales de 2025 del FEM. 

Las Normas Internacionales desempeñan un papel fundamental en el fomento de la confianza en la IA al proporcionar marcos claros de gobernanza, gestión de riesgos y despliegue ético. Ayudan a las organizaciones a implementar prácticas de IA responsables, abordar sistemáticamente los riesgos potenciales y mejorar la transparencia y la seguridad. A medida que la IA sigue avanzando, los esfuerzos de normalización en curso garantizan que su desarrollo se alinee con los valores sociales, impulsando una innovación que sea inclusiva y digna de confianza.

Juntos, estos tres temas –armonización mundial, enfoque sociotécnico y confianza como base– proporcionan la estructura que la IA necesita para evolucionar con responsabilidad y eficacia. No obstante, para que la IA despegue de verdad, necesita algo más que unos principios rectores: necesita un marco que le proporcione estabilidad y marque un rumbo.

El AI Standards Hub de Londres fue un poderoso recordatorio de que la gobernanza de la IA consiste en dar forma al futuro que queremos, no solo en gestionar los riesgos. Las normas no son obstáculos burocráticos; son catalizadores de la innovación, la confianza y la cooperación mundial.

Es el momento de actuar. La gobernanza de la IA no es un desafío futuro, sino una necesidad actual. Trabajemos juntos para construir un mundo en el que la IA sirva a la humanidad de forma segura, transparente e inclusiva.