La ONU ha dado a conocer esta semana la formación de un consejo consultivo global para la gobernanza de la inteligencia artificial. Su objetivo será analizar los riesgos asociados a esta tecnología y sugerir cómo la colaboración internacional puede contribuir a superar estos retos. Este grupo, compuesto por 39 miembros de todo el mundo, fue presentado por el Secretario General, António Guterres.

En rueda de prensa, Guterres, expresó que el mal uso de la IA tiene el potencial de erosionar la confianza en las instituciones, debilitar la cohesión social y poner en peligro la democracia. Aseguró que el equipo fomentará un “diálogo global multidisciplinario” que involucrará a diversos actores.

La selección de los miembros del consejo fue realizada por la oficina del Enviado del Secretario General de la ONU para Tecnología, con contribuciones de otras entidades como la Unesco. El consejo está liderado por dos copresidentes: Carme Artigas, Secretaria de Estado de Digitalización e Inteligencia Artificial de España, y James Manyika, vicepresidente senior de Google-Alphabet.

El directorio incluye a Natasha Crampton, directora encargada de inteligencia artificial en Microsoft, y Mira Murati, directora de tecnología de OpenAI. También se han incorporado funcionarios gubernamentales de México, Rusia, Kenia, Brasil y Alemania, entre otros países. Además, cuenta con un número significativo de académicos de diversas instituciones como la Universidad de Tokio y la Universidad de Stanford.

¿Cuál es el propósito del nuevo organismo de la ONU para la inteligencia artificial?

El consejo consultivo de la ONU dista mucho de lo que Sam Altman, CEO de OpenAI, propuso en su momento. Altman sugirió en mayo que se necesitaba una organización similar a la Agencia Internacional de Energía Atómica (OIEA).

Según Altman, una entidad así podría conceder licencias a los sistemas más potentes de inteligencia artificial o revocarlas si no cumplen con los estándares de seguridad. “Si esta tecnología se descontrola, las consecuencias podrían ser graves”, advirtió ante el Congreso de EE.UU.

Guterres también apoyó la idea de un organismo regulador internacional. Sin embargo, aclaró que solo los estados miembros tienen la capacidad para establecer tal entidad, no su secretaría.

El consejo consultivo planea revisar regularmente los acuerdos sobre gobernanza de inteligencia artificial y emitir recomendaciones al respecto. A finales del 2023 se publicará un primer informe provisional y el informe final se dará a conocer antes del 31 de agosto del 2024. Este documento podría contener “recomendaciones detalladas sobre las funciones, estructura y plazos para una nueva agencia internacional para la gobernanza de la inteligencia artificial”, según un documento previamente divulgado por la ONU.

Guterres alertó que actualmente el conocimiento de la inteligencia artificial está limitado a unas pocas empresas y países. Según él, esto podría “exacerbar las desigualdades globales y transformar las brechas digitales en precipicios”.

Los posibles perjuicios que podrían surgir incluyen la propagación rápida de información falsa y desinformación, así como el fortalecimiento de prejuicios y discriminación, según destacó su oficina en un comunicado de prensa. Otros riesgos mencionados están relacionados con la vigilancia y la invasión de la privacidad, el fraude y otras infracciones de los derechos humanos.

Además del nuevo organismo de la ONU, existen otras dos importantes iniciativas internacionales en curso sobre la inteligencia artificial. La primera es liderada por el Reino Unido, que ha organizado la próxima Cumbre de Seguridad de Inteligencia Artificial, que se llevará a cabo en noviembre con líderes de todo el mundo. La segunda iniciativa es responsabilidad de los países del G7, que acordaron en septiembre diseñar un código de conducta no obligatorio. Se anticipa que una primera propuesta será presentada antes de finalizar el año.

Fuente: Hipertextual