La ONU se ofrece para “gobernar” a la inteligencia artificial

Habló en tono apocalíptico en el Consejo de Seguridad: “ni sus propios diseñadores tienen idea de hasta dónde puede llegar este asombroso descubrimiento”.

El secretario general de la ONU, António Guterres, dijo este martes que el futuro desarrollo de la inteligencia artificial (IA) debe estar “gobernado” por una entidad dependiente de Naciones Unidas, una idea que ya ha lanzado en el pasado. En un discurso ante el Consejo de Seguridad, que por primera vez dedica una sesión específica al tema, Guterres sugirió que ese organismo podría inspirarse en otros como la Organización de Aviación Civil, la Organización Internacional de Energía Atómica o el Panel Intergubernamental del Cambio Climático.

Ese organismo –sugirió Guterres– debería integrar al sector privado, la sociedad civil, científicos independientes y aquellos que están dirigiendo la innovación en el campo de la IA. Como primer paso, dijo Guterres, ya ha nombrado un “Consejo consultivo de alto nivel sobre inteligencia artificial” que le presentará antes de fin de año sus “opciones para la gobernanza global de la IA”. “Seamos claros: hay una enorme brecha de conocimiento en los Gobiernos y otras estructuras de administración y seguridad que deben abordarse a niveles nacionales y globales”, insistió.

El fin del mundo

El diplomático portugués utilizó un tono casi apocalíptico para advertir sobre el vertiginoso avance de la lA y los peligros que puede suponer: recordó que se la ha comparado con la aparición de la imprenta, pero si ésta tardó 50 años en extenderse por Europa, a la inteligencia artificial le han bastado dos meses para sumar 100 millones de usuarios.

Citó informes financieros que calculan que solo en 2030 la IA podría contribuir con entre 10 billones y 15 billones de dólares en la economía global, pero al mismo tiempo recordó que “ni sus propios diseñadores tienen idea de hasta dónde puede llegar este asombroso descubrimiento”.

Para no caer solo en el pesimismo, Guterres dijo que la IA puede aportar un enorme potencial en derechos humanos, salud y educación, pero en paralelo hay pruebas de que “puede amplificar los sesgos, reforzar la discriminación y propiciar nuevos niveles de vigilancia de tintes autoritarios”. “Lo que hemos visto es solo el principio: nunca jamás la innovación tecnológica se va a mover tan lentamente como ahora” advirtió, y de ahí la urgencia de actuar.

“El uso malvado de los sistemas de IA con propósitos terroristas, delictivos o de Estados puede causar horrendos niveles de destrucción, trauma y profundo daño sicológico, y también suponer un momento definitivo para la desinformación y el discurso del odio”, advirtió el portugués, quien concluyó que la IA debe servir para “construir puentes que ayuden a superar divisiones sociales, digitales y económicas, y no para apartarnos a unos de otros. Necesitamos una carrera para desarrollar la IA para lo bueno”.

La IA y los abusos sexuales

El rápido avance de la inteligencia artificial (IA) podría exacerbar los casos de abuso sexual infantil en el Reino Unido, advirtió este martes la Agencia Nacional del Crimen (NCA) en base a una investigación conocida como “Evaluación Estratégica Nacional”, que analiza las posibles amenazas a la población en manos de la delincuencia organizada.

La agencia estima que 1,6 por ciento de la población adulta –uno de cada 50 hombres– podría representar un riesgo sexual para los niños. El director general de la NCA, Graeme Biggar, describió esta cifra como “extraordinaria” y señaló en el informe que las imágenes de abuso online están teniendo un efecto “radicalizador”, normalizando el comportamiento abusivo. Biggar también advirtió que la amenaza sólo aumentaría con el avance de la IA, ya que las imágenes falsas podrían inundar internet.

“La visualización de estas imágenes, ya sean reales o generadas por IA, aumenta materialmente el riesgo de que los delincuentes continúen abusando sexualmente de los niños”, añadió. Para combatir esta amenaza, instó a que las fuerzas del orden se coloquen a la vanguardia de las nuevas tecnologías, lo que requerirá una visión colectiva y una inversión sostenida. También sugirió que será necesaria una asociación estratégica más efectiva con las empresas de tecnología.

Biggar apuntó a las crecientes dificultades que enfrenta la agencia en la detección y la investigación de delitos y en la protección de los niños, a medida que las principales empresas de tecnología desarrollan sus servicios, incluyendo la implementación de cifrado de extremo a extremo.

Abusadores potenciales

Al presentar la evaluación anual de amenazas de la NCA, Biggar reveló que la agencia estima que hay entre 680.000 y 830.000 adultos en el Reino Unido que representan algún grado de riesgo sexual para los niños. “Estas son cifras extraordinarias: aproximadamente diez veces la población carcelaria”, dijo al respecto.

Además del abuso sexual infantil, la NCA destacó el fraude como una preocupación creciente, que afectó a alrededor de tres cuartas partes de los adultos en el Reino Unido en 2022, ya sea por teléfono, en persona o en línea.

El funcionario advirtió que la IA generativa también se está utilizando para hacer que los fraudes sean más creíbles, a través del uso de videos falsos cada vez de mayor calidad y algoritmos de generación de lenguaje como GPT para redactar correos electrónicos de phishing más convincentes.

FUENTE