The Prague Post - Comienza en Reino Unido la primera cumbre mundial sobre los riesgos de la IA

La actual revolución tecnológica levanta pasiones, pero también temores, que dominarán los dos días de esta reunión celebrada en Bletchley Park (centro), donde se encuentra la emblemática sede en la que descifraban las comunicaciones durante la Segunda Guerra Mundial.

Los participantes abordarán en la primera jornada los posibles riesgos de la IA de vanguardia, como el polémico robot ChatGPT.

En paralelo la vicepresidenta de Estados Unidos, Kamala Harris, anunciará en Londres el miércoles por la tarde la creación de un instituto sobre la seguridad de la IA en Washington, que reunirá a expertos para establecer "directrices" e "identificar y mitigar" los riesgos de esta tecnología, según un documento de la Casa Blanca.

Representantes políticos de alto nivel participarán el jueves en la cumbre, entre ellos la presidenta de la Comisión Europea Ursula von der Leyen y el secretario general de la ONU Antonio Guterres.

Pese a la tensión y al miedo al espionaje industrial, China también estará representada.

También está previsto que participen estrellas del sector de Silicon Valley como Sam Altman y Elon Musk, que confundaron OpenAI, la empresa que creó ChatGPT.

- "A puerta cerrada" -

Las IA generativas, capaces de producir en pocos segundos textos, sonidos o imágenes a partir de una petición, han avanzado a pasos de gigante en estos últimos años. Y las próximas generaciones de estos modelos saldrán en pocos meses.

Esta tecnología suscita grandes esperanzas para la medicina o la educación, pero también podría desestabilizar sociedades, permitiendo fabricar armas o escapando al control humano, advirtió el gobierno británico.

En una carta abierta publicada el martes, varios de los "padres fundadores" de esta tecnología, como Yoshua Bengio y Geoffrey Hinton, pidieron "la elaboración y ratificación de un tratado internacional sobre IA", para reducir los "riesgos potencialmente catastróficos que los sistemas avanzados plantean a la humanidad".

El gobierno británico espera, como mínimo, conseguir una "primera declaración internacional sobre la naturaleza" de los riesgos de esta tecnología. También propone crear un grupo de analistas internacionales, inspirado en el modelo del panel de expertos de la ONU sobre el cambio climático (IPCC).

"Esta cumbre nos brinda la ocasión de asegurarnos que tenemos las buenas personas con las buenas competencias reunidas alrededor de la mesa para debatir la forma en que podemos disminuir estos riesgos en el futuro", aseguró la ministra británica de Tecnología, Michelle Donelan el martes.

El principal desafío es conseguir definir salvaguardias sin poner trabas a la innovación en los laboratorios de IA y los gigantes tecnológicos.

La Unión Europea (UE) y Estados Unidos han escogido la reglamentación.

El presidente estadounidense, Joe Biden, anunció el lunes un amplio conjunto de normas y principios para "marcar el camino" a nivel internacional.

Varias empresas como OpenAI, Meta (Facebook) o DeepMind (Google) aceptaron la semana pasada hacer públicas algunas de sus reglas de seguridad sobre la IA, después de que lo solicitara el Reino Unido.

En una carta abierta dirigida al primer ministro británico, Rishi Sunak, un centenar de organizaciones, expertos y militantes internacionales lamentaron que este encuentro se celebre "a puerta cerrada", dominado por los gigantes tecnológicos y con un acceso limitado a la sociedad civil.

"Tenemos que dejar de pensar que las empresas privadas con fines lucrativos son los únicos propietarios posibles y legítimos de los sistemas de IA, que transforman nuestras vidas y nuestros métodos de trabajo", afirmó Sasha Costanza-Chock, profesora en el Berkman Klein Center de la Universidad de Harvard, en una rueda de prensa.

V.Sedlak--TPP