The Prague Post - El presidente de Microsoft pide estándares de seguridad de IA "reales y eficaces"

"Vamos a necesitar para la IA, al igual que para todo lo demás en nuestras vidas (...), normas de seguridad reales y eficaces, en las que el público pueda confiar", declaró el directivo ante un grupo de periodistas, en vísperas de una cumbre internacional sobre IA organizada en Dublín.

La preocupación por los riesgos de la IA se ha multiplicado en los últimos meses después de que los modelos desarrollados por OpenAI y Anthropic se vieran involucrados en incidentes de seguridad durante las pruebas, lo que aumenta la presión para regular esta tecnología o incluso frenar el desarrollo de los modelos que supongan mayores riesgos.

El ejecutivo detalló las propuestas de Microsoft para reforzar la seguridad del sector, empezando con la obligación de dotar a los sistemas de IA de "frenos de emergencia", que los usuarios puedan activar en caso de incidente.

"La idea, especialmente para las IA que administran infraestructuras críticas o sistemas automatizados, es tener la posibilidad de apagarlas o ralentizarlas", por ejemplo, en caso de pérdida de control, utilizando este freno de emergencia, explicó.

Smith también abogó por imponer a los proveedores de IA la obligación de notificar incidentes.

"Cuando eres una empresa y te ves afectada por un incidente de seguridad que provoca la filtración de datos de los consumidores, estás obligada a notificarles que alguien ha tenido acceso a sus datos. Creo que la misma lógica debería aplicarse a las víctimas de un agente de IA", con una responsabilidad legal de informar a los clientes.

Por último, el presidente del grupo estadounidense también instó a reforzar las pruebas y evaluaciones de los modelos de IA para garantizar que sean seguros antes de su lanzamiento al mercado.

Ante la rapidez con la que evoluciona el sector, "debemos actuar con urgencia", insistió.

Varios otros altos directivos de la industria expresaron en las últimas semanas que esta tecnología requiere una mayor vigilancia. Por ejemplo, el director ejecutivo de Anthropic, Dario Amodei, prometió el 23 de septiembre en la ONU que desacelerará el desarrollo de la inteligencia artificial cuando sea necesario para garantizar que cada nuevo modelo comercializado sea seguro.

A finales de septiembre, los directivos de los principales gigantes del sector -desde Elon Musk de X, pasando por Sundar Pichai de Google, Jensen Huang de Nvidia y también Amodei- firmaron en la Casa Blanca un código de buenas prácticas para gestionar mejor los riesgos asociados a la IA.

O.Holub--TPP