Heraldo de Madrid - Políticos y empresarios tecnológicos llaman a reaccionar para garantizar la seguridad de la IA

"Las pérdidas de control de agentes autónomos de IA observadas en los últimos meses son, en cierto modo, señales de alerta temprana", advirtió el británico Demis Hassabis, presidente de Google DeepMind y una de las grandes figuras de este evento organizado por la presidencia irlandesa del Consejo de la Unión Europea (UE).

"Estos sistemas todavía no son muy potentes, por lo que los incidentes no son graves, pero podrían llegar a serlo de aquí a uno o dos años si no intensificamos los esfuerzos" en materia de seguridad, afirmó el premio Nobel de Química y pionero de la investigación en IA.

— Interruptores de emergencia —

La preocupación de Hassabis es compartida por el presidente de Microsoft, el estadounidense Brad Smith, otra de las figuras del sector tecnológico invitadas a Dublín.

El directivo de Microsoft defendió la idea de dotar a los agentes y sistemas de IA de "frenos de emergencia", es decir mecanismos de desconexión obligatorios que permitan a los usuarios limitar los daños en caso de pérdida de control.

"La idea, especialmente en el caso de los sistemas de inteligencia artificial que gestionan infraestructuras críticas o sistemas automatizados, es disponer de la posibilidad de apagarlas o ralentizarlas", explicó.

Para Brad Smith, el problema radica en que la IA prácticamente no está regulada, a diferencia de un producto tan cotidiano como un envase de leche, sometido a todo tipo de controles.

"Necesitaremos para la IA, como para todo lo demás en nuestras vidas, normas de seguridad reales y eficaces en las que el público pueda confiar", argumentó.

Por su parte, la finlandesa Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea, además de responsable de Soberanía Tecnológica, Seguridad y Democracia, afirmó que las empresas de IA debían dedicar más tiempo a probar sus sistemas para mantener el control sobre ellos.

- Normativa ambiciosa -

"La competencia a escala mundial es tan intensa que parece que ninguna de las empresas está invirtiendo realmente suficiente tiempo y recursos en poner a prueba sus modelos", declaró Virkkunen.

"Deben ser capaces de controlar estos sistemas", afirmó, y añadió que la UE ha enviado solicitudes de información a todas las principales empresas de IA para preguntarles qué medidas de seguridad y protección tienen implantadas.

La Comisión Europea obtuvo nuevas competencias reguladoras en agosto en virtud de la Ley de IA (AI Act), la normativa más ambiciosa del mundo para limitar los usos potencialmente peligrosos de esta tecnología.

Por su parte, la directora financiera de OpenAI, la norirlandesa Sarah Friar, aunque afirmó compartir los llamamientos a reforzar la seguridad, subrayó que tampoco se debe paralizar el sector, ya que ello podría permitir que actores malintencionados tomaran la delantera.

En ese sentido, Friar defendió la necesidad de encontrar "un equilibrio adecuado" entre innovación y regulación.

"Queremos ser transparentes y permitir que personas cualificadas evalúen nuestros modelos, pero debemos asegurarnos de que eso no nos ralentice hasta el punto de quedarnos rezagados tecnológicamente frente a esos actores malintencionados", explicó Friar.

U.Miranda--HdM