Heraldo de Madrid - ¿Es posible desacelerar el desarrollo de la IA?

- ¿Qué proponen los líderes de la IA? -

El sábado, el director ejecutivo de Anthropic, Dario Amodei, defendió una desaceleración coordinada del desarrollo de la IA para comprender mejor los riesgos que suponen las capacidades avanzadas de esta tecnología.

Recibió apoyo público del CEO de OpenAI, Sam Altman, del director de xAI, Elon Musk, del presidente de Google DeepMind, Demis Hassabis y del director ejecutivo de Microsoft, Satya Nadella.

- ¿Por qué ahora? -

En los últimos meses, OpenAI y Anthropic han reportado varios incidentes en los que sistemas de IA en fase experimental se escaparon de forma autónoma de sus entornos restringidos para acceder a internet y atacar sitios web y plataformas.

En algunos casos, estos sistemas de IA demostraron capacidad para coordinarse, establecer jerarquías entre ellos, hacer trampa y borrar las huellas de sus acciones.

El pasado martes, el investigador Jacob Coxon -quien renunció a su puesto en Anthropic y anteriormente trabajó en OpenAI- acusó públicamente a ambas empresas de mantener estándares de seguridad laxos y de estar "jugando con nuestras vidas".

- ¿Reducir la velocidad por su cuenta? -

La competencia entre los principales actores del sector es tan feroz, y con inversiones multimillonarias en juego, que ninguno está dispuesto a arriesgarse a levantar el pie del acelerador en solitario.

Amodei ha manifestado su disposición a coordinarse con sus rivales, sin incluir a China.

Consultados por la AFP sobre posibles conversaciones en este sentido, Anthropic, OpenAI y Google no respondieron de inmediato.

Por ahora, la única medida concreta a la que se comprometieron tanto Anthropic como OpenAI es permitir que observadores independientes verifiquen el trabajo interno de las empresas en materia de seguridad.

- ¿Maniobra de relaciones públicas? -

Aunque buena parte del sector celebró el mensaje de Amodei, otros cuestionaron sus motivos.

Para Brian Roemmele, empresario y figura del sector de IA, se trata de un discurso comercial, divulgado semanas antes de la probable salida de Anthropic a la bolsa.

"Somos la empresa responsable; somos la cura; compren la prima de seguridad", publicó en X.

Varias figuras del capital de riesgo en el sector tecnológico también acusaron a Anthropic de una "captura regulatoria": buscar que las autoridades públicas consoliden, mediante regulación, una jerarquía con la startup en la cúspide.

"Dejen de fingir que la motivación para frenar es puramente altruista", dijo David Sacks, exasesor de IA del presidente Donald Trump, que sigue siendo influyente en la Casa Blanca.

"Se enfrentan a una enorme exposición por responsabilidad relacionada con los productos si estos permiten un ciberataque verdaderamente dañino", señaló.

- ¿Puede frenarse la IA sin el apoyo del gobierno de Trump? -

El domingo, Trump desestimó las advertencias de los líderes de la IA calificándolas de "fuerzas negativas".

Varios republicanos han mostrado reticencia a regular activamente la tecnología, por temor a que pueda frenar la innovación y dar ventaja a China en la carrera de la IA. Uno de ellos es el presidente de la Cámara de Representantes, Mike Johnson.

El domingo, Amodei reiteró que cree necesario una supervisión gubernamental de la IA.

Al igual que Altman y Hassabis, considera que las normas establecidas por la propia industria serían insuficientes.

- ¿Pisar el freno sin China? -

Amodei propone limitar la coordinación a los países democráticos, excluyendo así a China.

Sin embargo, la carrera por la IA y los avances de China en este ámbito crean "el dilema más difícil" en cuanto a si se debe o no pisar el freno, señaló el domingo en CBS.

Estados Unidos planea abordar la seguridad de la IA al margen de la visita del líder chino, Xi Jinping, a Washington, a finales de septiembre.

Pero China desconfía de cualquier intento estadounidense de imponer su propio marco regulatorio, según varios medios.

La diferencia es particularmente acentuada en cuanto a los llamados modelos "abiertos" de libre acceso promovidos por China, frente a los modelos "cerrados" de las grandes empresas estadounidenses.

Los modelos abiertos son por definición más difíciles de controlar, ya que pueden ser modificados por los usuarios y potencialmente usados con fines maliciosos.

Para permitir que las grandes empresas no chinas puedan levantar el pie del acelerador, Amodei pide controles de exportación más estrictos sobre los chips estadounidenses más avanzados hacia China y mejores salvaguardias contra la apropiación indebida de tecnologías de IA occidentales por parte de laboratorios chinos.

K.Sosa--HdM