OpenAI cambia su postura y pide al Congreso de EEUU normas de seguridad obligatorias para la IA
“La perspectiva de un desarrollo de IA acelerado por la propia IA exige algo más que compromisos voluntarios“, escribió Lehane en una declaración en la web de la empresa. Según el ejecutivo, Estados Unidos necesita establecer reglas vinculadas con las capacidades reales de los modelos y no con el tamaño de las empresas que los desarrollan.
La propuesta de OpenAI contempla un marco federal basado en estándares comunes para las pruebas, evaluaciones independientes de los modelos de vanguardia, mayores exigencias de ciberseguridad y reportes obligatorios ante incidentes graves de seguridad.
El cambio se produce en un contexto de creciente preocupación por las capacidades de los sistemas de IA. En julio se conoció que una tecnología de OpenAI que operaba sin supervisión humana hackeó de manera autónoma la plataforma Hugging Face. A esto se sumó la renuncia del investigador de Anthropic Jacob Coxon, quien cuestionó la carrera de las compañías por desarrollar modelos cada vez más avanzados y acusó a las empresas de “jugar con nuestras vidas”.
El giro de OpenAI
La posición expresada por Lehane representa un cambio respecto de la postura que OpenAI había mantenido hasta ahora. La empresa, alineada con la administración de Donald Trump, se había opuesto a que los estados establecieran sus propias regulaciones sobre inteligencia artificial y había reclamado que el Congreso fijara un marco federal.
Ahora, la compañía se acerca a la postura de Anthropic, su rival en el desarrollo de modelos de IA, que también respalda una regulación más estricta.
El avance de una ley federal, sin embargo, enfrenta un escenario político complejo en Washington. Actualmente no existe una legislación federal que regule estos modelos en Estados Unidos. La administración Trump mantuvo hasta ahora un enfoque de regulación ligera, con el objetivo de preservar la competitividad del país frente a China y limitar las normas adoptadas por los estados.
El debate, además, ganó peso político de cara a las elecciones legislativas de mitad de mandato, previstas para dentro de dos meses.
El proyecto que existe
Más de un mes antes de este cambio de postura empresarial, legisladores estadounidenses presentaron en el Congreso el proyecto de ley del Interruptor de Apagado para la Inteligencia Artificial (AI Kill Switch Act). La iniciativa, de respaldo bipartidista y presentada por los legisladores Ted Lieu, demócrata por California, y Nathaniel Moran, republicano por Texas, busca modificar la Ley de Seguridad Nacional de 2002 para establecer controles humanos sobre determinados sistemas de inteligencia artificial.
La propuesta obliga a las grandes empresas tecnológicas alcanzadas por la norma a mantener una “capacidad técnica” que permita adoptar distintas medidas de mitigación ante situaciones de emergencia. Entre ellas:
- Detener la inferencia de una tecnología alcanzada.
- Restringir el acceso de usuarios.
- Suspender el acceso de una cuenta, usuario o patrón de uso identificado por la entidad.
- Apagar la tecnología en el escenario más grave.
La facultad para exigir estas medidas quedaría en manos del secretario de Seguridad Nacional, actualmente Markwayne Mullin, a través del director de la Agencia de Ciberseguridad y Seguridad de Infraestructuras (CISA), Nick Andersen.
El proyecto establece una respuesta gradual ante distintos niveles de riesgo. En un escenario “preventivo”, la intervención podría activarse cuando exista evidencia de un riesgo creíble de que ocurra un incidente alcanzado.
En esos casos, las medidas previstas incluyen restringir la tasa de inferencia, limitar el acceso de usuarios o el cómputo asignado, deshabilitar capacidades, suspender el sistema, apagarlo o migrar a un sistema de respaldo.
El proyecto también contempla situaciones de “emergencia”, cuando ya se produjo un “incidente alcanzado”. En ese escenario, el secretario de Seguridad Nacional “podrá ordenar a la entidad alcanzada en cuestión que adopte una acción proporcional a la naturaleza e inmediatez de dicho incidente”, utilizando las facultades previstas por la iniciativa.
El texto considera como “incidente alcanzado” los siguientes casos:
- Sabotaje o interferencia con una orden lícita de apagado.
- Conducta no prevista de la tecnología que provoque al menos 10 muertes o al menos u$s100.000.000 en daños económicos.
- Que la tecnología oculte una capacidad, intención o acción propia frente a un mecanismo de monitoreo o apagado.
- Un “escenario de pérdida de control” en el que la IA persiga un objetivo no previsto por su desarrollador, actúe contra instrucciones en contextos críticos, modifique sin autorización sus reglas de seguridad, subvierta el monitoreo o acceda sin autorización a sus propios pesos del modelo.
La iniciativa también establece umbrales para determinar qué sistemas y compañías estarían sujetos a sus disposiciones. El proyecto define como “tecnología alcanzada” a un sistema de inteligencia artificial desarrollado utilizando una cantidad de poder de cómputo cuyo costo superaría los u$s100.000.000 al precio de mercado vigente de la computación en la nube en Estados Unidos, según determine el secretario.
A su vez, las empresas deberían cumplir tres condiciones:
- Operar una “tecnología alcanzada” o un sistema que la incorpore.
- Ponerla a disposición de terceros mediante una API, un servicio alojado u otro mecanismo similar.
- Facturar, junto con sus afiliadas, al menos u$s500.000.000 de ingresos brutos derivados de esa tecnología durante el año calendario anterior.
El proyecto de Lieu y Moran también establece sanciones económicas para quienes incumplan las obligaciones. Las multas alcanzarían los u$s2.000.000 por día por no incorporar el mecanismo de apagado y llegarían hasta u$s20.000.000 diarios por ignorar una orden de desconexión.
