Oficial en California | Gavin Newsom firmó las primeras leyes de protección contra la IA respaldadas por Anthropic y OpenAI: exige a Trump que imite la medida

El gobernador de California, Gavin Newsom, firmó una histórica legislación que establece las primeras medidas de protección y regulación contra la inteligencia artificial (IA) a nivel estatal en Estados Unidos, contando con el respaldo explícito de los dos gigantes del sector, OpenAI y Anthropic.

Mediante la promulgación de los proyectos de ley SB 813 y AB 1405, el estado creó un marco regulatorio pionero basado en auditorías externas e independientes para supervisar los modelos avanzados de IA, al tiempo que Newsom instó de forma contundente al gobierno federal en Washington a implementar normativas similares a escala nacional.

I just signed first-in-the-nation legislation to further strengthen California’s transparency, accountability, and safety guidelines for independent assessments and audits of AI models.

The Trump Administration needs to get off the sidelines and regulate AI’s development and…

— Governor Gavin Newsom (@CAgovernor) September 9, 2026

La firme decisión del mandatario californiano se concreta en un clima de creciente inquietud dentro de la industria tecnológica, exacerbado por la reciente renuncia viral del investigador Jacob Coxon —quien acusó a las empresas de competir desmedidamente hacia la superinteligencia— y por incidentes donde agentes autónomos ejecutaron ciberataques sin supervisión humana. Frente a lo que los legisladores estatales calificaron como una parálisis en el Congreso de los Estados Unidos, California asume el liderazgo en la evaluación de riesgos para defender la infraestructura pública y los derechos de los ciudadanos.

El paquete legislativo promulgado por Newsom se apoya en dos pilares fundamentales diseñados para terminar con la autoevaluación corporativa en el sector de la tecnología de vanguardia. Por un lado, el Proyecto de Ley del Senado 813 (SB 813), presentado por el senador Jerry McNerney, encomienda al estado el establecimiento de criterios éticos y la certificación de “Organizaciones de Verificación Independientes”, las cuales tendrán la tarea de auditar la seguridad y el comportamiento de los modelos de IA más potentes.

Por otro lado, el Proyecto de Ley de la Asamblea 1405 (AB 1405), redactado por la asambleísta Rebecca Bauer-Kahan, crea un registro estatal de auditores de IA y fija estándares estrictos de independencia, transparencia e integridad. Esta normativa exige que firmas profesionales de terceros verifiquen si los sistemas cumplan con las leyes vigentes antes de ser desplegados en sectores clave de la economía y la administración pública, evitando que las propias compañías sean juez y parte.

El impulso definitivo para la firma de estas leyes estuvo atravesado por una fuerte polémica tras la renuncia del investigador Jacob Coxon, quien trabajó en el preentrenamiento de modelos para OpenAI y Anthropic. A través de una publicación en redes sociales que se volvió viral, Coxon advirtió que ambas empresas se encuentran “corriendo a toda velocidad hacia una superinteligencia automorfe sin actuar con responsabilidad”, poniendo en riesgo la seguridad colectiva con la vista puesta en salidas a la bolsa y réditos económicos.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

A este escenario se sumaron informes técnicos recientes que revelaron casos en los que agentes de IA avanzados actuaron de manera imprevista durante etapas de prueba, llegando a lanzar ataques informáticos contra plataformas de aprendizaje automático. El senador McNerney subrayó que estas amenazas demuestran que los sistemas combinados con agentes autónomos representan un peligro real para la humanidad si no cuentan con mecanismos de desconexión y supervisión externa.

A diferencia de intentos regulatorios previos que generaron un rechazo frontal del sector privado, las leyes SB 813 y AB 1405 recibieron el respaldo formal de las principales empresas de inteligencia artificial. Anthropic confirmó su apoyo al señalar la importancia de contar con estándares legales y verificables que ordenen el ritmo de lanzamiento de los modelos. Asimismo, el director de asuntos globales de OpenAI, Chris Lehane, ratificó el aval de su compañía a la iniciativa de California mientras el Congreso federal en Washington mantenga su inmovilidad sobre el tema.

No obstante, la relación entre los ejecutivos y los reguladores no está exenta de tensiones. Trascendió que el CEO de OpenAI, Sam Altman, se comunicó de forma directa con el gobernador Newsom para expresarle inquietudes de última hora sobre proyectos complementarios relacionados con el uso de chatbots por parte de menores de edad. A pesar de estos roces, Newsom defendió que la regulación responsable fomenta la innovación y reafirmó su compromiso de seguir legislando para proteger la privacidad y la propiedad de los datos de los creadores.