Según Politico,Anthropic presentó a legisladores de EE. UU. un borrador de ley que permitiría suspender modelos de Inteligencia Artificial ante riesgos inminentes.
Según Politico,Anthropic presentó a legisladores de EE. UU. un borrador de ley que permitiría suspender modelos de Inteligencia Artificial ante riesgos inminentes.
Anthropic presentó a legisladores de Estados Unidos un borrador de ley para regular la seguridad de los modelos de Inteligencia Artificial (IA) más avanzados,de acuerdo con un informe del medio Politico.
Se trata de una iniciativa que permitiría al gobierno solicitar la suspensión de un sistema cuando represente un riesgo inminente de causar la muerte o lesiones graves a más de 50 personas,o de generar daños económicos superiores a 1,000 millones de dólares.
Politico,con base en un documento confidencial y testimonios de tres personas familiarizadas con las conversaciones,reportó que el borrador busca establecer un marco federal de seguridad para los modelos de IA de frontera,en un momento en que el Congreso de Estados Unidos debate cómo responder a los riesgos de una tecnología que avanza rápidamente.
La iniciativa no permitiría bloquear cualquier modelo por el simple hecho de presentar riesgos potenciales. La suspensión estaría reservada para situaciones que superen los umbrales definidos y que estén relacionadas con esas amenazas específicas. Los criterios propuestos coinciden con los contemplados en la legislación de seguridad de IA de California,incluida la ley SB 53,aprobada en 2025.
Además,el proyecto contempla la creación de un sistema de evaluaciones independientes para examinar periódicamente a las empresas desarrolladoras y sus modelos de IA de frontera. Los evaluadores tendrían que registrarse ante el Departamento de Comercio de Estados Unidos y podrían recibir pagos de las propias compañías evaluadas,siempre que la remuneración no dependiera del resultado de sus análisis.
Si una evaluación identifica un riesgo inminente comprendido en las categorías definidas por el proyecto, el evaluador tendría un plazo de 72 horas para informar al Departamento de Comercio,desde la finalización de su análisis.
Lee también: CEOs de OpenAI y Anthropic instan a gobiernos a trabajar juntos ante los riesgos de la IA
A partir de esa notificación,la entidad podría solicitar a un juez la suspensión del lanzamiento o uso del modelo. La decisión correspondería a un juez federal del Tribunal de Distrito de Estados Unidos para el Distrito de Columbia.
El borrador también delimita las facultades de las autoridades,pues prohíbe que cualquier otro departamento,agencia o funcionario federal suspenda por cuenta propia el desarrollo,despliegue o uso interno de un modelo. De esta manera,la propuesta establece un procedimiento judicial específico para detener sistemas considerados peligrosos y restringe la posibilidad de que distintas entidades gubernamentales adopten decisiones unilaterales.
Sin embargo,el mecanismo también plantea interrogantes sobre la independencia efectiva de las evaluaciones,dado que las empresas podrían financiar a quienes examinan sus tecnologías. Aunque el proyecto exige que los pagos no estén condicionados a los resultados,esa disposición no elimina por sí sola las dudas sobre posibles conflictos de interés.
La presentación del documento representaría un intento de la empresa,creadora de Claude,por influir en las reglas que podrían aplicarse a sus propios modelos y a los de otros desarrolladores de IA avanzada. Anthropic ya ha respaldado algunas leyes estatales de seguridad de IA,incluidas dos en California.
Por ahora,la iniciativa de Anthropic es un borrador presentado de manera privada a legisladores,no una ley aprobada. Su eventual avance dependerá de las negociaciones en el Congreso y de cómo se resuelvan las diferencias sobre los criterios de riesgo,la autoridad para suspender modelos y el alcance de la supervisión pública sobre los desarrolladores.
