Ley de seguridad de IA: Anthropic presenta propuesta para regular el sector
Anthropic presentó a legisladores de EE.UU. un borrador de ley de seguridad de IA que permitiría al Gobierno bloquear modelos con riesgo de muerte de más de 50 personas o daños de US$1.000 millones.
Bloomberg
La empresa Anthropic PBC presentó discretamente a legisladores estadounidenses su propio proyecto de ley de seguridad de IA, una propuesta que incluye un plan para regular la seguridad y la protección de la inteligencia artificial, según un informe de Politico basado en un borrador al que tuvo acceso. La iniciativa busca establecer un marco regulatorio que permita al Gobierno bloquear el lanzamiento de modelos de IA cuando exista un riesgo inminente para la población.
Ley de seguridad de IA: umbrales para bloquear modelos
Según Politico, la propuesta sugiere que el Gobierno podría bloquear el lanzamiento de un modelo de IA si se determina que existe un riesgo inminente de que provoque la muerte o lesiones a más de 50 personas o de que cause daños por valor de más de US$1.000 millones. Estos umbrales buscan establecer criterios claros y medibles para la intervención estatal en el desarrollo de sistemas de inteligencia artificial considerados peligrosos.
Amenazas específicas: armas biológicas, ciberataques y escape de control
La amenaza debe derivarse de que el modelo cree o lance un arma biológica, de que la IA escape al control humano o de un ciberataque, según informó Politico. Estas tres categorías de riesgo son las que la empresa considera más críticas y las que justificarían la intervención del Gobierno para evitar consecuencias catastróficas. El borrador recoge muchas de las ideas que Anthropic propuso por primera vez en su Marco de IA Avanzada el pasado mes de junio, un documento en el que la compañía detalló su enfoque para el desarrollo seguro de sistemas de inteligencia artificial.
Evaluadores independientes y revisión periódica
El proyecto de ley propone asimismo que evaluadores independientes revisen periódicamente a Anthropic y sus modelos de IA, según ha señalado Politico, citando el borrador. Esta medida busca garantizar que las empresas de inteligencia artificial cumplan con los estándares de seguridad establecidos y que sus sistemas sean auditados de forma transparente y rigurosa.
La presión por regular la IA en Estados Unidos
La propuesta de Anthropic se produce en un contexto de creciente presión por parte de legisladores, organizaciones de derechos humanos y expertos en tecnología para que el Congreso de Estados Unidos apruebe una legislación federal que regule la inteligencia artificial. Recientemente, una coalición bipartidista de fiscales generales de 25 estados instó al Congreso a regular la IA y advirtió que su desarrollo descontrolado amenaza el sistema financiero, la infraestructura crítica y la seguridad nacional del país.
Lea también: Fiscales generales de 25 estados exigen al Congreso de EE.UU. regular la IA
Lea también: Trump elimina protección del Título IX para estudiantes LGBTQ+
El informe no especificó a qué legisladores ni con qué alcance ha presentado Anthropic la propuesta hasta el momento, pero refleja la estrategia de la empresa por influir en el debate regulatorio y posicionarse como un actor clave en la construcción de un marco legal para la IA en Estados Unidos. La iniciativa podría sentar un precedente importante para la industria y definir el rumbo de la regulación de una tecnología que avanza a pasos agigantados.
