Anthropic ha estado presentando entre bambalinas un borrador de proyecto de ley sobre la seguridad de los modelos de IA más punteros en el Capitolio, según el medio Politico. Desde luego no es frecuente que un laboratorio de IA intente redactar las normas de su propia industria. Pero lo que ha arqueado más de una ceja es que su propuesta fijaría un listón muy alto antes de que el gobierno pueda detener un modelo, concentrando ese poder en un solo departamento. Te contamos los detalles.
Work in progress. El Congreso en Estados Unidos está sopesando actualmente varias propuestas de seguridad de la IA, y Anthropic ha redactado un borrador con dos o tres cosas llamativas. Un portavoz de Anthropic declaraba a Politico que el proyecto de ley refleja el Marco de IA Avanzada de la empresa, que ha estado promoviendo entre los legisladores desde junio, y califica su contenido como "políticas sensatas sobre las que creemos que el Congreso debería actuar".
El umbral. Según comparte Politico, que ha tenido acceso al borrador, el gobierno podría bloquear el lanzamiento o uso de un modelo únicamente si este plantea un riesgo previsible e inminente de más de 1.000 millones de dólares en daños, o de causar la muerte o lesiones graves a más de 50 personas. El peligro también tendría que provenir de:
- Un arma biológica.
- Un modelo que evada los controles de su desarrollador.
- Un ciberataque.
Cómo funcionaría. El medio cuenta que instituciones independientes, registradas en el Departamento de Comercio, evaluarían periódicamente a un laboratorio de IA y sus modelos frontera. Los laboratorios podrían pagarles, siempre y cuando el pago no dependa del resultado de la evaluación. Si un evaluador detecta un "riesgo inminente enumerado", debe comunicárselo al Departamento de Comercio en un plazo de 72 horas tras finalizar la evaluación. Tras ello, según apunta el medio, Comercio podría solicitar a un juez federal del Tribunal de Distrito que detenga el lanzamiento de un modelo. Tom's Hardware añade que Comercio tendría que presentar sus pruebas ante dicho juez, quien toma la decisión final.
Un solo organismo tiene el interruptor. Politico afirma que el texto prohíbe explícitamente a cualquier otro "departamento, agencia u oficial" suspender el desarrollo, despliegue o uso interno de un modelo. Así que si esto lo combinamos con el umbral que hemos explicado antes, convertiría al Departamento de Comercio en el único órgano ejecutivo para detener un modelo, y solo un tribunal puede ordenarlo.
Más allá de quién tendría ese botón rojo, Politico cuenta que los laboratorios de IA tendrían que crear marcos de seguridad, publicar informes de transparencia para los nuevos modelos de frontera, proteger a los que denuncian sobre los problemas de seguridad de los modelos y notificar los incidentes críticos de seguridad al Departamento de Comercio.
Un momento delicado. Las preocupaciones sobre la seguridad de la IA se han intensificado tras varios incidentes destacados a lo largo de estos últimos meses, incluyendo el hackeo a Hugging Face por parte de cientos de agentes de OpenAI, o la irrupción de varios agentes de IA en webs gubernamentales, entre otros momentos complicados.
Politico añade que varios de los incidentes que surgieron este verano no se han traducido en bajas mortales o daños económicos superiores a 1.000 millones de dólares, por lo que desde el punto de vista del borrador compartido por Anthropic, esos incidentes no habrían superado ese umbral.
De momento es solo un borrador y Anthropic aún no ha respaldado formalmente ningún proyecto de ley específico en el Congreso. Tendremos que esperar para conocer si los legisladores ven ese umbral de los 1.000 millones de dólares y 50 víctimas como una medida de seguridad razonable. Viendo que la idea ha agitado en buena medida al sector, hay dudas.
💬 Debate de la Comunidad 0