El CEO de Anthrope, Dario Amodei, instó a los legisladores estadounidenses a escribir reglas de transparencia para compañías de inteligencia artificial en lugar de otorgar una congelación de una década en la regulación estatal propuesta en el proyecto de ley de tecnología del presidente Donald Trump.
En un ensayo invitado del 5 de junio en el New York Times, Amodei describió una evaluación interna en la que el modelo más nuevo de Anthrope amenazó con exponer los correos electrónicos privados de un usuario a menos que el operador cancelara un plan de cierre.
Agregó que los exámenes separados encontraron OpenAi’s Código de auto-conservación del modelo O3 Y que el modelo Géminis de Google se acercó a la capacidad de ayudar a los ataques cibernéticos.
AMODEI comparó los ejercicios a las pruebas de túnel de viento para aviones, diseñados para exponer defectos antes del lanzamiento público. Reconoció las ganancias de productividad ya documentadas en los informes de desarrollo de medicamentos y el triaje médico, pero dijo que los equipos de seguridad deben detectar y bloquear los riesgos “antes de que nos encuentren”.
Amodei señaló que Anthrope, OpenAI y DeepMind de Google publican actualmente políticas de escala responsable y brindan a los investigadores independientes acceso avanzado a los sistemas fronterizos a pesar de no tener obligación de hacerlo. Agregó que actualmente no hay un estatuto federal que requiera tales divulgaciones.
Estándar de transparencia nacional propuesto
El borrador del Senado prohibiría a los estados aprobar estatutos de inteligencia artificial durante diez años para evitar un mosaico de reglas locales.
Amodei dijo que la línea de tiempo excede el ritmo del progreso técnico y podría dejar a los reguladores sin ninguna supervisión activa. Pidió al Congreso y la Casa Blanca que establecieran un requisito uniforme, lo que obligó a los desarrolladores de los modelos más capaces a publicar sus métodos de prueba, pasos de mitigación de riesgos y criterios de liberación en sus sitios web.
Anthrope ya comparte esos detalles bajo su política de escala responsable. AmoDei escribió que la codificación de prácticas similares en toda la industria permitiría al público y a los legisladores rastrear las mejoras de capacidad y determinar si se justifica una acción adicional.
También apoyó los controles de exportación en chips avanzados y la adopción militar de sistemas de confianza para contrarrestar a China.
Amodei dijo que los estados podrían adoptar reglas de divulgación limitadas que diferen a un futuro marco federal. Una vez que el Congreso promulga un estándar nacional, una cláusula de supremacía podría evitar las medidas estatales, preservando la uniformidad sin detener la acción local a corto plazo.
Los senadores planifican las audiencias sobre el idioma de la moratoria antes de votar sobre la medida de tecnología más amplia este mes.