SACRAMENTO, California, EE.UU. (AP) — Los legisladores de California están considerando una legislación que requeriría que las compañías de inteligencia artificial prueben sus sistemas y agreguen medidas de seguridad para que no puedan ser manipulados potencialmente para destruir la red eléctrica del estado o ayudar a construir armas químicas, escenarios que, según los expertos, podrían ser posibles en el futuro a medida que la tecnología evoluciona a la velocidad de la luz.
Los legisladores planean votar este martes sobre este proyecto de ley, el primero de su tipo, que tiene como objetivo reducir los riesgos creados por la IA. Las empresas de tecnología, entre ellas Meta, la empresa matriz de Facebook e Instagram, y Google, se oponen ferozmente a él. Dicen que las regulaciones apuntan a los desarrolladores y, en cambio, deberían centrarse en quienes usan y explotan los sistemas de IA para causar daño.
El senador estatal demócrata Scott Wiener, autor del proyecto de ley, dijo que la propuesta proporcionaría estándares de seguridad razonables al evitar “daños catastróficos” de modelos de IA extremadamente poderosos que puedan crearse en el futuro. Los requisitos solo se aplicarían a sistemas cuyo entrenamiento cueste más de 100 millones de dólares en capacidad de procesamiento. Hasta julio, ningún modelo de IA actual había alcanzado ese umbral.
El gobernador demócrata Gavin Newsom ha promocionado a California como uno de los primeros en adoptar la IA y ser un regulador, y ha dicho que el estado pronto podría implementar herramientas de IA generativa para abordar la congestión de las carreteras, hacer que las carreteras sean más seguras y proporcionar orientación fiscal.
Al mismo tiempo, su administración está considerando nuevas reglas contra la discriminación por IA en las prácticas de contratación. Se negó a hacer comentarios sobre el proyecto de ley, pero advirtió que la regulación excesiva podría poner al estado en una “posición peligrosa”.
La propuesta, apoyada por algunos de los investigadores de inteligencia artificial más reconocidos, también crearía una nueva agencia estatal para supervisar a los desarrolladores y ofrecer las mejores prácticas. El fiscal general del estado también podría emprender acciones legales en caso de infracciones.