El Gobierno de Estados Unidos dio a conocer una iniciativa destinada a fortalecer la seguridad de los sistemas de IA más avanzados. El esquema fue desarrollado junto a algunas de las principales empresas del sector y busca establecer un proceso de evaluación previo al lanzamiento de nuevos modelos.
La Casa Blanca presentó un nuevo marco de evaluación para modelos avanzados de inteligencia artificial, elaborado en conjunto con empresas como OpenAI, Microsoft, Google, Meta, Nvidia y Anthropic. La propuesta apunta a que las compañías sometan voluntariamente sus desarrollos a una revisión antes de ponerlos a disposición del público, con el objetivo de identificar posibles riesgos vinculados a la seguridad y al uso de estas tecnologías.
El programa está orientado a los modelos de mayor capacidad y prevé una instancia de evaluación previa a su lanzamiento. Según se informó, el proceso será de adhesión voluntaria y estará enfocado, en esta primera etapa, en los modelos de código cerrado desarrollados por las empresas participantes.
La iniciativa forma parte de una serie de acciones impulsadas por el gobierno estadounidense para acompañar el crecimiento de la inteligencia artificial y promover estándares comunes entre el sector público y las principales compañías tecnológicas. En los últimos meses, el avance acelerado de estas herramientas abrió nuevos debates sobre su desarrollo, implementación y supervisión.
Tras el anuncio también surgieron cuestionamientos por parte de especialistas y organizaciones vinculadas a la tecnología, que señalaron la falta de información pública sobre los criterios que utilizará el marco de evaluación. Mientras tanto, el gobierno y las empresas involucradas sostienen que la propuesta representa un paso hacia una mayor coordinación en materia de seguridad y desarrollo responsable de la inteligencia artificial.
