El CEO de OpenAI pidió fortalecer la cooperación internacional y establecer mecanismos de supervisión para los sistemas de inteligencia artificial más avanzados. Durante su intervención ante el Consejo de Seguridad de Naciones Unidas, destacó las oportunidades de la tecnología, pero señaló la necesidad de acompañar su desarrollo con medidas de seguridad.
Sam Altman, CEO de OpenAI, participó de una reunión del Consejo de Seguridad de Naciones Unidas dedicada a analizar los desafíos que plantea el avance de la inteligencia artificial. Durante su exposición, advirtió sobre la posibilidad de que los sistemas más sofisticados desarrollen capacidades que superen los mecanismos actuales de supervisión. En ese contexto, planteó que el crecimiento de esta tecnología requiere una mayor participación de los gobiernos y organismos internacionales.
El empresario destacó el potencial de la inteligencia artificial para mejorar la productividad, impulsar la investigación científica y ampliar las capacidades de las personas. Sin embargo, señaló que estos beneficios deben estar acompañados por medidas que permitan identificar y reducir los riesgos asociados con modelos cada vez más autónomos. Su planteo no estuvo orientado a detener el desarrollo tecnológico, sino a establecer condiciones para que avance de manera segura.
Cooperación internacional y nuevos mecanismos de seguridad
Entre las propuestas presentadas por Altman se encuentran la creación de estándares internacionales para evaluar los sistemas más avanzados, la implementación de controles previos a su puesta en funcionamiento y el establecimiento de procedimientos para informar incidentes graves. También mencionó la importancia de compartir información sobre vulnerabilidades críticas y garantizar la intervención humana en las decisiones vinculadas con el uso de estas herramientas.
Otro de los aspectos centrales de su intervención fue la necesidad de evitar que las decisiones sobre el futuro de la inteligencia artificial queden concentradas exclusivamente en las empresas desarrolladoras o en un número reducido de países. En ese sentido, sostuvo que la cooperación entre gobiernos, organismos internacionales y compañías tecnológicas resulta necesaria para definir criterios comunes de seguridad y supervisión.
El debate sobre los límites de la inteligencia artificial
La exposición de Altman se produjo en un contexto de creciente discusión sobre las capacidades de los modelos de inteligencia artificial y los desafíos que presentan para su regulación. Investigadores y especialistas del sector, incluidos profesionales vinculados con Anthropic, también expresaron preocupación por el desarrollo de sistemas con mayores niveles de autonomía. La reunión del Consejo de Seguridad incorporó estas cuestiones a la agenda internacional, con especial atención a la necesidad de establecer mecanismos de control que acompañen la evolución de la tecnología.
