En una entrevista con The New York Times, el cofundador de Microsoft fue contundente: los modelos de inteligencia artificial actuales ya tienen capacidad técnica para provocar fallas masivas en sistemas bancarios y redes eléctricas. Su diagnóstico no apunta al futuro sino al presente, y su reclamo es concreto: supervisión obligatoria para todos los modelos, sin excepciones. Para América Latina, donde la regulación de la IA es todavía incipiente, el mensaje llega en un momento crítico.
Bill Gates no suele hablar con alarmismo. Por eso cuando lo hace, vale prestar atención. En una entrevista publicada este martes en The New York Times, el cofundador de Microsoft y uno de los filántropos tecnológicos más influyentes del mundo fue directo al punto: «La capacidad de un ciberataque que cause enredos en todas las cuentas bancarias y cause apagones generales ya existe, y lo sabemos».
La frase, dicha al periodista Ezra Klein, no describe un escenario hipotético a futuro. Gates habla de una capacidad técnica que, según su evaluación, está disponible ahora mismo en los modelos de inteligencia artificial actuales.
Por qué el riesgo ya no es una posibilidad futura
Durante meses, el debate sobre los riesgos de la inteligencia artificial giró en torno a una pregunta: ¿cuándo se vuelve peligrosa? La respuesta de Gates es que esa pregunta ya no tiene sentido, porque la condición de peligrosidad ya se alcanzó.
Los modelos actuales de IA generativa tienen, según Gates, la capacidad técnica de provocar fallas masivas en sistemas bancarios y en redes de suministro eléctrico. No por cuenta propia —el cofundador de Microsoft es cuidadoso en aclarar que el peligro no está en que la IA «despierte» una conciencia maliciosa— sino porque pueden ser utilizados por actores humanos con intenciones destructivas.
«Hay humanos que con mala intención podrán usar estos modelos», señaló Gates, dejando en claro el vector del riesgo: no es la tecnología en sí, sino la ausencia de controles que impidan su uso para fines ofensivos.
Anthropic, el Proyecto Glasswing y los modelos demasiado potentes para lanzar
Gates conectó su advertencia con dos episodios concretos que marcan el estado actual del campo. El primero involucra a Anthropic: en abril pasado, la compañía describió su modelo Mythos —la clase más avanzada de su familia— como demasiado potente para lanzarlo públicamente. Gates recordó ese anuncio como evidencia del mismo fenómeno que hoy le preocupa: «La capacidad de ciberhackeos era sorprendente».
El segundo episodio que mencionó fue el Proyecto Glasswing, una iniciativa de Anthropic que permitía a un grupo reducido de organizaciones de confianza acceder a un modelo antes de su lanzamiento para intentar detectar fallas de seguridad —una práctica conocida en la industria como red teaming. Gates valoró la iniciativa pero la consideró insuficiente frente a la magnitud del problema: «Había demasiado código, así que estamos en un período de extrema vulnerabilidad a los ciberataques».
El red teaming es el proceso mediante el cual especialistas en seguridad intentan encontrar formas de hacer que un sistema de IA produzca resultados dañinos o peligrosos, simulando el rol de un atacante. Es la práctica estándar de la industria para identificar vulnerabilidades antes del lanzamiento, pero su efectividad depende de que quienes la realizan tengan tiempo, acceso y herramientas suficientes para explorar toda la superficie de ataque posible —algo que Gates considera no garantizado en los ciclos de desarrollo actuales.
El blanco específico: los modelos de código abierto
Una parte significativa de la crítica de Gates apunta a los modelos de código abierto. Citó «aspectos de Hugging Face» —la plataforma de distribución de modelos de IA más utilizada del mundo— como ejemplo de incidentes de ciberseguridad vinculados a modelos de IA que ya están ocurriendo en tiempo real.
Un modelo de código abierto es aquel cuyo código fuente y, en muchos casos, sus pesos de entrenamiento —los parámetros internos que determinan su comportamiento— están disponibles públicamente. Eso permite que cualquier persona los descargue, los modifique y los utilice sin restricciones. La lógica de la apertura es fomentar la investigación y reducir la concentración de poder en pocas compañías. El argumento de Gates apunta al reverso de esa moneda: también significa que actores maliciosos pueden acceder a esos modelos, eliminar las salvaguardas de seguridad que los laboratorios incorporaron y utilizarlos para fines ofensivos sin ningún control.
Hugging Face, mencionada explícitamente, es la plataforma donde se alojan decenas de miles de modelos de IA, incluyendo versiones modificadas de los principales modelos de código abierto del mundo. La plataforma ya tuvo incidentes documentados de modelos que contenían código malicioso embebido en sus archivos.
La propuesta: supervisión obligatoria como requisito no negociable
De todo el diagnóstico de Gates se desprende una conclusión política concreta. No se trata de pedir más investigación ni de llamar a la prudencia en el desarrollo: Gates reclama una «capa de supervisión con determinados absolutos» aplicada a todos los modelos, sin excepciones.
La lógica que sostiene ese reclamo es la de la gestión de riesgos catastrófico: si un sistema puede provocar fallas masivas en infraestructura crítica, la ausencia de controles no es una opción comercial —es una decisión de política pública con consecuencias colectivas que exceden a cualquier empresa o país individualmente.
«A menos que integremos salvaguardas y monitoreo, como exigencia para todos los modelos, tendremos eventos gigantescos de ese tipo y recién entonces vamos a responder», dijo Gates a Klein. La secuencia que describe es la misma que históricamente se repite en la regulación tecnológica: el incidente primero, la norma después.
En ese marco, Gates también describió el desarrollo de la IA como «la historia evolutiva» y afirmó que «ya están aquí los extraterrestres», en referencia a los propios modelos. La metáfora puede sonar provocativa, pero refuerza el argumento central: la IA ya no es una tecnología del futuro que se puede regular con tiempo. Es una realidad presente que opera con capacidades que las instituciones regulatorias todavía no comprendieron del todo.
La lectura para América Latina
Para la región, las declaraciones de Gates llegan en un momento en que la mayoría de los países latinoamericanos no tienen aún marcos regulatorios específicos para la inteligencia artificial. Brasil avanza con su proyecto de ley de IA en el Congreso, y Argentina tiene iniciativas en discusión, pero ninguno ha alcanzado aún el nivel de obligatoriedad que Gates describe como mínimo necesario.
La infraestructura crítica que Gates menciona —sistemas bancarios y redes eléctricas— es exactamente el tipo de infraestructura que en la región presenta mayores vulnerabilidades históricas: sistemas heredados, integración digital acelerada en los últimos años y capacidades de ciberseguridad que en muchos casos no crecieron al mismo ritmo que la digitalización.
Si la advertencia de Gates es correcta —y los incidentes documentados en plataformas como Hugging Face sugieren que no es solo especulación—, América Latina enfrenta un doble desafío: adoptar la IA para no quedarse atrás en productividad y competitividad, y construir simultáneamente los marcos de supervisión que impidan que esa adopción abra vectores de ataque sobre infraestructura que aún no está preparada para resistirlos.
