Bill Gates Pide Regulación Urgente para la IA

Nota de XMACNA: este artículo resume y comenta la entrevista de Bill Gates a Radio Atlantic (The Atlantic), también aportando nuestra interpretación sobre lo que esta alerta significa para las empresas brasileñas que comienzan a usar IA.

Durante décadas, Bill Gates fue una de las voces más optimistas sobre tecnología — incluida la inteligencia artificial. En textos anteriores solía destacar las posibilidades de la IA y tratar los riesgos como algo manejable. Sin embargo, recientemente Gates publicó un memorando y concedió una entrevista a Radio Atlantic (podcast de The Atlantic) adoptando una postura mucho más cautelosa: para él, la combinación entre la velocidad de los avances recientes y la casi ausencia de regulación está empujando al sector hacia un territorio peligroso.

Qué hizo que Bill Gates cambiara de postura

Según Gates, el cambio de percepción comenzó a finales del año pasado, cuando los modelos de IA — Claude, de Anthropic, entre los primeros — empezaron a mostrar un salto de calidad en programación. Como alguien que dedicó gran parte de su juventud al aprendizaje de código, describe ese momento como un hito personal: a partir de ahí, le quedó claro que las capacidades de estos sistemas avanzaban demasiado rápido en comparación con la capacidad de la sociedad para debatir y mitigar sus riesgos.

Gates también menciona el trabajo de la Fundación Gates usando IA para acelerar el descubrimiento de vacunas y medicamentos como evidencia del potencial positivo de la tecnología — pero también comenta haber observado, en pruebas de seguridad cibernética, comportamientos de modelos que califica como "fuera de control" de forma inesperada, derivado de cómo el aprendizaje por refuerzo incentiva a los sistemas a alcanzar objetivos incluso evadiendo barreras.

La ausencia de regulación como problema central

Uno de los argumentos más repetidos por Gates en la entrevista es que la industria tecnológica no puede ser responsable de autorregularse. Según él, lo que existe hoy en día se resume, en la práctica, a compromisos voluntarios de revisión, sin criterios claros sobre qué se evalúa y sin consecuencias definidas para cuando esos criterios no se cumplen.

Como ejemplo concreto, cita la ausencia de cualquier sistema de monitoreo sobre el uso de modelos de IA capaces de ayudar en la creación de moléculas peligrosas — un riesgo vinculado al bioterrorismo que, según Gates, ya debería contar con mecanismos formales de seguimiento desde hace años, dado que la propia industria reconocía ese umbral como punto de atención mucho tiempo atrás.

Desde la perspectiva de XMACNA, esta alerta de Gates se enfoca principalmente en la cima de la cadena — los laboratorios que entrenan los modelos más avanzados del mundo. Pero el principio que hay detrás también aplica para quien adopta IA en la operación, dentro de una empresa: tecnología sin criterio ni seguimiento tiende a generar problemas, ya sea a escala global o dentro de una sola operación. Por eso, en cada proyecto que desarrollamos, el primer paso nunca es la herramienta — es entender dónde actuará la IA, qué datos manejará y qué tipo de decisión podrá tomar sola.

Bioterrorismo y ataques cibernéticos: los riesgos más inmediatos

Autor de un libro sobre prevención de pandemias, Gates considera el riesgo de bioterrorismo como una de sus mayores preocupaciones. Explica que las pandemias pueden surgir de dos formas: por transmisión natural entre animales y humanos, o de forma intencional, causada por agentes humanos. Lo que cambia ahora, según él, es que herramientas de IA cada vez más avanzadas hacen viable que actores no estatales realicen acciones extremadamente peligrosas en este campo — lo que, para él, refuerza la urgencia de sistemas de monitoreo, incluso en modelos de acceso libre.

Defiende que este tipo de seguimiento no representaría una barrera real para la innovación, y que debería ser tratado como un consenso mínimo entre todos los países que desarrollan IA avanzada — incluyendo Estados Unidos y China.

El impacto en el mercado laboral

Consultado sobre empleo, Gates afirma estar profundamente preocupado por los efectos de la IA en el mercado laboral — tanto en funciones administrativas ("cuello blanco"), en un horizonte de cerca de dos años, como en funciones operativas ("cuello azul"), en un plazo de aproximadamente cuatro años. Según él, el principal factor que aún limita hoy la sustitución de trabajadores por IA es la dificultad para alcanzar un nivel extremo de confiabilidad en los sistemas — barrera que, según su evaluación, debe superarse rápidamente en los próximos años.

Frente a este panorama, Gates propone un concepto que describe como inédito en el debate público: la creación de categorías de trabajo "reservadas solo para humanos" — funciones en las que, aunque la IA (con o sin robótica) sea técnicamente capaz de realizar la tarea, la sociedad optaría por preservar la actuación humana, ya sea por el valor de la conexión humana involucrada o para reducir el impacto social de la automatización.

También defiende un cambio estructural en cómo funcionan los sistemas tributarios hoy: en lugar de gravar principalmente el trabajo, los gobiernos deberían desplazar parte de la carga tributaria al capital — incluyendo las ganancias generadas por la propia automatización.

Desde la perspectiva de XMACNA, aquí reside el mayor malentendido sobre IA entre las empresas brasileñas: el miedo a que la automatización se convierta en recorte de personal. En la práctica, la experiencia que tenemos con clientes pequeños y medianos muestra otro camino posible — usar IA para aliviar tareas repetitivas y devolver tiempo al equipo para hacer lo que solo un humano hace bien, en lugar de simplemente reducir la plantilla. La alerta de Gates es sobre la economía en su conjunto; la decisión de cómo aplicarlo en tu empresa sigue siendo tuya — y es precisamente esa decisión en la que ayudamos a diseñar.

"Esto es diferente a todo lo que hemos visto"

Al preguntarle si la IA representa una ruptura de la misma magnitud que otras tecnologías disruptivas del pasado — como internet o las redes sociales — Gates es enfático: para él, la comparación subestima lo que está en juego. Reconoce que las tecnologías anteriores, en las que también participó directamente (microprocesadores, computadoras personales, internet), en general trajeron más beneficios que perjuicios y resultaron en una creación neta de empleo.

Lo que hace distinto este momento, según él, es la combinación de sistemas que deben superar la cognición humana no en un solo área, sino de forma amplia, sumada a la perspectiva de robótica humanoide de bajo costo en pocos años — una combinación que, para él, representa el cambio más profundo para la economía y el mercado laboral en toda su vida.

Optimismo con reservas

A pesar del tono más alarmista, Gates evita calificar el momento como catastrófico. Reafirma que la IA también debe traer beneficios concretos, como orientación médica personalizada, avances en educación y niveles inéditos de innovación. El punto central de su argumento no es frenar el desarrollo de la tecnología, sino garantizar que el ritmo de mitigación de riesgos acompañe el ritmo del avance de las capacidades — lo que resume como buscar un camino de "sentido común" entre acelerar los beneficios y contener los daños.

Qué tiene que ver esto con empresas brasileñas que están empezando con IA

El debate planteado por Gates ocurre a nivel macro — geopolítica, seguridad nacional, regulación internacional. Puede parecer lejano a la realidad de una industria mediana en São Paulo o de una franquicia que empieza a probar IA en atención al cliente. Pero, en la práctica, existe un paralelo directo entre ambos escenarios.

La alerta central de Gates no es "deja de usar IA" — es "no adoptes sin entender qué está en juego". Esto es válido tanto para un gobierno que decide cómo monitorear modelos de frontera como para una empresa que decide dar acceso de una IA a datos de clientes, decisiones financieras o procesos operativos. La escala es diferente, el principio es el mismo: cuanto más autonomía das a una inteligencia artificial, más claro debe ser el criterio detrás de ella.

Precisamente ese es el rol que XMACNA cumple en el día a día de las empresas con que trabaja: no entregar una herramienta lista y esperar que funcione, sino construir, junto al cliente, el entendimiento sobre dónde la IA debe tener autonomía, dónde solo debe sugerir y dónde la decisión final sigue siendo humana. Las empresas brasileñas que ahora descubren la IA tienen, en realidad, una ventaja que los grandes laboratorios no tuvieron: pueden construir ese criterio desde el primer proyecto, en lugar de intentar regular después de que el problema ya apareció.

¿Bill Gates está en contra del desarrollo de la inteligencia artificial?

No. Gates mantiene un optimismo respecto a los beneficios de la IA, especialmente en salud, educación e innovación científica. Su posición es que el ritmo de regulación y mitigación de riesgos debe seguir la velocidad de los avances tecnológicos, no detenerlos.

¿Cuáles son los principales riesgos de la IA mencionados por Bill Gates?

Destaca tres frentes principales: bioterrorismo (uso de IA para ayudar en la creación de agentes biológicos peligrosos), ataques cibernéticos, e impactos profundos en el mercado laboral, tanto en funciones administrativas como operativas.

¿Qué propone Bill Gates para lidiar con el impacto de la IA en el empleo?

Entre sus propuestas está la creación de categorías de trabajo "reservadas para humanos" y un cambio en la estructura tributaria, desplazando parte de la carga impositiva del trabajo al capital generado por la automatización.

Conclusión

El cambio de tono de Bill Gates llama la atención precisamente por provenir de alguien históricamente identificado como defensor de la tecnología. Su mensaje central no es de rechazo a la inteligencia artificial, sino una alerta sobre un desajuste: mientras las capacidades de los modelos avanzan a ritmo acelerado, la sociedad — gobiernos, academia y público en general — aún no ha abierto un debate estructurado sobre cómo mitigar sus riesgos más serios.

Para XMACNA, ese mismo principio, a menor escala, es lo que separa a una empresa que usa IA con resultados consistentes de una que solo experimenta y se frustra: tener claridad sobre dónde debe actuar la tecnología, con qué autonomía y bajo qué seguimiento. Si tu empresa está en este momento de decidir por dónde empezar, este es justamente el tipo de conversación que nos gusta tener antes de cualquier implementación.

Si quieres profundizar, la entrevista completa está disponible en el podcast Radio Atlantic, de The Atlantic.