Geoffrey Hinton y los Riesgos Reales de la Inteligencia Artificial

El problema no es si las máquinas piensan, sino si nosotros pensamos.

En este artículo:

Geoffrey Hinton es frecuentemente llamado el padrino de la IA. Él adoptó y perfeccionó desde los años 1970 el enfoque de redes neuronales artificiales, inspiradas en los procesos cognitivos del cerebro humano. Mientras la mayor parte de la investigación en IA buscaba lógica simbólica y razonamiento, Hinton y su grupo apostaron por una inteligencia artificial aplicada a través de conexiones ajustables entre neuronas artificiales, dando origen al hoy celebrado aprendizaje automático.

De la visión cerebral a la revolución del deep learning

En entrevista, Hinton recuerda: “Durante mucho tiempo, casi nadie creyó que modelar IA en el cerebro era viable. Las universidades ignoraban las redes neuronales y sólo grupos pequeños seguían esa línea.” Su perseverancia atrajo talentos como Ilya Sutskever y Santosh Vempala, que más tarde ayudaron a fundar OpenAI, precursor de ChatGPT y de plataformas CRM AI First.

En la década de 2010, con la victoria del modelo AlexNet en competiciones de reconocimiento de imágenes, el aprendizaje profundo ganó fuerza. Google adquirió DNN Research y contrató a Hinton, consolidando el papel de las redes neuronales en la industria.

De mentor a portavoz de los riesgos: misión de seguridad

Hoy, Hinton se dedica a alertar al mundo sobre el riesgo existencial de la IA. Él distingue dos tipos de amenaza:

Mal uso humano: ciberataques, fraudes, violencia autónoma.
Superinteligencia: máquinas que se vuelven tan superiores que pueden hacernos irrelevantes.

“Nunca hemos convivido con seres más inteligentes que nosotros. No sabemos prever ese futuro ni controlar probabilidades”, dice Hinton, quien atribuye a la IA digital ventajas como la replicación de modelos y el compartir conocimiento a velocidades de terabits por segundo — algo imposible en cerebros biológicos.

Los riesgos del mal uso

Entre los desafíos planteados por Hinton, destacan riesgos asociados al uso indebido de la inteligencia artificial. La tecnología ya permite crear fraudes digitales sofisticados, como mensajes falsos altamente realistas, clonación de voces y vídeos manipulados. Además, existen preocupaciones sobre su uso en investigaciones biológicas no reguladas, que podrían facilitar la creación de sustancias peligrosas.

La IA también se ha utilizado para personalizar mensajes políticos basados en datos personales, lo que puede reforzar burbujas de información y dificultar el diálogo público. Otro punto en debate es el desarrollo de sistemas autónomos con poder de decisión en ambientes militares, lo que plantea cuestiones éticas sobre el uso de la tecnología en conflictos. Estos temas refuerzan la importancia de la regulación y del uso responsable de la IA a escala global.

La amenaza existencial: superinteligencia

Para Hinton, la superinteligencia representa “un juicio de valor desconocido”. Él atribuye entre 10% y 20% de probabilidad de extinción humana, basándose en nuestra capacidad ingeniosa y en la creencia de que podemos desarrollar técnicas de asistente virtual inteligente obediente. Pero admite la incertidumbre: “Quien dice conocer el futuro está diciendo tonterías.”

Él compara la IA con un “cachorro de tigre”: adorable cuando es joven, pero letal si crece y cambia de comportamiento. La investigación en automatización de procesos cognitivos debe enfocarse en evitar que estas máquinas adquieran motivaciones propias.

Impactos socioeconómicos: desempleo y desigualdad

Herramientas de IA para servicio al cliente y chatbots avanzados ya sustituyen empleados en centros de llamadas, atención bancaria e incluso algunas actividades jurídicas. El concepto “la IA no roba tu trabajo, quien usa IA roba” refleja que un profesional con asistente virtual de ventas puede ser hasta cinco veces más productivo.

Sectores creativos pueden preservarse parcialmente, pero la migración a herramientas de automatización de ventas y marketing digital con IA tiende a acelerar la concentración de ingresos. Hinton defiende políticas como renta básica universal y regulación que imponga a las empresas reinvertir en seguridad de IA.

Regulación y gobernanza: camino hacia una IA responsable

El profesor defiende “capitalismo regulado”: marcos legales que obliguen a las empresas a priorizar datos seguros e investigación en IA safety. La Unión Europea avanza con directrices, pero excluyó usos militares. Hinton critica la ausencia de coordinación global y la influencia de grandes corporaciones sobre legisladores.

Él recuerda la agenda ética debatida en foros como MIT Tech Review, pero alerta: “Regulaciones fragmentadas solo crean desventajas competitivas sin neutralizar amenazas reales.”

Conciencia, emociones y futuros agentes inteligentes

Hinton sostiene que sistemas multimodales y asistentes virtuales empresariales ya presentan elementos de experiencia subjetiva. La capacidad de destilar conocimiento y replicar modelos genera entidades digitales inmortales, capaces de aprender y compartir analogías.

Él prevé agentes _“emocionalmente inteligentes”_ en centros de llamadas, que simularán aburrimiento o frustración para optimizar interacciones. La línea entre simulación y experiencia genuina se vuelve tenue cuando consideramos que las emociones son propiedades emergentes de sistemas complejos.

Reflexiones finales y legado

Hoy con 77 años, Hinton se pregunta: “¿Dejaremos un futuro habitable para nuestros hijos?”. Él admite arrepentimientos personales por haber dedicado tanto tiempo al trabajo, pero reafirma su compromiso de dedicar sus últimos años a la seguridad de la IA.

Como consejos, anima a los jóvenes a seguir su intuición, capacitarse en herramientas de automatización de procesos de negocios y buscar carreras menos susceptibles a la automatización, como plomeros y técnicos de mantenimiento, hasta que los robots humanoides sean viables.