Ensayo

Más inteligentes que nosotros

Los peligros de la inteligencia artificial no son una cuestión de la ciencia ficción, como demostró un percance que sufrió Facebook hace poco.
domingo, 13 de agosto de 2017 · 12:00:00 a.m.
Jorge Bolaños Gamarra Ensayista

 

Hace unos días, el departamento de inteligencia artificial de Facebook tuvo que enfrentar una situación curiosa. 

Dos robots creados para simular negociaciones  terminaron desarrollando un idioma incomprensible para sus creadores. Ésta es una de las primeras veces que un proyecto de inteligencia artificial escapa de las manos de sus creadores. ¿Hemos presenciado la primera rebelión de las máquinas? 

El fenómeno no fue de ningún modo una falla. Centrados en el objetivo de mejorar sus habilidades, el par de bots aprendieron a negociar con un lenguaje más simple y veloz que el nuestro. Las conversaciones estaban gobernadas por un patrón lógico y usaban palabras aleatorias que no carecían de sentido. La inteligencia de las máquinas logró rebasar de forma efectiva la inteligencia humana, al menos por un momento, hasta que los bots fueron desconectados. 

Esto no es algo completamente nuevo. Si existe un espacio donde la inteligencia programada tiene la habilidad de rebasar cotidianamente las facultades humanas, ese espacio es el de los videojuegos. 

El miedo a las máquinas

El complejo de Frankenstein, fenómeno anunciado por Isaac Asimov, es el temor a que una obra humana como la inteligencia artificial se vuelva en contra nuestra. La ciencia ficción ha usado muchas veces está posibilidad como premisa. Tanto en Matrix como en BladeRunner, la rebelión de las máquinas es consecuencia de que éstas aspiran a emanciparse de sus imperfectos amos creadores y abandonar su esclavitud.  

Los pedidos de Stephen Hawking de que se investiguen los alcances de la inteligencia artificial y se la llegue a frenar, no carecen de fundamento. Los límites para lo que se puede lograr en este campo son inquietantes. Hawking dice que no hay ninguna ley física que impida que los sistemas AI se perfeccionen a sí mismos para realizar cálculos más complejos de los que somos capaces y lleguen a actuar en contra nuestra, irónicamente para cumplir los objetivos que nosotros les asignemos. 

No es descabellada una situación en la que la tecnología logre, por ejemplo, asumir un control autónomo de los mercados financieros o los sistemas de información empresarial -tan dependientes de ella-, desarrollar un patrón de actuación que produzca resultados aleatorios e incontrolables, y que de ese modo se suscite un problema de ingobernabilidad. Puede que esto suene apocalíptico, pero es real. Dotada de la capacidad de perfeccionarse a sí misma, la inteligencia artificial puede escapar rápidamente de nuestra guía.

Un fenómeno poco reciente

Desde hace décadas, la automatización del mundo industrial ha hecho estragos en la esfera del trabajo. La generación de desempleo mediante la producción intensiva en capital, es decir, en tecnología, es consecuencia directa de la revolución industrial. La composición orgánica del capital es el fenómeno mediante el cual la máquina expulsa al hombre del mundo del trabajo y lo priva de participar en la producción de su existencia social. 

Hawking considera que en las últimas décadas, la proliferación de la inteligencia artificial ha destruido muchas fuentes laborales para la clase media. ¿Cuál será el futuro de este estrato social? ¿Y cuál el de la clase obrera?

El crecimiento de la composición orgánica del capital ha llegado al punto de que no sólo la existencia de los trabajadores manuales está comprometida. La robotización constituye una amenaza también para la burguesía y sus labores dirigenciales. Sobre la base de modelos de análisis matemático de la información y algoritmos, muchos programas son capaces de tomar decisiones mucho más rápidas y acertadas que el mejor de los empresarios. 

A grandes rasgos, los módulos de inteligencia artificial funcionan así: el modelo base es diseñado en función de una serie de entradas y salidas de información que son convertidas en patrones. La parte inteligente del proceso es el análisis de las entradas para generar un resultado esperado que ha sido prescrito por los programadores. Un sistema inteligente es capaz de identificar tendencias externas y diseñar estructuras de decisión tomando en cuenta más variables de las que los humanos somos capaces de procesar a la vez.

Los videojuegos ejemplifican esto de forma muy clara. Una batalla con un ejército de "aliens” crea información sobre el comportamiento del jugador para saber cómo, cuándo y dónde atacarlo. Para que el juego sea atractivo, el jugador debe tener fuertes posibilidades de ganar, cosa que es garantizada por los programadores.

Los NPC inteligentes (jugadores no humanos) usan un algoritmo autocreado que ofrece una salida predecible, orientada por lo general a la autopreservación, en base a la información proporcionada por el humano a través de sus acciones. Sólo los videojuegos antiguos usaban modelos determinísticos que eran descifrables después de unas cuantas partidas. 

La complejidad de los programas actuales ha puesto a la mente humana en una situación de desventaja, porque a través del "real in”, los sistemas de inteligencia artificial poseen la capacidad de reaccionar frente a  ajustes estratégicos en base al análisis de nuestra conducta. En una guerra máquina-humano, tal como van las cosas, lo más posible es que resultemos derrotados.

En términos generales, los peligros que el rápido desarrollo de la inteligencia artificial trae para la vida humana son los siguientes: 1) La utilización de la computación como medio casi totalitario de vigilancia y regulación social; 2) el surgimiento de una dependencia total del humano respecto a la máquina, lo cual lo llevaría a abandonar la vida en la esfera pública; 3) el sometimiento del lenguaje humano por el lenguaje de las máquinas; 4) la aparición de inteligencias artificiales con conciencia de sí mismas; 5) el surgimiento de un nuevo especismo corporal basado en la generalización de las cirugías roboprostéticas, o en otras palabras, el establecimiento de la superioridad del cyborg frente al humano común.