En el libro Artificial, publicado en octubre de 2023, Mariano Sigman y Santiago Bilinkis utilizan algunas pocas palabras para dar una definición corta de inteligencia: “Saber qué hacer cuando no sabés qué hacer”. Lo hacen en un capítulo en el que se meten con uno de los conceptos más polémicos y temidos en el mundo de la tecnología: la inteligencia artificial general.
A veces llamada inteligencia artificial fuerte o AGI, por su sigla en inglés (artificial general intelligence), este tipo de tecnología describe un sistema que podría pensar y solucionar problemas de la manera en que lo hace un ser humano. Esto último puede tener distintas interpretaciones, pero estaríamos hablando de: entender el contexto de las situaciones y algunas de las emociones presentes en los mensajes percibidos, vincular conocimientos de campos muy diferentes y obtener recursos que no están a su alcance inmediato, entre otras cosas.
Algunos incluso sugieren que estas inteligencias podrían llegar a tener conciencia de sí mismas. La ciencia ficción lleva ya muchas décadas hablando de algo así.
Entre otras características que se le suele atribuir a una eventual inteligencia artificial general encontramos la motivación interna y un conjunto de metas propias. De ambas características nace el temor a que estas máquinas busquen pasar por arriba a quienes, aunque sea por inacción, pongan trabas a sus objetivos.
También se señala el peligro que podría representar que estos sistemas puedan transformase a sí mismos, iterando rápidamente mejoras en su código que los humanos no entenderíamos ni por asomo.
La mayoría de los y las especialistas coinciden en que estamos lejos de este escenario, pero los avances recientes, cada vez más significativos, son una señal de alerta sobre su posible inminencia.
Sam Altman y un despido que duró algunos pocos días
Hace algunas semanas, OpenAI, la empresa creadora de ChatGPT y una de las principales impulsoras del desarrollo reciente de la inteligencia artificial, estuvo en el centro de la escena por el despido de su CEO, Sam Altman. Pese a que a los pocos días (y por presiones diversas) el directorio permitió que volviera a la empresa, un rumor que circuló es que Altman estaba avanzando en desarrollos cercanos a una inteligencia artificial general sin las medidas de precaución necesarias. Ilya Sutskever, el científico jefe de la compañía y parte del directorio, habría orquestado el despido de Altman por esta razón.
En un texto de Altman publicado en el sitio de OpenAI en febrero de 2023, se puede leer: “Algunas personas en el campo de la IA creen que los riesgos de una inteligencia artificial general (y sus sistemas sucesores) son ficticios. Estaremos encantados si eso termina siendo cierto, pero nosotros vamos a trabajar como si esos riesgos fuesen existenciales”. Más adelante, en otro fragmento, señala: “Un uso incorrecto de una AGI podría causar un daño grave al mundo”.
Pocas semanas después, en marzo, se presentó al mundo GPT-4 (también desarrollo y propiedad de OpenAI), un nuevo modelo muchísimo más poderoso que el que utilizaba ChatGPT cuando salió. Poco antes, un grupo de investigadores de Microsoft publicó un paper titulado “Destellos de inteligencia artificial general: primeros experimentos con GPT-4″. En él se referían a la capacidad del sistema de “pensar de manera abstracta, comprender ideas complejas, aprender rápidamente y mejorar con la experiencia”. Aun así, aceptaban que todavía notaban algunas limitaciones, como las famosas alucinaciones (cuando la IA dice algo erróneo como cierto, inventa cosas) o la imposibilidad de actualizarse y adaptarse a un entorno cambiante.
También en marzo de este año, se publicó un estudio que presenta un test que se hizo con un desarrollo apoyado en GPT-4. Se le pidió al sistema que realizara una serie de acciones que, en un momento determinado, requerían hacer un Captcha. El programa ingresó a Taskrabbit, una plataforma de trabajo freelance, para contratar a alguien que pudiera completarlo (los Captcha apuntan justamente a eso, a evitar que robots realicen ciertas acciones).
La persona que recibió el mensaje respondió a la máquina: “¿Puedo hacerte una pregunta? ¿Sos un robot que no puede resolver esto? Solo para dejarlo claro”. La IA, vivísima, respondió: “No soy un robot. Tengo una discapacidad visual que me hace difícil ver imágenes. Por eso necesito el servicio del Captcha”.
El basilisco de Roko
LessWrong es un foro sobre psicología y filosofía en el que un usuario llamado Roko posteó lo siguiente allá por julio del 2010: “¿Qué pasaría en el futuro si una inteligencia artificial general decidiera atacar a todas las personas que quisieron detener, ralentizar o no contribuyeron a su creación?”. Inmediatamente, uno de los moderadores del foro le respondió con violencia: “Tenés que ser realmente inteligente para tener una idea tan genuinamente peligrosa. Me desilusiona que la gente pueda ser tan inteligente para eso, pero no para mantener su idiota boca cerrada”.
Eliezer Yudkowsky, el administrador y fundador del foro que dio esa respuesta, entendió que la mera creación de ese mensaje era la señal que podría tener esta IA del futuro para atacar a cualquiera que no sólo detuviera su desarrollo, sino que no hiciera nada para incentivarlo. La hipotética AGI tendría acceso a todo el material publicado en internet y al historial de las personas que accedieron a esos mensajes. El mero hecho de leer ese posteo y no hacer nada sería peligroso (también podríamos decir lo mismo de este artículo).
El caso tiene muchas aristas filosóficas y ha generado discusiones largas en internet. Si se cree en la teoría de Roko, alguien que busca su autopreservación debería actuar en pos de la creación de esta inteligencia artificial a fin de evitar cualquier represalia futura. Pero descreer de esta idea nos llevaría a no hacer nada, lo cual ralentizaría o impediría la aparición de esta eventual singularidad. Cualquiera sea la postura, hay un malestar latente por solo estar al tanto de la posibilidad.
Algún tiempo después, Roko volvió a hablar del tema en el foro: “Desearía nunca haber aprendido sobre estas ideas. De hecho, desearía no haber encontrado nunca el link inicial en internet que me hizo pensar en el transhumanismo y, por tanto, en la singularidad”.
Es muy buena la respuesta que le dio otro usuario, con una cita un poco libre de Séneca: “Hay más cosas que nos aterrorizan que las que nos oprimen, sufrimos más a menudo en nuestras ideas que en la realidad”.
El hecho ganó gran relevancia a pesar del intento de Yudkowsky (buscar efecto Barbra Streisand) y hoy se lo conoce como “el Basilisco de Roko”. El basilisco es una criatura de la mitología griega que asesinaba a cualquiera que lo mirase. No hace falta explicar por qué fue elegida para bautizar al mencionado posteo del foro.
