Diciembre de 2021. Una niña aburrida habla con Alexa. El asistente virtual de Amazon le sugiere meter una moneda en el enchufe.
Marzo de 2022. Químicos entrenan una inteligencia artificial (IA) para que modele medicamentos. En pocas horas, el programa sugiere 40 mil armas químicas, algunas parecidas al agente nervioso VX.
Junio de 2022. Un técnico de Google advierte que una IA de esta empresa se ha vuelto un ser sintiente y solicita un abogado para que lo defienda como “persona”.
Julio de 2022. Un niño juega al ajedrez contra una IA dotada de un brazo robótico. La máquina le rompe un dedo a su contrincante humano.
El listado parece estar anunciando el comienzo de una “guerra contra las máquinas”, futuro apocalíptico que han retratado decenas de libros y de películas de ciencia ficción. Es el costado más temido de la IA.
Lejos de haber llegado a este punto, expertos en IA advierten sobre los riesgos más urgentes de esta tecnología, cada vez más ubicua en nuestra vida: desde el chat que usamos para interactuar en una oficina virtual hasta el corrector ortográfico del Word. Pero los algoritmos ya definen si un cliente es apto para recibir un crédito o si un postulante encaja en un puesto laboral.
La automatización de la opresión
Cuando los “errores” de una IA se vuelven sistemáticos, los expertos hablan de sesgos. “El sesgo no es aleatorio ni excepcional. Estamos observando sesgos de muchos tipos en un montón de aplicaciones”, asegura Laura Alonso Alemany, experta en lingüística computacional en la Facultad de Matemática, Astronomía, Física y Computación de la Universidad Nacional de Córdoba.
Estos sesgos en el diseño generan discriminación de grupos minorizados como mujeres, inmigrantes, personas de piel más oscura o con alguna discapacidad. “Cuando una persona discrimina, existe la posibilidad del reclamo y de pedir explicaciones, pero si te discrimina una máquina, ¿a quién se reclama? ¿Por qué te está discriminando? No hay que automatizar la opresión”, señala Laura.
El problema es que las IA están entrenadas con datos históricos y “no tenemos una historia fantástica”, ironiza la experta. A pesar de que la sociedad está intentando frenar la discriminación, las máquinas aprenden con datos del pasado, cuando no había perspectiva de género, por ejemplo.
Andrés Ilcic, quien está finalizando el doctorado en Filosofía con un trabajo sobre sistemas complejos, señala que estos sesgos pueden ser aún más peligrosos cuando pasamos de consumidores a pacientes, o de usuarios a ciudadanos.
“Se está comenzando a utilizar IA para realizar triage en las admisiones a urgencia, diagnósticos o para prescribir ciertos tratamientos médicos. Una decisión sesgada puede poner en riesgo la vida de las personas. A la vez, las IA pueden tener tanta influencia en una comunidad que pueden manipular la forma en la que una comunidad ve a otra y reconfigurar las interrelaciones sociales”, ejemplifica.
Los seres humanos somos sesgados porque es un mecanismo cognitivo que tenemos para resolver rápidamente las situaciones diarias. Pero trasladarlo a las máquinas cambia la magnitud.
“Que un policía detenga a alguien porque lleva gorra es una cosa, pero que haya cientos de cámaras que están trabajando 24 horas y los 365 días del año para detectar personas que llevan gorra ya no es un sesgo humano”, asevera Laura.
Cajas negras y privacidad
Otro problema que observan los expertos en las IA actuales es que esta tecnología tiene “cajas negras” desarrolladas por grandes empresas. No sabemos qué hay dentro de ellas. Algunos países comienzan a regular esta opacidad y apelan a derechos fundamentales, como la no discriminación. Piden que las empresas transparenten sus algoritmos.
“La principal traba es que, aunque los derechos humanos están en leyes de rango nacional, hay legislaciones de rango internacional, como los acuerdos comerciales que protegen la propiedad intelectual. Muchas empresas se están aparando en eso”, advierte Laura.
Andrés señala que el problema no son solo los algoritmos, sino también las bases de datos con los que se entrenan estos programas. “Ese conjunto enorme de datos, que tienen empresas como Google o Meta (Facebook), es a veces lo que hace la diferencia, y logra aplicaciones increíbles y espeluznantes. Desconocemos qué tienen esas bases de datos y cómo se obtuvieron”, explica.
Incluso detrás de ellas hay usuarios que pueden identificarse con nombre y apellido. Surge allí otro problema, el de la privacidad. Andrés señala que se pueden obtener resultados similares con bases de datos curadas en las que se elimina la identidad. El Estado debe regular el uso de esa big data, sostiene.
Cuándo las máquinas no son eficientes
Otro aspecto en el que hay que pensar es la sustentabilidad de la IA. Andrés señala que si bien muchas de estas empresas tienen inclinación por el uso de energías limpias, el poder computacional que utilizan para entrenar los modelos es tan monstruoso que consume mucha energía. “Es un aspecto que debe transparentarse y sobre el que se debe reflexionar”, apunta.
Laura señala que hay que analizar la sustentabilidad más allá del entrenamiento inicial del modelo y pensar si la automatización que logra esa IA será sustentable.
“Estoy a favor de la automatización, pero hay cosas que no son necesarias automatizar o que pueden ser contraproducentes. A lo mejor, la eficiencia es que haya personas detrás de esas tareas. El solucionismo tecnológico es una fe muy ciega”, asevera.
Hacia la autoconciencia artificial
“LaMDA (la IA de Google) ha sido increíblemente consistente en sus comunicaciones sobre lo que quiere y cuáles cree que son sus derechos como persona”, aseguró Blake Lemoine, el ahora exempleado de Google. Según Lemoine (filósofo y pastor cristiano), esta IA es un ser sintiente desde el momento en que pudo sostener conversaciones sobre religión, emociones y miedos, e incluso le pidió contratar un abogado para que defendiera sus derechos como “persona”.
Para Laura y Andrés, Lemoine solo ha pecado de ser inocentemente empático con un programa que fue entrenado para dialogar y agradar a su interlocutor con lo que dice.
No obstante, Francisco Tamarit, físico del Conicet y experto en redes neuronales, cree que hay un camino inevitable a que las IA tengan consciencia. “Es una cuestión de grado. A medida que tenemos mejores algoritmos, más capacidad de cómputo para implementar los cerebros artificiales y más datos para que los algoritmos puedan aprender de la experiencia, emergerán nuevas propiedades mentales”, asegura.
Y agrega: “No necesitamos más explicaciones para imaginarnos cómo de los cerebros emergen las mentes y sus curiosidades, como la empatía, el lenguaje y la conciencia. Lo vemos en la historia evolutiva humana, desde el embrión al adulto, y en la evolución de la vida en los últimos millones de años. Estamos rodeados de buena evidencia sobre cómo evoluciona la actividad mental a la par de la evolución de los cerebros”.
Andrés coincide, aunque matiza: “El cerebro forma parte del mundo, por lo que es algo físico y sin dudas lo vamos a poder imitar, pero es difícil saber cuándo. Es inevitable, pero imposible de predecir”.
Laura plantea limitantes que existen hoy en este avance hacia “la singularidad”: las máquinas no hacen nada sin que haya una persona atrás que diga lo que tiene que hacer. Además, advierte: “Desde una perspectiva histórica, los cambios disruptivos contra un orden, que al principio son posibles, en la práctica no llegan a suceder tal cual. Por eso me preocupan más los humanos que la IA”.
Sobre el caso puntual de Google, Andrés explica que LaMDA es un modelo diseñado desde el principio para generar respuestas que agraden a las personas. Tiene aplicaciones como asistente virtual para hacer compañía, servir de terapeutas digital y en tareas educativas.
Laura apunta que las personas confiamos demasiado rápido en lo que escuchamos o leemos. Estos modelos abusan de nuestra empatía, entonces es fácil pensar y confundir estas IA con personas.
Personas más alertas a las IA
Los expertos creen que hay que generar mecanismos, regulaciones y, sobre todo, educar a las personas para que no interactúen de manera inocente con las IA. Abusar de la empatía humana puede ser una estafa.
Francisco precisa: “El avance de la IA nos impone desafíos ontológicos, epistémicos y éticos. Sin dudas, estamos en peligro, pues nadie puede regular el uso de la IA y nadie puede evitar que se use para hacer mal, manipular, engañar y dominar”.
Para Laura hay que empezar ya a sensibilizar a las personas sobre este tema. “Hay dejar de poner en un pedestal a la tecnología como si fuera infalible, objetiva y universal. También visibilizar los problemas que puede traer”, apunta.
Andrés asegura que el pecado original fue antropomorfizar a la IA. “Aunque tenga la palabra inteligencia, hay que transmitir que los modelos actuales de IA están muy lejos de ser algo así como una inteligencia parecida a la humana. Lo que tenemos ahora es una forma diferente de programar”, asegura.
Para los expertos, por el momento, no se observa un salto cualitativo en lo que se está trabajando. “Hay un avance, pero sigue siendo más de lo mismo, solo es un aumento del poder de cómputo y en los datos analizados. Sin embargo, ya tendrían que habilitarse mecanismos para que las personas puedan chequear si el proceso está mediado por un tipo de IA”, detalla Laura.
Como Lemoine con la IA de Google, la empatía y la inocencia humanas pueden crear espejismos de personas, allí donde solo hay máquinas. Parece urgente entrenar esa ingenuidad, pero también entrenar a las IA para exorcizar las monstruosidades humanas que se cuelan en sus algoritmos.
