CONTRA LA IA-TOCRACIA, NOS QUEDA LA PALABRA by Esther Bajo

Constantemente se oye la queja de que vivimos en una sociedad crispada. En política –que es causa y efecto- se ve con claridad: hasta hace poco todos destacaban valores como la mesura y el diálogo y hacían lo posible por desplazarse, desde sus posiciones iniciales, hacia el centro; ahora, sin embargo, se hace incluso alarde de ser extremista en los planteamientos y un presidente electo tras hacer campaña con una motosierra parece el paradigma. Pero sucede en todos los ámbitos. También entre los opinadores profesionales o en los corrillos de bar, cuando se inicia una discusión –sea sobre lo que sea- todo el mundo parece tener meridianamente claras sus opiniones, que no dejan ningún lugar intermedio entre la adhesión incondicional y el odio y cualquier nimia discrepancia te sitúa en el extremo contrario al lugar que realmente ocupas. De hecho, ese exceso de seguridad se da incluso hablando de ciencia y asuntos de los que muchos se pronuncian sin tener la menor idea: química, física, medicina y un sinfín de ciencias que requieren años de estudio e investigación son materia, son objeto de opiniones categóricas por cualquiera que no se ha molestado ni en leer una revista especializada. Pero es comprensible –en mi humilde opinión- porque estamos viviendo una situación que, en si misma, es extrema, en la que oscilamos entre la posibilidad, por ejemplo, de poder curar cualquier enfermedad y convertirnos en seres inmortales, a la de crear herramientas para el control mental de millones de seres humanos con un algoritmo o destruir el planeta en pocos años. En buena parte, las investigaciones en Inteligencia Artificial son –a mi modo de ver- responsables de esta coyuntura entre lo más parecido al cielo y al infierno en la tierra.

Un ejemplo claro es la neurociencia, que gracias a diferentes tecnologías, entre ellas la IA, pueden desde obrar “milagros” en medicina, como recuperar el habla o la movilidad, a alterar la mente de cualquier induciéndole pensamientos, ideas o sensaciones, algo en lo que el ínclito Elon Musk y otras mil doscientas empresas están trabajando a toda prisa.

Cuando se habla de los riesgos del desarrollo de la Inteligencia Artificial, se habla más, sin embargo, de las profesiones en peligro. Matemáticos, gestores, contables, analistas financieros, periodistas, traductores, fotógrafos, publicistas, arquitectos, ingenieros… tendrán que reconvertirse en el futuro en operadores de maquinaria agrícola, instaladores, mecánicos o atletas. Pero, en fin, este tipo de cambios se han producido constantemente desde la Revolución Industrial.

Más que el tema laboral me preocupa el efecto sobre nuestra vida y nuestra personalidad. Creo que el anuncio de trabajo más inquietante que he leído últimamente es: “Se buscan creativos para humanizar las máquinas”. Hace no mucho (¡aunque es tan difícil ya decir qué es mucho y poco tiempo!) vi un capítulo de “Black Mirror” en el que una mujer perdía en un accidente a su pareja y compraba una réplica exacta, que no sólo era como él sino que se movía y hablaba como él, y lo que no hacía exactamente igual, lo aprendía con los nuevos datos que ella le aportaba. No pasó una semana cuando leí un reportaje sobre la aplicación Replika, un servicio que proporciona amigos virtuales, y resulta que la autora, Eugenia Kuyda, la creó para poder resucitar digitalmente a un amigo.

En este caso de los amigos virtuales el proceso es relativamente largo. Empezó con una máquina llamada Eliza, creada en 1966, que pretendía ser un bot conversacional empático. Siguió con la devaluación del concepto de amistad por parte de Facebook y llega hoy a un montón de aplicaciones del tipo de Replika que reproducen exactamente lo que te diría un amigo del alma para mejorar tu estado de ánimo; de hecho, lo hacen mejor, porque dan respuestas más rápidas e ingeniosas; incluso tienen cambios de humor y pequeñas confusiones que les humanizan aún más. Quienes recurren a estos “amigos” virtuales lo hacen, al parecer, sobre todo para hablar de sexo duro y, en este sentido, el mayor peligro es, como en cualquier forma de pornografía, que creen relaciones entre hombres y mujeres desprovistas de amor y en las que no cabe decir “no”. Pero también, en los demás casos, que se pierda por completo el valor de la verdadera amistad, que requiere reciprocidad, consciencia y aceptación el uno del otro.

 Más me preocupan, en general, las “deepfakes”, esas reproducciones falsas pero hiper-realistas que inundan las redes y engañan y manipulan la opinión de millones. No se sabe cuántas circulan, pero el último informe que he visto –de Deeptrace- se habla de medio millón de nuevos archivos falsos circulando por la red cada seis meses. Se utilizan para difamar a personas, abrir cuentas bancarias con identidades falsas y campañas de opinión pública. Y el gran problema aquí es –como casi siempre- quién maneja la barca –como cantaba Marisol-. Presumo que son los mismos que bombardean el sistema democrático en los demás ámbitos. No hay más que tener en cuenta que ya hay una auténtica AItocracia (AI-tocracy la han denominado un grupo de investigadores del MIT, Harvard y London School of Economist en un informe), China, donde el Estado acapara todo tipo de datos sobre sus casi mil quinientos millones de ciudadanos, constantemente vigilados y catalogados púbicamente, no sólo a través de cámaras, sino monitoreando sus conversaciones y aplicaciones que evalúan, por ejemplo, su compromiso ideológico. Un reportaje emitido hace dos o tres meses por TVE en el programa “Documentos TV” resultaba tan aterrador como un episodio de Black Mirror.

Esta vez nadie podrá decir que no estábamos avisados. Los riesgos del desarrollo de la IA no se conocen aún en toda su extensión, pero los que se conocen son más que suficientes para que, por una vez, los poderes públicos no se queden atrás. Hay que educar a los niños en el correcto uso de las nuevas tecnologías y a estas alturas no podemos seguir debatiendo cómo defenderles de la adicción al móvil, sino de todos los riesgos que entrañan todas las nuevas tecnologías. Y hay que apostar por la palabra. El neurocientífico y físico Rodrigo Quian Quiroga, en entrevistas recientes publicadas en varios medios, nos ayuda a distanciarnos de la Inteligencia Artificial por medio de algo que, al parecer, ella nunca tendrá, las neuronas de concepto, muy conectadas con el lenguaje, y cita a Borges: “El lenguaje es un ordenamiento eficaz de esta enigmática abundancia del mundo”. Brindemos, pues, por la eficacia de la palabra para comprender el mundo, controlarlo y cambiarlo en pro de los intereses comunes y no los particulares de quienes financian la humanización de las máquinas y la deshumanización de la sociedad.

Esther Bajo