En los últimos años el avance de la inteligencia artificial (IA) ha sido extraordinario, ofreciéndonos respuestas más rápidas, generando un contenido más detallado y facilitándonos la búsqueda de información, pero esto no significa que todavía no sea infalible. Un caso reciente, ha suscitado una pregunta, ¿hasta que punto es fiable la IA?
El caso de Juan Re Crivello: de escritor a pintor
Un ejemplo claro de estos fallos ocurrió cuando se solicitó información sobre Juan Re Crivello. En lugar de proporcionar datos correctos sobre su trayectoria como escritor, editor y gestor cultural , la IA generó un perfil ficticio, describiéndolo como un pintor chileno con una carrera enfocada en la exploración de la figura humana y el paisaje. Este error no solo creó una biografía inexistente, sino que también atribuyó al personaje influencias artísticas, exposiciones y una conexión con la cultura chilena que no existen.
Hay un fallo de la IA que se conoce como «alucinaciones de IA» , es un fenómeno en el que se genera una información errónea que parece ser veraz y coherente e incluso refrendada por cuestiones como credenciales diversas o trabajos expuestos y que es totalmente falsa y equivoca.
Causas de los Errores en la IA
Existen varias razones por las cuales una IA puede cometer este tipo de fallos:
Inferencia basada en patrones: Los modelos de IA no comprenden el mundo como lo hace un ser humano. En lugar de verificar fuentes, buscan patrones en grandes volúmenes de datos y generan respuestas basadas en probabilidades. Si los datos disponibles no son suficientes o están mezclados, pueden generar información incorrecta.
Confusión de identidades: Cuando hay nombres similares o figuras con perfiles que comparten ciertas características, la IA puede combinar información de diferentes personas, creando biografías incorrectas.
Falta de verificación en tiempo real: A diferencia de un investigador humano, la IA no siempre verifica la actualidad o exactitud de la información en fuentes confiables antes de responder por lo que las respuestas obtenidas no pueden ser de todo correctas o encontrarse obsoletas en el tiempo.
Fallos en los datos de entrenamiento: Son grandes las cantidades de datos que se introducen en los sistemas, diferentes modelos de IA que pueden contener errores y por lo tanto causar desinformación y errores.
Los fallos de la IA podrían parecer no tener consecuencias significativas, pero no es cierto pues puede causar graves problemas si son utilizados en trabajos de investigación o informes de trabajo pudiendo dar lugar incluso a la difusión de información incorrecta que genere confusión o afecte a la imagen pública en cuestión de alguna persona.
Cómo mejorar la precisión de la IA
Para reducir estos fallos y mejorar la confiabilidad de la IA, es necesario adoptar medidas que refuercen la precisión de la información:
- Verificación de fuentes en tiempo real: Integrar sistemas que consulten bases de datos actualizadas y fuentes oficiales antes de generar respuestas.
- Mayor supervisión humana: La combinación de IA con supervisión humana puede reducir la propagación de errores, permitiendo la corrección de respuestas antes de su publicación.
- Transparencia en los modelos de IA: Informar a los usuarios sobre las limitaciones del sistema y fomentar la verificación cruzada de datos.
- Mejoras en el entrenamiento de IA: Usar conjuntos de datos más curados y minimizar sesgos para reducir la generación de información falsa.
El caso del «escritor-pintor» Juan Re Crivello es un recordatorio de que la IA, es útil pero no es infalible. Sus errores resaltan la importancia de la verificación de datos y la necesidad de un uso crítico de la información que proporciona. Es necesario que en el momento de la evolución de la tecnología, se desarrollen métodos para que su precisión sea más exacta y sobre todo tener mucho cuidado a la hora de suministrar datos, evitando las incorrecciones. La IA puede ser una herramienta muy valiosa, pero que necesita de la supervisión humana para garantizar su fiabilidad.
Un hecho verídico que confirmo yo, María José Luque Fernández editora y escritora de Masticadores de Letras.
¿Cómo ocurrió? Solicité enlaces e información disponible sobre Juan Re Crivello para completar la que ya disponía, con el fin de que no existiera ninguna laguna, en la organización de una tertulia que tendrá lugar próximamente y en la que le presentaré.
Al decirle que no era posible pues Juan no era ni chileno ni pintor me mostro la información real respecto a Juan escritor y editor. Quise ir más allá y le pedí me mostrará alguna de las obras del pintor Juan Re Crivello a lo que me respondió que no existía tal pintor sino un escritor con ese nombre. Y yo que soy muy terca dije, si, pues vamos a dar un paso más aún, ¿y saben qué? Le copie el texto que me había mostrado sobre el pintor y el que me había mostrado sobre el escritor y le pregunte ¿Esto es un error del IA? y me contesto: «Son alucinaciones de IA»
Ahí queda eso…
@María José Luque Fernández.
Descubre más desde Masticadores
Suscríbete y recibe las últimas entradas en tu correo electrónico.
