Las explicaciones generadas por inteligencia artificial se incorporan a las conversaciones cotidianas sin que apenas se indique de dónde proceden. Las consecuencias van más allá de la precisión de la información y afectan a la forma en que las personas determinan si pueden confiar en lo que otros les cuentan.
Los chatbots han facilitado la obtención de explicaciones elaboradas sobre temas desconocidos y su posterior transmisión en conversaciones habituales. Quien escucha puede no tener ninguna indicación de que la información procede de una respuesta generada por inteligencia artificial, ni saber si sus detalles se han verificado. A medida que los chatbots se integran en la forma habitual de resolver dudas cotidianas, la credibilidad de sus respuestas depende cada vez más de la persona que las transmite.
Una encuesta de Use.AI realizada a 9.418 adultos que utilizan chatbots de inteligencia artificial al menos una vez por semana, llevada a cabo en Estados Unidos, Reino Unido, Canadá, Australia, la Unión Europea y América Latina, reveló que el 52 % había transmitido a otra persona información proporcionada por un chatbot como si ya la conociera de antemano.
Entre los 4.897 encuestados que reconocieron haberlo hecho, el 27 % afirmó que había evitado mencionar la inteligencia artificial para no parecer menos informado. El resultado apunta a un incentivo social para omitir la procedencia de la información. Una explicación presentada como conocimiento propio puede adquirir una autoridad distinta de otra atribuida expresamente a un chatbot, incluso cuando el contenido es idéntico.
Otras respuestas sugieren que la pérdida de atribución no siempre es intencionada. Del total de participantes, el 44 % afirmó que en ocasiones no podía recordar si una idea o explicación procedía de un chatbot o de su propio razonamiento. Esto plantea otra preocupación: las personas pueden perder la referencia sobre el origen de información que realmente creen comprender, lo que dificulta distinguir entre conocimientos adquiridos de forma independiente y contenidos asimilados durante una interacción con inteligencia artificial.
Use.AI denomina este fenómeno «desvinculación de la fuente» (source drift), un proceso por el que una explicación generada por inteligencia artificial se separa progresivamente de su origen. Las interfaces conversacionales hacen que esta separación resulte especialmente relevante. Presentan la información de una manera que facilita su asimilación y posterior transmisión, mientras que la conversación que dio lugar a esa respuesta permanece fuera del alcance de quien la escucha. Una vez que una explicación resulta familiar, recordar su contenido puede ser considerablemente más sencillo que reconstruir cómo se obtuvo.
Los resultados relacionados con la precisión de la información ponen de manifiesto sus posibles consecuencias. Entre quienes habían repetido respuestas de chatbots como si fueran conocimientos propios, el 31 % afirmó haber descubierto posteriormente que alguna información transmitida era incorrecta o estaba excesivamente simplificada. La encuesta no permite determinar si esos errores influyeron en decisiones importantes. Sin embargo, identifica una vulnerabilidad en la circulación de información errónea: una afirmación generada por inteligencia artificial y no verificada puede adquirir la credibilidad de una persona de confianza antes de que alguien advierta que necesita ser corregida.
«Una respuesta puede corregirse dentro de un chatbot, pero esa corrección no llega automáticamente a todas las personas que ya han escuchado la información repetida», señaló un portavoz de Use.AI. «Cuando la información pasa a las conversaciones personales, corregir la respuesta original solo resuelve una parte del problema. Quienes la transmitieron pueden ser los únicos capaces de llegar a las personas que recibieron la versión incorrecta».
Los resultados plantean un desafío práctico para una tecnología diseñada para facilitar el uso inmediato de la información. Las personas suelen evaluar la credibilidad de lo que escuchan a partir de la relación que mantienen con quien habla, especialmente cuando una explicación se presenta con seguridad y sin dudas aparentes. Las respuestas generadas por inteligencia artificial pueden incorporarse a ese mismo sistema de confianza sin conservar pruebas de cómo fueron elaboradas.
A medida que más información pasa de las conversaciones con chatbots a las interacciones entre personas, conservar su procedencia adquiere una importancia creciente para evaluar su fiabilidad. Una afirmación puede adquirir la autoridad del conocimiento humano sin someterse a ninguna verificación adicional, dejando a quien la transmite como responsable de una fuente que quizá ya no recuerda.
Sobre Use.AI:
Use.AI es un asistente universal de inteligencia artificial que reúne los principales modelos de lenguaje de gran tamaño del mundo en una única experiencia integrada y fluida. Ofrece a los usuarios un punto de acceso único a las capacidades de inteligencia artificial más avanzadas disponibles en la actualidad, desde la resolución de problemas complejos hasta la generación de contenidos creativos. Al conectar distintas tecnologías de inteligencia artificial, Use.AI permite a los usuarios mejorar su productividad y aprovechar las últimas innovaciones en inteligencia artificial en sus actividades cotidianas.
Use.AI es un asistente universal de inteligencia artificial que reúne los principales modelos de lenguaje de gran tamaño del mundo en una única experiencia integrada y fluida. Ofrece a los usuarios un punto de acceso único a las capacidades de inteligencia artificial más avanzadas disponibles en la actualidad, desde la resolución de problemas complejos hasta la generación de contenidos creativos. Al conectar distintas tecnologías de inteligencia artificial, Use.AI permite a los usuarios mejorar su productividad y aprovechar las últimas innovaciones en inteligencia artificial en sus actividades cotidianas.