La confiabilidad de la Inteligencia Artificial está en duda

La inteligencia artificial se convierte cada vez más en la herramienta de consulta más popular, pero ¿realmente podemos confiar en ella si se alimenta de información de la web? La inteligencia artificial se ha convertido en una pieza fundamental de la vida de los seres humanos. Cada día, son más las personas que emplean distintas IA’s para realizar consultas, recibir ayuda para crear textos, generar imágenes con determinadas características y un largo etcétera.

Pero, al cuestionarnos la fuente de la que se alimentan estas herramientas, no podemos dejar de lado la confiabilidad de las mismas. Los algoritmos de las IA’s como Gemini o Chat GPT se alimentan de la información de la web. Por tanto, es posible que caigan en información errónea o fake news ya que el espacio cibernético está plagado de noticias falsas, teorías conspirativas, errores factuales y contenido intencionalmente engañoso. Una herramienta generativa puede aprender de esto y con ello, divulgar y propagar información incorrecta.

Del Records: nombres involucrados en la acusación a la disquera por lavado de dinero

¿Alguna vez has buscado información en Wikipedia? Pues bien, la forma en que conocías esta enciclopedia colaborativa podría estar cambiando para siempre. La preocupación por la infiltración de la inteligencia artificial es cada vez mayor, llenando sus páginas de resúmenes y artículos creados por máquinas que, además de ser potencialmente falsos, ¡se inventan sus propias referencias académicas! Por tanto, se han propuesto soluciones como la verificación de información y el desarrollo de técnicas para seleccionar y limpiar los datos de entrenamiento, eliminando así la información errónea.

Además de entrenar a la IA con datos de diversas fuentes que incluyan datos curados, investigaciones académicas y fuentes oficiales. Sin embargo, ante lo vertiginoso del internet, las técnicas no han resultado suficientes para contribuir a mejorar el entrenamiento de los algoritmos. De tal modo, que se recomienda ampliamente verificar la información obtenida de los asistentes de inteligencia artificial para evitar caer en especulaciones. ¿Acaso el uso que le estamos dando a la IA la está entrenando para suplir nuestro propio criterio y nos está quitando la capacidad de razonar y verificar las fuentes de información, hasta un punto en que no distingamos la realidad de la ficción?