Inteligencia artificial e internet, ¿una combinación explosiva?

La inteligencia artificial generativa, capaz de crear contenidos originales a partir de datos existentes, está experimentando un éxito espectacular. Millones de personas se valen de ella para generar imágenes, texto o música. En los próximos años, de seguir la tendencia, el contenido producido de este modo puede llegar a ser mayoritario en internet. Esto plantea una situación problemática, ya que las herramientas de inteligencia artificial generativa se entrenan en muchos casos con grandes conjuntos de datos extraídos de internet. Por tanto, en breve, modelos como el popular ChatGPT estarán adiestrando sus nuevas versiones con datos creados por las anteriores, que pueden contener errores.

¿Qué efecto tendrá esta retroalimentación? ¿Mejorará o empeorará la calidad de los futuros modelos de inteligencia artificial? ¿Introducirá nuevos sesgos? Son cuestiones que se ha planteado un equipo de investigadores de diferentes instituciones, encabezado por Gonzalo Martínez Ruiz de Arcaute, de la Universidad Carlos III de Madrid, España. Rn el equipo también figura Pedro Reviriego, profesor titular de la Universidad Politécnica de Madrid (UPM) en la Escuela Técnica Superior de Ingenieros de Telecomunicación (ETSIT).

En un estudio en el cual ha participado este equipo, se ha explorado el efecto de la mencionada retroalimentación en modelos sencillos de inteligencia artificial para la generación de imágenes, como Stable Diffusion o DALL-E.

La conclusión de los autores del estudio es que, a medida que nuevas versiones trabajan con datos generados por las precedentes, la calidad y la diversidad de las imágenes obtenidas se reduce de manera drástica.

Los investigadores observaron que un modelo de difusión simple entrenando con una categoría específica de imágenes, como fotografías de pájaros y flores, producía resultados inutilizables al cabo de varias generaciones. La solución podría parecer tan sencilla como descartar los datos previos generados por inteligencia artificial. De hecho, existen métodos para hacerlo, “pero el lanzamiento diario de nuevos modelos los vuelve rápidamente obsoletos”, aclara Reviriego, quien forma parte en la UPM del grupo de investigación Internet de Nueva Generación.

Ejemplo simplificado del concepto de degradación en sucesivas versiones de inteligencia artificial entrenada con otras inteligencias artificiales. (Imagen: Gonzalo Martínez Ruiz de Arcaute)

El profesor de la ETSIT afirma que los resultados del estudio coinciden con los de investigadores de otras universidades sobre modelos de generación de texto. “Estos resultados iniciales sugieren que la interacción entre modelos de inteligencia artificial generativa e internet pueden tener efectos indeseados y abren una línea de investigación de alto interés tanto a nivel teórico como por sus potenciales implicaciones en la sociedad”, explica.

El estudio se titula “Towards Understanding the Interplay of Generative Artificial Intelligence and the Internet”. Y se presentó en el congreso anual de la Association for Uncertainty in Artificial Intelligence celebrado en agosto en la Universidad Carnegie Mellon de Estados Unidos. (Fuente: UPM)