Canibalismo digital: La IA que come a otra IA

La IA, al practicar el canibalismo digital, se aísla de la realidad, generando un bucle de información que la lleva a una degeneración progresiva, afectando su capacidad de innovación.

¿Por qué las IA “enferman” al alimentarse de sí mismas?

¿Alguna vez has jugado al teléfono descompuesto? Un mensaje se va distorsionando a medida que pasa de persona en persona. Algo similar le ocurre a las inteligencias artificiales (IA) cuando se alimentan de sus propias creaciones. Un reciente estudio científico ha revelado un fenómeno al que los investigadores han llamado “Trastorno de Autofagia Modelo” (MAD). Ésta, una especie de “enfermedad de las vacas locas” digital.

El canibalismo digital revela la fragilidad de la IA ante la falta de datos externos, evidenciando la necesidad de un suministro constante de información nueva y diversa.

Canibalismo digital: El síndrome de la “vaca loca” de la IA

Este fenómeno ha sido denominado “Trastorno de Autofagia Modelo” o MAD. Los investigadores lo comparan con la enfermedad de las vacas locas, donde los animales, al consumir tejido infectado de otros, desarrollan trastornos neurológicos. En el caso de la IA, al alimentarse de su propia producción, la calidad y diversidad de sus resultados se ven comprometidas. “Sin suficientes datos reales frescos, los futuros modelos generativos están condenados a la MADness (locura en español)”, advierte Richard Baraniuk, ingeniero informático de la Universidad de Rice.

Rostros distorsionados y números ilegibles: las consecuencias de la autofagia

Para llegar a estas conclusiones, los investigadores entrenaron un modelo de IA generativa de imágenes con diferentes tipos de datos. Las imágenes eran reales, sintéticos y combinaciones de ambos. Los resultados fueron claros: a medida que el modelo se entrenaba con datos cada vez más sintéticos, la calidad de las imágenes generadas se deterioraba notablemente. Los rostros generados, por ejemplo, mostraban artefactos y distorsiones, perdiendo su realismo. Los números escritos a mano, por su parte, se volvían cada vez más ilegibles.

La IA, al caer en el canibalismo digital, se convierte en un espejo de sí misma, perdiendo la capacidad de generar contenido original y relevante, limitando su potencial.

Canibalismo digital: La frescura de los datos, un factor clave

La investigación también demostró que la frescura de los datos es fundamental. Incluso cuando se utilizaban datos reales, pero sin actualizarlos constantemente, el modelo comenzaba a degradarse. Esto sugiere que la IA necesita un flujo constante de información nueva para mantener su capacidad de generar contenido de calidad.

El riesgo de un internet “envenenado” por la IA

Los investigadores advierten sobre las posibles consecuencias a largo plazo de este fenómeno. Si no se toman medidas para garantizar un suministro constante de datos reales y de alta calidad, existe el riesgo de que la IA “envenene” el contenido de internet, generando información cada vez más repetitiva y menos útil. “Un escenario apocalíptico es que, si no se controla durante muchas generaciones, MAD podría envenenar la calidad y la diversidad de los datos de todo Internet”, señala Baraniuk.

El canibalismo digital es una señal de alarma, indicando que la IA necesita evolucionar hacia modelos más robustos y capaces de adaptarse a entornos cambiantes y complejos.

Para seguir pensando

Este estudio pone de manifiesto la importancia de abordar el problema de la autofagia en la IA. Los investigadores hacen un llamado a la comunidad científica y a las empresas tecnológicas para desarrollar nuevas estrategias que permitan entrenar a estos modelos de manera más eficiente y sostenible. Solo así podremos aprovechar todo el potencial de la inteligencia artificial sin poner en riesgo su futuro.