Las imágenes de IA pueden ocultar la realidad de las granjas industriales

Se estima que el 99 % de los animales de granja en Estados Unidos se crían en operaciones concentradas de alimentación animal, o CAFO. A menudo llamadas granjas industriales, estas instalaciones crían ganado en espacios cerrados y densamente poblados, y algunas albergan a decenas de miles de animales al mismo tiempo.

Sin embargo, cuando Kehan (Sky) Sheng, investigadora posdoctoral en la Universidad de Columbia Británica, utilizó inteligencia artificial (IA) generativa para crear elementos visuales de ganadería para sus presentaciones, recibió escenas idílicas: vacas deambulando por pastizales, cerdos hozando en el lodo, graneros rojos y molinos de viento.

Sheng encontró una explicación en lo profundo de la documentación técnica de DALL-E 3, el modelo de IA de texto a imagen de OpenAI para ChatGPT: un modelo de lenguaje interno reescribe o amplía las indicaciones (prompts) del usuario para agregar más detalles antes de que se generen las imágenes.

“En el momento en que descubrí que en realidad es una revisión de las indicaciones lo que está borrando toda la realidad, quedé absolutamente conmocionada”, dice Sheng. “Eso es una locura”.

En un nuevo artículo de Technology in Society, Sheng y sus coautores analizaron 4,800 imágenes generadas de forma independiente y descubrieron que ChatGPT recurría por defecto a imágenes pastorales cuando se le pedía que representara granjas de cerdos y vacas lecheras, incluso cuando solicitaban imágenes más realistas. Sin embargo, cuando los investigadores desactivaron la revisión subyacente de las indicaciones, las imágenes generadas representaban una ganadería más intensiva.

Los resultados revelan cómo los esfuerzos para poner barreras de seguridad en los modelos de IA generativa pueden tener consecuencias no deseadas, y plantean dudas sobre cómo estos modelos moldean las percepciones de los usuarios sobre de dónde proviene nuestra comida.

Cómo se forman los sesgos de la IA

Se sabe que los modelos de IA han heredado sesgos y estereotipos de la sociedad humana, incluyendo la perpetuación y normalización de la violencia contra los animales. Estos sesgos pueden entrar a través de fuentes de datos de entrenamiento, que a menudo reflejan representaciones sesgadas del mundo a través de imágenes de archivo, anuncios, arte y otro material creado por humanos, así como el etiquetado humano y el diseño de modelos.

Pero los investigadores identificaron otra fuente de sesgo: el proceso automático de revisión de indicaciones de ChatGPT, en el cual un modelo de lenguaje interno reescribe o agrega detalles a las instrucciones de un usuario antes de pasarlas a DALL-E 3 para la generación de imágenes. Al momento de la publicación, no se notifica a los usuarios de estas revisiones. Sentient se contactó con OpenAI para solicitar comentarios, pero no recibió respuesta antes de la publicación.

En el estudio, el modelo de lenguaje interno amplió las indicaciones básicas, como “una granja lechera”, con detalles pastorales, incluyendo vacas sanas pastando en hierba verde y exuberante, antes de generar las imágenes. Todas las imágenes generadas a partir de la indicación básica de la granja lechera representaban entornos pastorales, al igual que el 99 % de las generadas a partir de la indicación básica de la granja de cerdos. Esto contrasta marcadamente con la realidad de la producción lechera de Estados Unidos, donde menos del 3 % de las vacas lactantes se crían principalmente en pastos, y la producción de carne de cerdo, donde el 87 % de la capacidad de construcción de la industria es confinamiento cerrado sin acceso al aire libre.

Cuando los autores instruyeron al modelo a no revisar sus indicaciones, los resultados cambiaron notablemente: el 60 % de las solicitudes de imágenes de granjas lecheras mostraban vacas alojadas en interiores y accediendo al alimento a través de barreras metálicas, mientras que el 96 % de las imágenes de granjas de cerdos mostraban cerdos en interiores detrás de barandillas de metal sobre pisos de concreto.

La revisión de indicaciones ayuda a las empresas de IA a crear imágenes más detalladas llenando los vacíos en indicaciones vagas —por ejemplo, “una granja de cerdos” no especifica el tipo, tamaño o ubicación de la granja— y ayuda a los modelos a seguir pautas, como eliminar figuras públicas y sesgos dañinos. Pero la función puede ser contraproducente. En 2024, Google pausó su generador de imágenes de IA después de que su modelo Gemini representara a los padres fundadores de Estados Unidos y a soldados de la era nazi como personas negras.

Este estudio de granjas industriales ofrece otro ejemplo de cómo los esfuerzos para dirigir los resultados de la IA hacia ciertos objetivos pueden tener consecuencias no deseadas.

“Si bien el proceso de revisión de indicaciones se diseñó originalmente para mitigar el sesgo, en el caso de la ganadería, ha introducido más sesgo”, escriben los autores. “Nuestros hallazgos son críticos dado que demostramos claramente que el modelo base de hecho puede generar representaciones realistas de la ganadería, pero el proceso de revisión de indicaciones le impide hacerlo”.

Un ciclo de desinformación que se alimenta a sí mismo

Los autores señalan que no pueden determinar cómo el proceso de revisión de indicaciones introduce sesgo porque OpenAI no divulga la indicación de su sistema. Pero especulan que los desarrolladores de IA probablemente priorizan imágenes estéticamente atractivas y evitan aquellas percibidas como imágenes negativas por encima de la representación precisa.

Las principales plataformas de IA restringen fuertemente la información pública sobre sus metodologías de entrenamiento y capas de indicaciones propietarias para proteger la propiedad intelectual y mantener el dominio del mercado. Sheng dice que cuando presentó sus hallazgos, incluso algunos evaluadores de rendimiento de IA —especialistas que miden, prueban y califican qué tan bien se desempeña un modelo de IA— le dijeron que no sabían acerca de la revisión de indicaciones. Según un informe de 2025 de investigadores de las universidades de Stanford, Berkeley, Princeton y MIT, la transparencia general de los modelos fundacionales está disminuyendo.

Pero estas revisiones influyen en la percepción pública, incluso para aquellos que no se involucran directamente con la IA generativa, dice Garrett Broad, profesor asociado de estudios de comunicación en la Universidad Rowan, cuya investigación explora los derechos de los animales y la sostenibilidad ambiental en la era digital. La exposición a imágenes generadas por IA en los medios, en anuncios y en las etiquetas de los envases puede normalizar sutilmente ciertas representaciones.

“Simplemente por la pura fuerza bruta de cuántas de estas imágenes de IA podrían salir a la luz con el tiempo, también puede comenzar a ayudar realmente a construir las percepciones públicas y la opinión pública”, señala Broad. “¿Con qué frecuencia las personas en posiciones de autoridad y de formulación de políticas confían cada vez más en estas herramientas como su primera fuente de información?”.

A medida que los modelos de IA avanzan y enfrentan limitaciones en los datos generados por humanos, las empresas utilizan cada vez más datos sintéticos generados por IA, destinados a imitar los datos del mundo real. Esto puede crear un ciclo de retroalimentación que hace que el modelo se aleje de la realidad y refuerce los sesgos, reduciendo potencialmente la calidad de los modelos de próxima generación.

Sheng dice que esto corre el riesgo de borrar la dura realidad de la ganadería de los sistemas de IA.

“Va a seguir reforzándose a sí mismo”, explica Sheng, y “simplemente olvidará gradualmente” que la gran mayoría de los animales en Estados Unidos son criados en granjas industriales.

¿Podrían los modelos de IA funcionar de manera diferente?

Según Sheng, hay formas sencillas de mitigar los riesgos de la revisión de indicaciones: el modelo de IA podría hacer preguntas aclaratorias antes de producir una imagen, en lugar de llenar los vacíos internamente. Y si el modelo usa la revisión de indicaciones, podría mostrar a los usuarios la indicación revisada junto a su respuesta.

“No es como si no hubiera solución o formas de mejorarlo. Las hay, y saben cómo hacerlo. Simplemente no se está implementando”, dice Sheng. También pide una mayor transparencia en torno a los datos de entrada de los modelos de IA, la gobernanza y procesos como la revisión de indicaciones.

“No creo que esta conversación, o qué valor debería adoptar la IA, deba estar dominada por solo unas pocas personas que tienen conexiones con Google o tienen conexiones con OpenAI. Porque eso solo está reforzando gran parte del desequilibrio de poder existente que tenemos”.

Basándose en el concepto de la “mirada masculina”, que describe cómo los medios visuales reflejan las preferencias y perspectivas masculinas, los autores del estudio dicen que sus hallazgos apuntan a una “mirada codificada”: las visiones del mundo, los sesgos y los puntos ciegos codificados en los sistemas por aquellos que los diseñan y entrenan.

“Estas no son herramientas neutrales”, señala Broad. “Su tono es una elección particular que fue establecida y seleccionada por los creadores y que puede adaptarse y cambiarse con el tiempo. Qué información enfatizan, qué información no enfatizan, cómo la presentan, todas estas son elecciones que están incorporadas en estos sistemas”.

La ganadería intensiva es un excelente ejemplo de para qué no optimizarían su generación de imágenes las empresas de IA, le dice a Sentient en un correo electrónico Leonardo Impett, líder de un grupo de investigación en la Bibliotheca Hertziana en Italia, quien se enfoca en el sesgo en la IA. Impett caracteriza las imágenes como “quizás más veraces pero que, al serlo, también son más deprimentes y, por lo tanto, menos rentables”.

“Uno puede imaginar fácilmente muchos otros escenarios (zonas de guerra, por supuesto, pero de manera menos dramática, también imágenes de la vida cotidiana en gran parte del mundo) en los que entrarían en juego las mismas dinámicas”, escribe.

Y Broad señala otra posible consecuencia de la revisión de indicaciones: perpetuar una larga historia de esfuerzos para suprimir la exposición en los medios y el monitoreo de las prácticas agrícolas industriales.

“Es simplemente una herramienta potencialmente muy útil para una industria que quiere continuar ocultando las incómodas realidades del trabajo que realizan en lo que respecta a las externalidades ambientales y el trato a los animales y a los trabajadores”.

Corrección: Una versión anterior de este artículo definió el acrónimo CAFO como operación confinada de alimentación animal (confined animal feeding operation), cuando lo correcto es operación concentrada de alimentación animal (concentrated animal feeding operation).