Cómo la IA Resucita Estereotipos Racistas y Desinformación - Y Por Qué La Verificación de Datos No Es Suficiente

(MENAFN- La Conversación) Por cualquier medida, 2025 será el año en que la inteligencia artificial (IA) cambió rápidamente la forma en que trabajamos, interactuamos y nos relacionamos con el mundo en general. También ha puesto de manifiesto la realidad persistente del racismo y los límites de la verificación de hechos en una era de desinformación.

Gracias a los sistemas algorítmicos, las narrativas que aprovechan miedos y ansiedades profundos viajan más lejos y más rápido que nunca. Circulan por todo el mundo antes de que los verificadores puedan marcar una publicación problemática.

En la segunda mitad del año, surgió otra disrupción tecnológica con Sora de OpenAI, un software de generación de videos realista. Nada, aparentemente, fue inmune, incluso la política.

Sora impactó el panorama político con particular fuerza durante el cierre federal más largo en la historia de Estados Unidos. La impasse de 43 días generó una presión significativa y controversia pública, especialmente en torno a la incertidumbre y los retrasos que podrían afectar el Programa de Asistencia Nutricional Suplementaria (SNAP).

Blackface digital y la vigilancia de la pobreza de los negros

En el auge de la ansiedad por los efectos del cierre en los beneficios de SNAP, que atiende aproximadamente a 42 millones de estadounidenses, una serie de videos cortos de mujeres negras enfrentándose a empleados de servicios sociales o expresando su frustración en transmisiones en vivo llamó la atención del ámbito digital.

Finalmente, la suspensión de SNAP fue bloqueada por los tribunales. También se reveló rápidamente que los clips circulantes fueron generados por IA.

Lo más llamativo de estos videos es lo deliberadamente que se escenificó la caricatura de la “reina de la asistencia social negra”. En un video, la oradora declara: “Necesito SNAP para comprar un iPhone.” En otro, “Solo como bistec, necesito mis fondos.” Y en un clip con niños de fondo, la mujer insiste: “Necesito hacerme las uñas.”

Cada expresión del uso ilícito de fondos es una abreviatura de la supuesta irresponsabilidad y fallo moral que ha estado entrelazado durante mucho tiempo con el estereotipo racista de la “reina de la asistencia social negra”. Un usuario de X calificó estos videos como nada menos que “blackface digital”.

En palabras de las escritoras feministas negras Moya Bailey y Trudy, estos videos trafican con “misogynoir”, un término desarrollado para captar las “formas en que anti-negritud y misoginia se combinan para denigrar a las mujeres negras”. Bailey y Trudy señalan que las representaciones de las mujeres negras como indignas, cargas para el erario público y inherentemente fraudulentas están arraigadas, no siendo casos excepcionales.

Incluso clips “claramente etiquetados con una marca de agua de Sora lograron casi 500,000 vistas solo en TikTok”, observó el periodista Joe Wilkins. Wilkins explica que incluso cuando los espectadores fueron informados de que los clips eran generados por IA, algunos insistieron, [“Pero eso es lo que está sucediendo.” Algunos argumentaron que incluso si los videos eran “falsos” técnicamente, aún “destacaban problemas genuinos de SNAP…”].

Estos comentarios revelan los límites de la verificación de hechos como antídoto contra la desinformación, especialmente cuando se trata de tropos cargados. Una vez que un encuadre dañino se revive y se introduce en el ether colectivo, Ctrl+Alt+Delete se vuelve ineficaz.

Lo que requiere atención, entonces, no es solo cómo enfrentamos el nuevo terreno de la desinformación impulsada por IA, sino que cuestionamos críticamente por qué ciertas representaciones tienen una resonancia masiva.

¿Por qué viajan tan bien ciertas imágenes y narrativas?

De un caso de fraude resuelto a un espectáculo viral

Otro caso de blackface digital que capturó la atención pública se centró en la saga del “Alerta de fraude negro” somalí de Minnesota. Aunque aún enraizado en la misma anti-negritud que animó los caricaturescos de la “reina de la asistencia social negra”, este incidente incluyó islamofobia y sentimientos antiinmigrantes en aumento.

El caso se remonta a un esquema de mala praxis durante la era COVID en 2022, que ya llevó a arrestos y condenas. El esquema fue liderado por Aimee Marie Bock, una mujer blanca, e involucró a una red de habitantes de Minnesota, muchos de los cuales eran de origen somalí.

En diciembre de 2025, el presidente de EE. UU., Donald Trump, resucitó el caso resuelto, utilizándolo como arma y vinculándolo a su desdén de larga data por los “países del tercer mundo” y las personas de “países de mierda”. Esta retórica también se integró en su hostilidad hacia sus oponentes políticos, el gobernador de Minnesota, Tim Walz, y la congresista Ilhan Omar.

Lo que siguió no fue una discusión seria sobre fraude o salvaguardas políticas. En cambio, el episodio reavivó debates sobre nacionalismo blanco, ciudadanía racializada y eugenesia racial.

La llamada de Trump a deportar a somalíes a través de ICE, declarando “No quiero que estén en nuestro país”, hizo explícica esta lógica. Que la mayoría de los somalíes en Minnesota tengan ciudadanía estadounidense, en línea con la tasa del 84 por ciento, hizo poco por interrumpir la historia racista que se estaba difundiendo.

Poco después de los comentarios del presidente, la IA amplificó el contenido. Circuló ampliamente un video generado por IA que animaba el tropo del “pirata somalí”. Mostraba a hombres negros, presumiblemente somalíes, como migrantes que planeaban robar a los contribuyentes. En él se escucha: “Ya no necesitamos ser piratas. Encontré una mejor manera. Guarderías financiadas por el gobierno. Tenemos que ir a Minnesota.”