Los detectores de IA fallan justo cuando más los necesitas: qué encontraron dos estudios en plena previa electoral

Lo que encontró un estudio en Brasil, meses antes de la campaña

El estudio A IA do Nosso Feed, realizado por el Observatório Lupa (Brasil) con la participación de 13 estudiantes de la Fundação Armando Alvares Penteado (FAAP), analizó 226 contenidos que se viralizaron en Facebook, Instagram, X, TikTok y WhatsApp entre febrero y junio de 2026 y que parecían haber sido generados con inteligencia artificial.

En 101 de esos casos se confirmó el uso de IA. De ellos, 40 —el tema más frecuente del estudio— eran de carácter político: deepfakes de figuras públicas pidiendo el voto o declarando apoyo a candidatos, retratos satíricos de políticos y avatares generados por IA que difundían encuestas electorales falsas. El presidente Luiz Inácio Lula da Silva fue la figura más retratada, seguido por el presidente de Estados Unidos, Donald Trump, y por el expresidente Jair Bolsonaro.

Sin embargo, el dato más revelador tiene que ver con las herramientas de verificación. Los investigadores probaron detectores gratuitos disponibles en ese país contra las mismas piezas de contenido y encontraron respuestas contradictorias. En 20 casos, distintos detectores llegaron a conclusiones opuestas sobre exactamente el mismo material. Un video hecho con IA que mostraba a Lula y a Bolsonaro bailando disfrazados de líderes de una hinchada, por ejemplo, fue calificado como “probablemente auténtico” por algunas de las herramientas evaluadas.

Esa incertidumbre ayuda a explicar por qué 125 de los 226 contenidos analizados —más de la mitad— quedaron finalmente sin poder confirmarse ni descartarse como generados por IA.

¿Y las empresas que hacen la IA no pueden detectar lo suyo?

El problema no se limita a los detectores gratuitos que cualquiera encuentra en internet. Desde el 2 de agosto de 2026, dos leyes —la California AI Transparency Act (CAITA) en Estados Unidos y el artículo 50 del Reglamento de IA de la Unión Europea— obligan a las empresas que fabrican herramientas de inteligencia artificial generativa a ofrecer un detector público y gratuito para que cualquier persona pueda comprobar si una imagen, un video o un audio fue creado o editado con su tecnología.

Para verificar si esa obligación se está cumpliendo, el medio especializado Indicator, en colaboración con la organización de derechos humanos WITNESS, hizo lo que describen como el primer censo y evaluación comprehensiva de estas herramientas. Analizaron 13 empresas —entre ellas Google, Meta, Microsoft, OpenAI, Adobe, Midjourney, HeyGen, Synthesia, ElevenLabs y TikTok— y corrieron 243 pruebas.

El resultado: 7 de las 13 empresas evaluadas no parecían tener un detector público dedicado disponible, lo que constituiría un incumplimiento de sus propias obligaciones legales. Y entre las que sí ofrecían un detector, solo una identificó correctamente la totalidad del contenido generado por su propia herramienta.

¿Qué significa esto para Ecuador de cara a las elecciones seccionales 2026?

Ni el estudio brasileño ni el de Indicator y WITNESS incluyen datos de Ecuador. Pero el patrón que describen no es ajeno al país: ya se hizo visible, y con cifras más altas, en los dos procesos electorales más recientes que monitoreó Lupa Media.

Durante la campaña presidencial de 2025, entre el 6 de enero y el 8 de abril, Lupa Media verificó 247 contenidos virales y encontró que el 74% era falso. Uno de cada cinco de esos contenidos falsos o manipulados incluía elementos hechos con inteligencia artificial, y tras el debate de segunda vuelta se identificaron siete piezas de deepfakes que simulaban reportes de medios internacionales como France24 y RTVE. Uno de esos videos fue tan viral que Lupa Media tuvo que desmentirlo cinco veces.

El dato más parecido al problema de los detectores lo dejó la Consulta Popular de noviembre de 2025. Entre el 1 y el 12 de ese mes, Lupa Media identificó 125 publicaciones en TikTok, X, Facebook e Instagram que promovían el “sí” o el “no” apelando a las emociones antes que a los hechos. El 75% de ese contenido viral —imágenes hiperrealistas, voces clonadas, deepfakes, textos generados— estaba hecho con IA. Pero solo el 5% incluía algún tipo de etiqueta que señalara su origen artificial.

Es decir, incluso sin necesidad de un detector automático que falle, el problema de fondo ya existe en Ecuador de la forma más simple —casi nadie etiqueta el contenido político hecho con IA, y quien lo consume no tiene manera de saberlo a simple vista. Esa brecha, sumada a lo que muestran los estudios tiene todas las condiciones para repetirse —o crecer— de cara a las próximas elecciones.

Ese patrón tiene una lógica simple: crear un contenido político sintético es cada vez más rápido y accesible; confirmar con certeza que ese contenido fue fabricado, todavía no. Frente a un detector automático que puede decir que un video es “probablemente auténtico” cuando no lo es —o frente a contenido que ni siquiera se molesta en etiquetarse como generado por IA—, la alternativa sigue siendo la misma que existía antes de que la IA generativa se volviera masiva: rastrear la fuente original, cruzar el contexto y la fecha, y —cuando hay duda— consultar a un equipo de verificación independiente en lugar de confiar en el resultado de una sola herramienta automática.