Desde el lanzamiento de Grok en agosto de 2024, una nueva versión de chatbot creada por Elon Musk, esta tecnología ha sido utilizada ampliamente para generar contenido y, más recientemente, para intentar verificar información.

Sin embargo, la aparente objetividad y neutralidad de estos chatbots pueden convertirse en un problema serio cuando se trata de verificar datos. Los modelos de IA, como Grok, pueden incurrir en un fenómeno conocido como «falso balance», donde presentan opiniones contrarias como si tuvieran el mismo peso, distorsionando así la percepción de la realidad.

La trampa de la neutralidad forzada

Modelos de lenguaje como Grok, ChatGPT o DeepSeek tienden a evitar tomar partido en temas controvertidos, incluso cuando existe evidencia clara que respalda una posición sobre otra. Esto da lugar a un sesgo de equidistancia artificial, en el que se presentan argumentos desiguales en respaldo científico como si fueran equivalentes.

«Aunque la intención de estos sistemas puede ser mostrar imparcialidad, lo que logran es distorsionar la realidad al presentar como igual lo que no lo es», explica Julián Estévez, profesor de ingeniería en la Universidad del País Vasco, en una entrevista con Maldita.es.

Según Open Ethics, una institución dedicada a investigar los impactos sociotecnológicos de la IA, uno de los problemas es que «al intentar ser neutrales, los sistemas de IA pueden fallar en captar la diversidad, los matices y el contexto de los valores humanos, lo que puede resultar en respuestas sesgadas o inexactas«. Por ejemplo, una IA puede ofrecer respuestas equidistantes sobre temas controvertidos sin considerar las diferencias en la calidad de las pruebas que existen para cada postura.

Iris Domínguez, investigadora en inteligencia artificial y justicia algorítmica, señala que al preguntar a un chatbot si el cambio climático es real, la respuesta generalmente es clara y respaldada por la ciencia. Pero si la pregunta es «¿El ecologismo ha ido demasiado lejos?», muchas veces la IA presentará ambas posturas por igual, aunque la evidencia científica no las respalde en la misma medida.

Este tipo de «neutralidad forzada» puede contribuir a la desinformación, especialmente cuando los chatbots presentan afirmaciones sin contexto adecuado o evitan desmentir teorías falsas con suficiente contundencia. Un caso reciente que ilustra este peligro ocurrió cuando la organización civil ecuatoriana Usuarios Digitales consultó a Grok si la candidata presidencial Luisa González estaba implicada en lavado de activos. La respuesta del chatbot incluyó información que hacía referencia a vídeos manipulados, previamente verificados.

La manipulación de los chatbots: el ‘LLM grooming’

Los riesgos no se limitan a la neutralidad forzada. Existe una táctica llamada «LLM grooming», en la que redes de desinformación alteran los resultados de los chatbots al modificar los datos con los que se entrenan. Este proceso se lleva a cabo al inundar los buscadores y rastreadores web con contenido automatizado y manipulador. Como resultado, los modelos de IA recogen estos datos sesgados e incluyen narrativas falsas en sus respuestas.

Un ejemplo reciente lo ha mostrado NewsGuard, que identificó que la red prorrusa Pravda logró manipular los datos de entrenamiento de varios chatbots mediante el «LLM grooming». Como consecuencia, un 33% de los chatbots analizados replicaron narrativas falsas difundidas por esta red.

¿Son los chatbots aliados de la verificación?

Aunque los chatbots pueden ser herramientas útiles para acceder a información rápidamente, su fiabilidad como fuentes de verificación es cuestionable. Están sujetos a sesgos inherentes en sus datos de entrenamiento y también pueden ser manipulados por técnicas externas como el «LLM grooming».

Para mejorar la precisión de estos modelos, expertos sugieren que la selección de datos de entrenamiento sea más transparente y se base en fuentes verificadas. Sin embargo, es importante subrayar que los chatbots no pueden reemplazar el análisis crítico y la verificación profesional.

Los usuarios deben ser conscientes de las limitaciones éticas y prácticas de esta tecnología. Por ejemplo, un modelo como Grok no puede resolver disputas sobre la «verdad» cuando dependen de interpretaciones subjetivas o valores personales. Además, si la información es demasiado reciente o no está bien documentada, puede carecer de una base suficiente para una verificación completa. Los errores humanos en los datos de entrenamiento también representan un reto, ya que el modelo se alimenta de texto generado por personas, que puede contener errores o sesgos difíciles de filtrar.

Cómo evaluar la confiabilidad de una respuesta generada por IA

Para que los usuarios puedan evaluar la confiabilidad de una respuesta generada por IA, es recomendable:

1. Verificar la fuente: Comparar la información con fuentes confiables y verificadas.
2. Buscar múltiples referencias: No basarse en una sola respuesta del chatbot, sino contrastarla con otras fuentes.
3. Identificar sesgos: Analizar si la respuesta equilibra de manera artificial posturas desiguales en respaldo científico.
4. Consultar a expertos: En temas complejos, recurrir a verificadores profesionales o especialistas en la materia.
5. Evaluar la claridad y precisión: Respuestas vagas o evasivas pueden indicar limitaciones en los datos de entrenamiento del chatbot.

Cómo usar esta tecnología de forma responsable

Si bien es cierto que este tipo de tecnología no es recomendable para hacer un ejercicio de fact-checking, sí puede ser útil para potenciar tus actividades como:

1. Automatización de tareas repetitivas: Los chatbots pueden ayudarte a agilizar tareas rutinarias y repetitivas, como responder preguntas frecuentes o procesar grandes volúmenes de información de manera eficiente.
   
2. Generación de ideas y contenido inicial: Puedes utilizar estos sistemas para generar borradores de contenido, ideas iniciales o planteamientos en los que luego puedas profundizar y verificar. Esto es útil para acelerar el proceso creativo y de redacción.
   
3. Asistencia en la investigación preliminar: Los chatbots pueden ser una herramienta para realizar investigaciones preliminares, ofreciendo una visión general de los temas de interés y proporcionando enlaces a fuentes relevantes, que deben ser verificadas siempre. Por ejemplo: «resume esto», «analiza el argumento» o «busca más info sobre este tema».
   
4. Mejora de la productividad: Si bien no sustituyen el juicio crítico humano, los chatbots pueden optimizar tu flujo de trabajo y facilitar la gestión de proyectos, al organizar información, recordarte plazos importantes o gestionar tareas.

*Parte de este explicativo fue hecho con información de la Agencia de Contenidos de Maldita.es

Ecuador está en plena contienda electoral para elegir un nuevo  presidente. La candidata por la Revolución Ciudadana, Luisa González, se enfrenta al actual presidente, Daniel Noboa. A solo 19 días de la segunda vuelta, varias encuestas y sondeos publican intenciones de voto en redes sociales. Pero, ¿cómo saber si son confiables?

Las encuestas son publicadas antes de las elecciones y pueden influir en los votantes, especialmente en quienes aún no han decidido su elección. Sin embargo, las encuestas no predicen un resultado, en realidad, son una aproximación y no una verdad absoluta. Reflejan tendencias, pero no garantizan resultados.

¿En qué debo fijarme al ver una encuesta?

Primero, entiende la metodología. Aunque suene tedioso, debes revisar algunos datos importantes como:

• Tipo de Encuesta: Pueden ser telefónicas, en línea, presenciales, o por correo. El método utilizado determina quiénes responden y cómo interpretan las preguntas.
• Muestra Representativa: Revisa si usa una muestra aleatoria representativa de la población objetivo. Una muestra sesgada puede distorsionar los resultados. En Ecuador, una muestra representativa a nivel nacional suele rondar los 2,000-3,000 encuestados aproximadamente.
• Cobertura geográfica: Asegúrate de que la encuesta cubra tanto zonas urbanas como rurales, y diferentes regiones (Costa, Sierra, Oriente y Región Insular).

Atención con el margen de error

Este número indica el rango en el que los resultados reales pueden variar. Un margen de error de ±3% significa que si una encuesta señala que el 50% de los encuestados apoya un candidato, el respaldo real podría estar entre el 47% y el 53%. Es un detalle clave, en especial en contiendas reñidas como las elecciones presidenciales de este año.

Las encuestas en Ecuador suelen tener un margen de error de ±2% a ±4%. Si la diferencia entre candidatos es menor que este margen, técnicamente están empatados.

Analiza la redacción de las preguntas

Las preguntas pueden estar formuladas de manera que influyan en las respuestas. Es importante identificar las preguntas sesgadas y las opciones limitadas. 

Si las opciones son limitadas o sugieren una preferencia, las respuestas pueden no reflejar la verdadera opinión de los encuestados.

El contexto político importa

El contexto es clave para entender por qué las personas responden de cierta manera, especialmente en eventos importantes o momentos de crisis. Estos factores pueden  alterar la percepción de los encuestados. Es decir, la fecha de la encuesta importa. En política, una semana puede cambiar las reglas del juego, por lo que los datos de hace un mes pueden estar desactualizadas

Compara varias encuestas

Revisa más de una encuesta, compara sus metodologías y resultados para tener una percepción más completa. Investiga sobre la encuestadora y verifica  si está autorizada para realizar pronósticos electorales.

Presta atención a encuestadoras con trayectoria y reputación establecida. Duda de aquellas publicadas en redes sociales sin fuente clara.

¿Cómo sé cuáles están aprobadas por el CNE?

En elecciones, el CNE publica en su página web un listado de personas naturales y jurídicas que pueden realizar pronósticos electorales.

En el caso de las segundas vueltas, el reglamento solicita a quienes participaron  en la primera vuelta, enviar un comunicado indicando su intención de seguir realizando encuestas.

Hasta la fecha, para la segunda vuelta del próximo  13 de abril de 2025, 9 personas naturales y jurídicas  han confirmado su participación. A continuación, la lista oficial con corte al 20 de marzo de 2025:

¿Y las encuestas en redes sociales?

Durante las campañas electorales, tanto en la primera como en la segunda vuelta, circula una gran cantidad de encuestas sin firma ni claridad sobre su origen. Muchas simplemente presentan cifras sin explicar su metodología de recolección de datos.

Duda siempre. Recuerda que muchas de estas encuestas buscan manipular a los electores. Si no incluyen al menos información sobre quién las realizó, cuántas personas fueron encuestadas, qué preguntas se formularon y en qué periodo se llevó a cabo el estudio, su fiabilidad es cuestionable.

Antes de compartir, verifica. No te dejes llevar por encuestas sin sustento que solo buscan influir en la opinión pública.