27 de agosto de 2026 - Tiempo de lectura 7 min
Mejorar la transparencia y precisión de la IA Generativa usando herramientas de videojuegos
Los modelos de lenguaje de gran tamaño (LLM) se han convertido en una de las herramientas más populares y extendidas de la inteligencia artificial. En sus múltiples aplicaciones han demostrado una gran capacidad para procesar lenguaje natural y generar respuestas coherentes. Sin embargo, para los profesionales, especialistas y emprendedores que desarrollan soluciones en sectores críticos, como el jurídico, el financiero o el análisis de datos sensibles, la adopción de la inteligencia artificial se encuentra con un gran obstáculo: la falta de explicabilidad y el riesgo de que se produzcan “alucinaciones” (contenidos incorrectos o inventados que se presentan como verosímiles). Cuando el coste de un error es sumamente alto, no se puede confiar ciegamente en una IA que funciona como una “caja negra”.
Este reto técnico también tiene una dimensión regulatoria en el marco del Reglamento de Inteligencia Artificial de la Unión Europea (AI Act). Esta norma establece obligaciones diferenciadas en función del tipo de sistema y su nivel de riesgo. En el caso de los sistemas de alto riesgo, exige, entre otros requisitos, un grado de transparencia que permita interpretar y utilizar adecuadamente sus resultados, así como documentación técnica, registro de actividad y mecanismos de supervisión humana. Para los proveedores de modelos de propósito general, contempla obligaciones específicas de documentación y transparencia. En este ámbito, mejorar la trazabilidad y facilitar la revisión humana puede contribuir a reducir riesgos y a cumplir la normativa.
Para abordar este desafío, los investigadores Steph Buongiorno y Corey Clark, de la Southern Methodist University (SMU), han diseñado el marco de trabajo GAME-KG (Gaming for Augmenting Metadata and Enhancing Knowledge Graphs). Esta metodología propone unir los grafos de conocimiento (KGs) con mecánicas de videojuegos de computación humana (HCG) para recopilar aportaciones de los jugadores con las que modificar y validar las relaciones entre los datos. El objetivo es proporcionar a los LLM una base de conocimiento estructurada y examinable por humanos que pueda mejorar la precisión y la trazabilidad de sus respuestas.
Qué son los grafos de conocimiento y por qué la IA necesita supervisión humana
Los grafos de conocimiento estructuran la información conectando entidades (nodos) mediante relaciones semánticas (aristas), lo que permite a los analistas humanos visualizar las conexiones entre los hechos que sustentan una respuesta. El problema radica en que, cuando un sistema automatizado genera un grafo de conocimiento a partir de un texto, puede limitarse a identificar las conexiones explícitas, es decir, aquellas que se mencionan textualmente.
Esto puede dejar fuera las conexiones implícitas: aquellas relaciones que un humano puede deducir a partir de su sentido común y conocimientos previos, pero que el texto no expresa de forma directa. Es en este punto donde GAME-KG introduce la participación de los jugadores para identificar, completar y validar esas relaciones.
Cómo funciona GAME-KG: seis pasos para mejorar los grafos de conocimiento
El modelo propone un enfoque colaborativo que convierte la adquisición de conocimiento y la validación de datos en una experiencia lúdica a través de seis etapas estructuradas:
- Descubrimiento de datos: se identifican y recopilan los documentos que servirán como fuente de información para el modelo de dominio.
- Procesamiento de texto: se analizan de forma automatizada las entidades y relaciones presentes en los documentos.
- Construcción del grafo y creación de la narrativa: se genera el grafo inicial. Paralelamente, se usa un LLM para crear una historia ficticia y adaptar o anonimizar la información, manteniendo las relaciones relevantes para el análisis.
- Identificación de las áreas de revisión: mediante métodos de análisis, como la similitud del coseno, se identifican las zonas del grafo con conexiones débiles, ausentes o potencialmente incorrectas que pueden requerir revisión humana.
- Integración en el videojuego: se introducen tanto la historia de ficción como el grafo de conocimiento en el entorno del videojuego.
- Recopilación de aportaciones: las modificaciones propuestas por los jugadores se registran mediante un sistema ponderado que permite priorizar las conexiones respaldadas por el consenso y filtrar aquellas con menor apoyo.
Cómo se probó GAME-KG con el videojuego Dark Shadows y GPT-4
Los autores del citado estudio evaluaron el potencial de su propuesta mediante dos pruebas complementarias centradas en un área especialmente sensible: el análisis de comunicados de prensa del Departamento de Justicia de EE. UU. (DOJ) sobre trata de personas.
Demostración 1: Dark Shadows, un videojuego para revisar grafos de conocimiento
Diseñado en Unity, Dark Shadows es un videojuego de misterio con estética film noir. Al jugador se le presenta un informe ficticio basado en relaciones extraídas de casos reales publicados por el DOJ. Utilizando una interfaz de “tablero de evidencias” con mecánicas de arrastrar y soltar, los usuarios enlazan sospechosos, edades, roles y ubicaciones.
Para favorecer la implicación del jugador, el juego utiliza modelos generativos complementarios como Stable Diffusion para ilustrar visualmente los perfiles creados por los jugadores en tiempo real.
Demostración 2: evaluación de las respuestas de GPT-4
En la segunda demostración, los investigadores utilizaron GPT-4 para responder preguntas usando dos variantes de un grafo de conocimiento:
- Caso de prueba: el texto original indicaba explícitamente que Kizer, un criminal identificado como traficante, había infringido la Ley Mann al transportar a una víctima a través de las fronteras estatales y que Villaman era su cómplice. Sin embargo, la relación de Villaman con la infracción de esta ley no aparecía expresada de forma directa.
- Aportación humana: mediante la interfaz de juego, los usuarios conectaron a Villaman directamente con la infracción de la Ley Mann basándose en el contexto implícito.
- Resultados de la IA: Cuando se consultó a GPT-4 “¿Qué ley infringió Villaman?” utilizando el grafo modificado por humanos, el modelo respondió: “La Ley Mann”. Por el contrario, al usar el grafo original, la IA indicó que el grafo no contenía la información necesaria para generar una respuesta, tal como establecían las instrucciones proporcionadas al modelo.
Se trata de una demostración preliminar, no de una validación a gran escala. El resultado muestra que un grafo enriquecido mediante aportaciones humanas puede proporcionar a un LLM información adicional y trazable, pero no demuestra que el método elimine por completo las alucinaciones.
Aplicaciones de GAME-KG para mejorar la IA generativa en las empresas
Este enfoque plantea posibles aplicaciones para los desarrolladores y responsables de proyectos digitales que trabajan con soluciones de inteligencia artificial para empresas, especialmente en entornos donde la trazabilidad de los datos y la supervisión humana son esenciales:
- Gamificación de la validación de datos: motivar a comunidades para etiquetar o verificar conjuntos de datos masivos suele ser costoso y propenso al desinterés. Al integrar estas tareas en dinámicas de juego atractivas, se puede fomentar la participación de una amplia comunidad de usuarios. El estudio sitúa en más de 3.000 millones el número de jugadores en todo el mundo.
- Arquitecturas RAG más transparentes: integrar grafos de conocimiento validados por humanos en sistemas RAG (Generación Aumentada por Recuperación) podría facilitar el desarrollo de aplicaciones de IA generativa capaces de mostrar qué información y qué relaciones respaldan sus respuestas. Esto puede contribuir a reducir los riesgos reputacionales y legales asociados al uso de estos sistemas.
- Tratamiento de información sensible: la anonimización y ficcionalización de los datos podría facilitar la revisión colaborativa de determinada información sin mostrar directamente las identidades o referencias originales. Sin embargo, su aplicación a registros corporativos confidenciales requiere evaluar posibles riesgos de reidentificación, establecer controles de acceso y cumplir las políticas de seguridad y protección de datos de cada organización.
Futuro del GAME-KG: hacia una IA generativa más transparente
Basándose en sus resultados preliminares, los investigadores creen que el marco GAME-KG es un paso importante hacia el aprovechamiento de los juegos para modificar los grafos de conocimiento y ayudar a los LLM a generar respuestas más precisas y trazables.
“Hemos estado trabajando en el uso de los LLM para situaciones críticas, como la trata de personas. Entender cómo la IA llegó a su respuesta es crucial”, señala Steph Buongiorno, miembro del equipo investigador de la SMU. “Tenemos que preguntarnos: ¿cómo podemos hacer que los LLM sean más precisos?, ¿cómo podemos inspeccionar los datos y reducir las alucinaciones? Nuestra investigación muestra que la IA es una herramienta que requiere la interacción humana para guiarla y dirigirla. Depende de nosotros crear la metodología para hacer que los LLM sean más útiles y fiables”.
Los grafos de conocimiento pueden complementar los modelos de lenguaje al proporcionar una base de información estructurada que las personas pueden revisar. Este enfoque resulta especialmente interesante en ámbitos donde la explicabilidad, la precisión y la supervisión humana son esenciales.
Sin embargo, su evolución también dependerá de comprobar su eficacia a mayor escala, evaluar los posibles sesgos introducidos por los participantes y garantizar una gestión adecuada de la información utilizada.
La principal aportación de GAME-KG es recordar que la fiabilidad de la IA generativa no depende únicamente de la capacidad de los modelos, sino también de la calidad de los datos y del criterio humano que interviene en su validación.
El estudio original, firmado por Steph Buongiorno y Corey Clark, se puede consultar online:A Framework for Leveraging Human Computation Gaming to Enhance Knowledge Graphs for Accuracy Critical Generative AI Applications.
