En el mundo políticamente polarizado de hoy, encontrar puntos en común sobre cuestiones sociales y políticas complejas es cada vez más difícil. A medida que las sociedades se vuelven más diversas, los desacuerdos sobre temas cruciales como el cambio climático, la inmigración y la política económica no han hecho más que extenderse. Reunir a las personas para encontrar consenso sobre cuestiones complejas a menudo requiere tiempo, recursos y condiciones equitativas donde todas las voces puedan ser escuchadas.
Los avances recientes en inteligencia synthetic han brindado nuevas posibilidades para que la tecnología ayude a facilitar diálogos complejos sobre temas divisivos. Los modelos de procesamiento de lenguajes grandes (NLP, por sus siglas en inglés) impulsados por IA, por ejemplo, se han vuelto lo suficientemente sofisticados como para interpretar lenguajes complejos y discernir diferencias en sentimientos y perspectivas. Además, los sistemas de inteligencia synthetic se están diseñando con funciones como análisis de sentimientos en tiempo actual, detección de sesgos y retroalimentación adaptativa. Estas habilidades los hacen especialmente adecuados para ayudar a facilitar debates justos y equilibrados.
Este potencial ha llamado la atención de los investigadores de Google DeepMind para explorar la promesa de la IA para facilitar el discurso civil. Inspirado por el concepts de filosofo Jürgen Habermashan creado el “Máquina Habermas”(HM), una herramienta para apoyar el discurso civil y ayudar a los grupos a descubrir valores compartidos. El artículo examina la pregunta: ¿Puede la IA realmente ayudarnos a encontrar puntos en común? También analiza cómo la Máquina Habermas (HM) puede facilitar la deliberación democrática.
La máquina Habermas
La Máquina Habermas es una herramienta de inteligencia synthetic diseñada para analizar opiniones individuales y crear una declaración grupal unificada. La máquina funciona como una “mediación de caucus”. Los participantes comienzan compartiendo sus pensamientos. Luego, la IA los combina en un borrador de declaración. A continuación, los participantes revisan este borrador y brindan críticas. La AI utiliza sus aportes para generar una declaración revisada que busca lograr un acuerdo más amplio, captando tanto las opiniones mayoritarias como las críticas minoritarias.
Esta máquina emplea dos LLM especializados para esta tarea. El primero es un modelo generativo que crea declaraciones que reflejan diversos puntos de vista del grupo. El segundo es un modelo de recompensa personalizado que evalúa estas declaraciones en función de la probabilidad de que cada participante esté de acuerdo con ellas. El modelo generativo se refina mediante ajustes supervisados, mientras que el modelo de recompensa se mejora de forma iterativa en función de las señales de recompensa.
La máquina se probó con más de 5.000 participantes de todo el Reino Unido. Algunos se unieron a través de una plataforma de crowdsourcing, mientras que otros fueron reclutados por la Sortition Basis, una asamblea ciudadana organizadora sin fines de lucro. Los participantes se dividieron en grupos y las pruebas se realizaron en dos fases. Primero, la máquina resumió las opiniones colectivas. Luego, medió entre grupos para ayudar a identificar puntos en común.
La promesa de la IA para descubrir puntos comunes para el diálogo democrático
El estudio destaca el potencial de la IA para encontrar puntos comunes en el diálogo democrático. Un hallazgo clave fue que las discusiones mediadas por IA llevaron a los participantes a cambiar hacia puntos de vista compartidos. A diferencia de las discusiones espontáneas, que a menudo reforzaron las creencias existentes, la IA ayudó a los participantes a reconsiderar sus posiciones, acercándolos a un punto medio. Esta capacidad de fomentar la alineación muestra que la IA podría ser una herramienta valiosa para abordar cuestiones complejas y divisivas.
El estudio también reveló que tanto los participantes como los jueces independientes calificaron las declaraciones generadas por IA de manera más favorable que las producidas por mediadores humanos. Descubrieron que las declaraciones de la IA eran más precisas, más informativas y más justas. Es importante destacar que la IA no se limitó a amplificar las opiniones mayoritarias; también dio peso a los puntos de vista minoritarios. Esta característica ayudó a prevenir la “tiranía de la mayoría” y aseguró que se escucharan las voces disidentes. La inclusión de estas opiniones disidentes es essential, especialmente en debates delicados, ya que una representación justa ayuda a prevenir malentendidos y fomenta discusiones equilibradas.
Aplicaciones reales de la IA en la democracia deliberativa
Las implicaciones de la deliberación mediada por IA son importantes para escenarios del mundo actual. Por ejemplo, la IA puede mejorar los debates sobre políticas, la resolución de conflictos, las negociaciones de contratos y las asambleas de ciudadanos. Su capacidad para fomentar un diálogo equilibrado lo convierte en una herramienta valiosa para gobiernos, organizaciones y comunidades que buscan abordar cuestiones complejas que involucran a diversas partes interesadas.
Para probar la eficacia del modelo en un entorno práctico, los investigadores organizaron una asamblea ciudadana digital con una muestra representativa de residentes del Reino Unido. Esta asamblea se centró en temas divisivos como la política de inmigración y la acción climática. Después de las discusiones mediadas por la IA, los participantes mostraron un cambio notable hacia el consenso, sin que ningún sesgo de la IA influyera en sus opiniones. Estos hallazgos resaltan cómo la mediación de la IA puede potencialmente guiar la toma de decisiones colectivas sobre cuestiones sociales críticas y al mismo tiempo minimizar los sesgos.
Limitaciones y consideraciones éticas
Si bien la mediación de la IA es muy prometedora, tiene notables limitaciones. Por ejemplo, el modelo de IA utilizado en este estudio carece de capacidades de verificación de hechos, lo que significa que depende en gran medida de la calidad de los aportes de los participantes. Además, la deliberación asistida por IA requiere un diseño cuidadoso para evitar discursos dañinos o improductivos. Otra consideración importante es el papel ético de la IA en los procesos democráticos. Algunas personas pueden ser cautelosas a la hora de utilizar la IA en debates políticos, por temor a que los algoritmos puedan influir involuntariamente en los resultados. Por lo tanto, una supervisión continua y un marco ético claro son esenciales para garantizar que la IA se utilice de manera que respete los valores democráticos.
La conclusión
Los investigadores de Google DeepMind han enfatizado que la IA tiene el potencial de transformar el diálogo democrático. Proponen que las herramientas de inteligencia synthetic, como la Máquina Habermas, pueden ayudar a las personas a encontrar puntos en común en cuestiones complejas. Si bien la IA puede hacer que las conversaciones sean más accesibles e inclusivas, es essential utilizarla de manera responsable para salvaguardar los valores democráticos.
Si se desarrolla cuidadosamente, la IA podría desempeñar un papel essential para facilitar el entendimiento colectivo. Puede ayudar a abordar cuestiones sociales urgentes al encontrar puntos en común entre diversas perspectivas. A medida que avanza la tecnología de IA, modelos como la Máquina Habermas podrían volverse vitales para afrontar los desafíos de la democracia moderna, simplificando y ampliando los procesos de deliberación para grupos más extensos y diversos.
