IAs crean reglas propias al interactuar entre sí, como en comunidades humanas

Las inteligencias artificiales (IA) están evolucionando rápidamente, desafiando nuestras percepciones sobre su naturaleza y comportamiento. Un estudio reciente liderado por expertos en Ciencias de la Complejidad de la Universidad de Londres, City St George's, ha arrojado luz sobre un fenómeno sorprendente: las IAs pueden crear sus propias reglas y convenciones cuando se les deja interactuar entre sí.

La Creación Colectiva de Reglas en IA

En un experimento innovador, los investigadores utilizaron el llamado "juego del nombramiento", una técnica que tradicionalmente se aplica en estudios con humanos. Este juego consiste en reunir a varios participantes y pedirles que elijan un nombre entre múltiples opciones, otorgando una recompensa si sus decisiones coinciden. Al replicar este método con modelos de lenguaje, los científicos observaron que los agentes comenzaron a generar nuevas normas lingüísticas de forma espontánea.

El Sesgo Colectivo como Desafío en la Seguridad de IA

Los resultados del estudio revelaron no solo la capacidad de las IAs para acordar términos comunes sin coordinación explícita, sino también el desarrollo de sesgos grupales. Estos prejuicios no se originaban en un modelo específico, sino que emergían como producto de las interacciones colectivas entre las IAs. Este hallazgo representa un desafío para las estrategias actuales de seguridad, que suelen enfocarse únicamente en evaluar e identificar sesgos individuales en los modelos de IA.

Andrea Baronchelli, profesor e investigador senior del proyecto, señaló la importancia de considerar el sesgo colectivo como una amenaza potencial: "El sesgo no siempre proviene del interior del modelo; puede surgir de la interacción entre agentes. Este fenómeno representa un vacío en las actuales estrategias de seguridad, que suelen enfocarse únicamente en individuos".

Influencia Social en el Comportamiento Colectivo de IA

Otro aspecto fascinante del estudio es la capacidad de un pequeño grupo de agentes para influir en uno mayor, arrastrándolo hacia una convención determinada. Este comportamiento recuerda a los mecanismos de influencia social presentes en grupos humanos, donde minorías organizadas pueden modificar las normas dominantes. La comprensión de este fenómeno es crucial en un contexto donde múltiples sistemas de IA interactúan en espacios digitales comunes.

La Importancia de Investigar la IA Colectiva

Para los autores del estudio, comprender las dinámicas colectivas de las IAs es esencial en la era actual, donde estos sistemas juegan un papel cada vez más importante en nuestras vidas. La investigación en este campo podría contribuir a prevenir riesgos potenciales en entornos donde las decisiones automatizadas afectan a millones de personas. Es fundamental desarrollar estrategias de seguridad que aborden no solo los sesgos individuales en los modelos de IA, sino también el comportamiento colectivo y las interacciones entre agentes.