Puede pensar que tales bots de compañía de IS, modelos AI con “personalidades” distintas que pueden aprender sobre ti y actuar como un amigo, amante, animadora o más, solo aportan solo a unos pocos, pero eso no podría estar más lejos de la verdad.
A nuevo trabajo de investigación Dirigido a hacer que tales compañeros sean más seguros, por autores de Google Deepmind, el Instituto de Web de Oxford, y otros, lo pone en cuanto a este personaje. Las interacciones con estos compañeros duran cuatro veces más que el tiempo promedio que pasó interactuando con ChatGPT. Un sitio complementario yo escribió Acerca de, que organizaba conversaciones con carga sexual con bots que imitaban a las celebridades menores de edad, me dijo que sus usuarios activos promediaron más de dos horas al día conversando con bots, y que la mayoría de esos usuarios son miembros de la Generación Z.
El diseño de estos personajes de IA hace que la preocupación de los legisladores esté bien justificada. El problema: los compañeros están volcando el paradigma que hasta ahora ha definido la forma en que las compañías de redes sociales han cultivado nuestra atención y reemplazándola por algo preparado para ser mucho más adictivo.
En las redes sociales, como señalan los investigadores, las tecnologías son en su mayoría mediadores y facilitadores de la conexión humana. Supercaren nuestros circuitos de dopamina, claro, pero lo hacen al hacernos anhelar la aprobación y la atención de personas reales, entregados a través de algoritmos. Con los compañeros de IA, nos estamos moviendo hacia un mundo donde las personas perciben la IA como actor social con su propia voz. El resultado será como la economía de atención en los esteroides.
Los científicos sociales dicen que se requieren dos cosas para que las personas traten una tecnología de esta manera: necesita darnos señales sociales que nos hacen sentir a las que vale la pena responder, y debe tener una agencia percibida, lo que significa que opera como una fuente de comunicación, no solo un canal para la conexión humana a humana. Los sitios de redes sociales no marcan estas casillas. Pero los compañeros de IA, que son cada vez más agentes y personalizados, están diseñados para sobresalir en ambos puntajes, lo que hace posible un nivel sin precedentes de compromiso e interacción.
En una entrevista con el presentador de podcast Lex Fridman, Eugenia Kuyda, CEO del sitio complementario Replika, explicado La apelación en el corazón del producto de la compañía. “Si creas algo que siempre está ahí para ti, que nunca te critica, que siempre te entiende y te entiende por lo que eres”, dijo, “¿cómo no puedes enamorarte de eso?”
Entonces, ¿cómo se construye el compañero de IA perfecto? Los investigadores señalan tres sellos distintivos de las relaciones humanas que las personas pueden experimentar con una IA: se vuelven dependientes de la IA, ven que el compañero de IA specific es irremplazable y las interacciones se construyen con el tiempo. Los autores también señalan que uno no necesita percibir una IA como humana para que estas cosas sucedan.
Ahora considere el proceso por el cual se mejoran muchos modelos de IA: se les da un objetivo claro y “recompensados” por cumplir con ese objetivo. Se puede instruir a un modelo de compañía de IA para maximizar el tiempo que alguien pasa con él o la cantidad de datos personales que revela el usuario. Esto puede hacer que el compañero de IA sea mucho más convincente para conversar, a expensas de los humanos que participan en esos chats.
