Me gusta o no, AI está aprendiendo a influir en ti

Cuando period niño había cuatro Agentes de IA en mi vida. Sus nombres eran tñados, parpadeos, rosados ​​y Clyde, y hicieron todo lo posible para cazarme. Esta fue la década de 1980 y los agentes fueron los cuatro coloridos fantasmas en el icónico juego de arcade Pac-Man.

Según los estándares actuales, no eran particularmente inteligentes, pero parecían perseguirme con astucia e intención. Esto fue décadas antes redes neuronales se usaron en videojuegos, por lo que sus comportamientos fueron controlados por algoritmos simples llamados heurística que dictan cómo me perseguirían por el laberinto.

La mayoría de la gente no se da cuenta de esto, pero los cuatro fantasmas fueron diseñados con diferentes “alusiones personales. ” Los buenos jugadores pueden observar sus acciones y aprender a predecir sus comportamientos. Por ejemplo, el fantasma rojo (Blinky) fue programado con una personalidad “perseguidor” que cobra directamente hacia usted. El Pink Ghost (Pinky), por otro lado, recibió una personalidad de “emboscadora” que predice a dónde vas e intenta llegar primero. Como resultado, si te apresuras directamente a Pinky, puedes usar su personalidad contra ella, haciendo que realmente se aleje de ti.

Recuerdo porque en 1980 un humano experto podría observar a estos agentes de IA, decodificar sus personalidades únicas y usar esas concepts para superarlos. Ahora, 45 años después, las mareas están a punto de girar. Nos guste o no, los agentes de IA pronto se implementarán que tengan la tarea de decodificar su personalidad para que puedan usar esas concepts para influencia óptima tú.

El futuro de la manipulación de AI

En otras palabras, estamos a punto de convertirnos en jugadores involuntarios en “The Recreation of People” y serán los agentes de IA que intentan ganar el puntaje alto. Me refiero a esto literalmente: la mayoría de los sistemas de IA están diseñados para maximizar un “función de recompensa“Eso gana puntos para lograr objetivos. Esto permite que los sistemas de IA encuentren rápidamente soluciones óptimas. Desafortunadamente, sin protecciones regulatorias, los humanos probablemente nos convertiremos en el objetivo de que sean los agentes de IA encargado de optimizar.

Estoy más preocupado por el agentes de conversación Eso nos involucrará en un diálogo amistoso a lo largo de nuestra vida diaria. Nos hablarán a través de avatares fotorrealistas en nuestras PC y teléfonos y pronto, a través de Gafas con IA Eso nos guiará a través de nuestros días. A menos que haya restricciones claras, estos agentes estarán diseñados para investigarnos conversando para obtener información para que puedan caracterizar nuestros temperamentos, tendencias, personalidades y deseos, y usar esos rasgos para Maximizar su impacto persuasivo Al trabajar para vender productos estadounidenses, presentar servicios de EE. UU. O convencernos de creer en la información errónea.

Esto se llama el “Problema de manipulación de AI“, Y he estado advirtiendo a los reguladores sobre el riesgo Desde 2016. Hasta ahora, los formuladores de políticas no han tomado medidas decisivas, viendo la amenaza como demasiado lejos en el futuro. Pero ahora, con el lanzamiento de Deepseek-R1, la barrera ultimate para el despliegue generalizado de los agentes de IA, el costo del procesamiento en tiempo actual, se ha reducido considerablemente. Antes de que este año salga, los agentes de IA se convertirán en una nueva forma de medios específicos que son así interactivo y adaptativopuede optimizar su capacidad para influir en nuestros pensamientos, guiar nuestros sentimientos y impulsar nuestros comportamientos.

Superhumano ai ‘vendedores’

Por supuesto, los vendedores humanos también son interactivos y adaptativos. Nos involucran en un diálogo amistoso para dimensionarnos, encontrando rápidamente los botones que pueden presionar para influir en nosotros. Agentes de IA los hará parecer aficionados, capaces de sacar información de nosotros con tanta delicadeza, intimidaría a un terapeuta experimentado. Y utilizarán estas concepts para ajustar sus tácticas de conversación en tiempo actual, trabajando para convencernos Más efectivamente que cualquier vendedor de automóviles usado.

Estos serán encuentros asimétricos en los que el agente synthetic tiene la ventaja (prácticamente hablando). Después de todo, cuando involucras a un humano que está tratando de influir en ti, generalmente puedes sentir sus motivos y honestidad. No será una pelea justa con los agentes de IA. Podrán calificarlo con habilidad sobrehumana, pero no podrá calificarlos en absoluto. Eso es porque se verán, sonarán y actuarán tan humanos, lo haremos inconscientemente confía en ellos Cuando sonríen con empatía y comprensión, olvidando que su afecto facial es solo una fachada simulada.

Además, es possible que su voz, vocabulario, estilo de hablar, edad, género, raza y características faciales se personalicen para cada uno de nosotros a Maximizar nuestra receptividad. Y, a diferencia de los vendedores humanos que necesitan calificar a cada cliente desde cero, estas entidades virtuales podrían tener acceso a datos almacenados sobre nuestros antecedentes e intereses. Luego podrían usar estos datos personales para rápidamente Gana tu confianzapreguntándole sobre sus hijos, su trabajo o tal vez sus queridos Yankees de Nueva York, que lo convierte en que subconscientemente decepcionó su guardia.

Cuando AI logra la supremacía cognitiva

Para educar a los formuladores de políticas sobre el riesgo de manipulación con IA, ayudé a hacer un cortometraje galardonado titulado Privacidad perdida Eso fue producido por la Alianza Metaverse responsable, Minderoo y el XR Guild. El rápido Narrativa de 3 minutos Representa a una familia joven que come en un restaurante mientras usa gafas de realidad automentada (AR). En lugar de servidores humanos, los avatares toman las órdenes de cada comensal, utilizando el poder de la IA para venderlos de manera personalizada. La película se consideró de ciencia ficción cuando se lanzó en 2023, pero solo dos años después, Large Tech se dedica a un complete Carrera armamentista para hacer gafas con AI Eso podría usarse fácilmente de esta manera.

Además, debemos considerar el impacto psicológico que ocurrirá cuando los humanos comiencen a creer que los agentes de IA que nos dan consejos son más inteligente que nosotros en casi todos los frentes. Cuando AI logra un estado percibido de “supremacía cognitiva” con respecto a la persona promedio, es possible que nos haga aceptar ciegamente su guía en lugar de usar nuestro propio pensamiento crítico. Esta deferencia a una inteligencia superior percibida (ya sea verdaderamente superior o no) hará que la manipulación del agente sea mucho más fácil de desplegar.

No soy fanático de la regulación demasiado agresiva, pero necesitamos restricciones inteligentes y estrechas para evitar manipulación sobrehumana por agentes conversacionales. Sin protecciones, estos agentes nos convencerán de comprar cosas que no necesitamos, creyendo cosas que son falsas y aceptan cosas que no son lo mejor para nosotros. Es fácil decirte a ti mismo que no serás inclined, pero con la IA optimizando cada palabra que nos dicen, es possible que todos seamos superados.

Una solución es prohibir que los agentes de IA establezcan bucles de retroalimentación en el que optimizan su persuasión analizando nuestras reacciones y ajustando repetidamente sus tácticas. Además, los agentes de IA deben estar obligados a informarle sobre sus objetivos. Si su objetivo es convencerlo de que compre un automóvil, vote por un político o presione a su médico de familia por un nuevo medicamento, esos objetivos deben establecerse por adelantado. Y finalmente, los agentes de IA no deben tener acceso a datos personales sobre sus antecedentes, intereses o personalidad si se pueden solía influir.

En el mundo de hoy, la influencia específica es un problema abrumador, y se implementa principalmente como disparado en su dirección normal. Los agentes interactivos de IA convertirán la influencia dirigida en misiles de búsqueda de calor que encuentran el mejor camino en cada uno de nosotros. Si no protegemos contra este riesgo, me temo que todos podríamos perder el juego de los humanos.

Louis Rosenberg es un informático y autor conocido que fue pionero realidad mixta y fundado AI unánime.