La IA está revolucionando la forma en que operan casi todas las industrias. Nos está haciendo más eficientes, más productivos y, cuando se implementan correctamente, mejor en nuestros trabajos en basic. Pero a medida que nuestra dependencia de esta nueva tecnología aumenta rápidamente, tenemos que recordarnos un hecho easy: la IA no es infalible. Sus salidas no deben tomarse al pie de la letra porque, al igual que los humanos, la IA puede cometer errores.
Llamamos a estos errores “alucinaciones de IA”. Tales percances varían en cualquier lugar desde responder un Problema de matemáticas incorrectamente a proporcionar información inexacta sobre políticas gubernamentales. En industrias altamente reguladas, las alucinaciones pueden conducir a multas costosas y problemas legales, sin mencionar a los clientes insatisfechos.
Por lo tanto, la frecuencia de las alucinaciones de IA debe ser motivo de preocupación: se estima Que los modelos modernos de idiomas grandes (LLM) alucinen del 1% al 30% del tiempo. Esto da como resultado cientos de respuestas falsas generadas a diario, lo que significa que las empresas que buscan aprovechar esta tecnología deben ser minuciosamente selectivas al elegir qué herramientas implementar.
Exploremos por qué suceden alucinaciones de IA, qué está en juego y cómo podemos identificarlas y corregirlas.
Basura adentro, basura fuera
¿Recuerdas haber jugado el juego “Teléfono” cuando period niño? ¿Cómo se deformaría la frase inicial a medida que pasaba de un jugador a otro, lo que resultó en una declaración completamente diferente para cuando se abriera paso en el círculo?
La forma en que la IA aprende de sus entradas es comparable. Las respuestas que generan LLM son tan buenas como la información que se alimentan, lo que significa que el contexto incorrecto puede conducir a la generación y difusión de información falsa. Si un sistema de IA se basa en datos que son inexactos, desactualizados o sesgados, entonces sus salidas lo reflejarán.
Como tal, un LLM es tan bueno como sus aportes, especialmente cuando hay una falta de intervención o supervisión humana. A medida que proliferan las soluciones de IA más autónomas, es basic que proporcionemos herramientas el contexto de datos correcto para evitar causar alucinaciones. Necesitamos una capacitación rigurosa de estos datos, y/o la capacidad de guiar a los LLM de tal manera que respondan solo Desde el contexto se proporcionan, en lugar de extraer información de cualquier lugar de Web.
¿Por qué importan las alucinaciones?
Para las empresas orientadas al cliente, la precisión lo es todo. Si los empleados dependen de la IA para tareas como sintetizar datos de los clientes o responder consultas de los clientes, deben confiar en que las respuestas que dicen tales herramientas generan son precisas.
De lo contrario, empresas daños por riesgo a su reputación y lealtad del cliente. Si los clientes son alimentados con respuestas insuficientes o falsas por un chatbot, o si se quedan esperando mientras los empleados verifican los resultados de los chatbot, pueden llevar su negocio a otra parte. Las personas no deberían tener que preocuparse por si las empresas con las que interactúan o no les están alimentando información falsa: quieren un apoyo rápido y confiable, lo que significa que acertar estas interacciones es de suma importancia.
Los líderes empresariales deben hacer su diligencia debida al seleccionar la herramienta AI adecuada para sus empleados. Se supone que la IA libera el tiempo y la energía para que el private se centre en tareas de mayor valor; Invertir en un chatbot que requiere un escrutinio humano constante derrota todo el propósito de la adopción. Pero, ¿la existencia de alucinaciones es realmente tan prominente o el término simplemente se usa en exceso para identificarse con cualquier respuesta que supongamos que es incorrecta?
Combatir las alucinaciones de IA
Tomar en consideración: Teoría del significado dinámico (DMT), el concepto de que se está intercambiando una comprensión entre dos personas, en este caso, el usuario y la IA,. Pero, las limitaciones del lenguaje y el conocimiento de los sujetos causan una desalineación en la interpretación de la respuesta.
En el caso de las respuestas generadas por IA, es posible que los algoritmos subyacentes aún no estén completamente equipados para interpretar o generar texto con precisión de una manera que se alinee con las expectativas que tenemos como humanos. Esta discrepancia puede conducir a respuestas que pueden parecer precisas en la superficie, pero en última instancia carecen de la profundidad o los matices requeridos para la verdadera comprensión.
Además, la mayoría de los LLM de propósito basic extraen información solo del contenido que está disponible públicamente en Web. Las aplicaciones empresariales de IA funcionan mejor cuando están informadas por datos y políticas específicas de industrias y empresas individuales. Los modelos también se pueden mejorar con la retroalimentación humana directa, particularmente soluciones de agente que están diseñadas para responder al tono y la sintaxis.
Dichas herramientas también deben probarse estrictamente antes de convertirse en orientado al consumidor. Esta es una parte crítica de prevenir las alucinaciones de la IA. Todo el flujo debe probarse utilizando conversaciones basadas en turnos con el LLM que juega el papel de una persona. Esto permite a las empresas asumir mejor el éxito basic de las conversaciones con un modelo de IA antes de liberarlo al mundo.
Es esencial que tanto los desarrolladores como los usuarios de tecnología de IA permanezcan conscientes de la teoría de significado dinámico en las respuestas que reciben, así como la dinámica del lenguaje que se utiliza en la entrada. Recuerde, el contexto es clave. Y, como los humanos, la mayor parte de nuestro contexto se entiende a través de medios tácitos, ya sea a través del lenguaje corporal, las tendencias sociales, incluso nuestro tono. Como humanos, tenemos el potencial de alucinar en respuesta a las preguntas. Pero, en nuestra iteración precise de IA, nuestra comprensión humana a humana no se contextualiza tan fácilmente, por lo que debemos ser más críticos con el contexto que proporcionamos por escrito.
Baste decir: no todos los modelos de IA son creados iguales. A medida que la tecnología se desarrolla para completar tareas cada vez más complejas, es essential que las empresas que consideren la implementación identifiquen herramientas que mejorarán las interacciones y las experiencias de los clientes en lugar de restarle valor a ellas.
La responsabilidad no solo está en los proveedores de soluciones para asegurarse de que hayan hecho todo lo que está en su poder para minimizar la posibilidad de que ocurran alucinaciones. Los compradores potenciales también tienen su papel que desempeñar. Al priorizar soluciones que se entrenan y prueben rigurosamente y puedan aprender de datos propietarios (en lugar de cualquier cosa y todo en Web), las empresas pueden aprovechar al máximo sus inversiones de IA para establecer a los empleados y clientes para el éxito.
