La inteligencia synthetic (IA) se ha entrelazado en casi todas las facetas de nuestra vida cotidiana, desde recomendaciones personalizadas hasta la toma de decisiones críticas. Es un hecho que AI continuará avanzandoy con eso, las amenazas asociadas con la IA también se volverán más sofisticadas. A medida que las empresas promulgan defensas habilitadas para AI en respuesta a la creciente complejidad, el siguiente paso para promover una cultura de seguridad de toda la organización es mejorar la explicabilidad de la IA.
Si bien estos sistemas ofrecen capacidades impresionantes, a menudo funcionan como “cajas negras“—Producir resultados sin una visión clara de cómo llegó el modelo a la conclusión que sí. Sistemas de IA que hacen declaraciones falsas o tomando acciones falsas puede causar problemas significativos y posibles interrupciones comerciales. Cuando las empresas cometen errores debido a la IA, sus clientes y consumidores exigen una explicación y poco después, una solución.
Pero, ¿qué tiene la culpa? A menudo, los malos datos se utilizan para el entrenamiento. Por ejemplo, la mayoría de las tecnologías públicas de Genai están capacitadas en datos disponibles en Webque a menudo no es verificado e inexacto. Si bien la IA puede generar respuestas rápidas, la precisión de esas respuestas depende de la calidad de los datos en los que está entrenado.
Los errores de IA pueden ocurrir en varios casos, incluida la generación de scripts con comandos incorrectos y decisiones de seguridad falsas, o evitar que un empleado trabaje en sus sistemas comerciales debido a las falsas acusaciones hechas por el sistema de IA. Todos los cuales tienen el potencial de causar importantes interrupciones comerciales. Esta es solo una de las muchas razones por las que garantizar la transparencia es clave para generar confianza en los sistemas de IA.
Construyendo en confianza
Existimos en una cultura donde inculcamos confianza en todo tipo de fuentes e información. Pero, al mismo tiempo, exigimos pruebas y validación cada vez más, necesitando validar constantemente noticias, información y reclamos. Cuando se trata de IA, confiamos en un sistema que tiene el potencial de ser inexacto. Más importante aún, es imposible saber si las acciones que toman los sistemas AI son precisos o no sin ninguna transparencia en la base de qué decisiones se toman. ¿Qué pasa si su sistema Cyber AI apaga las máquinas, pero cometió un error para interpretar los signos? Sin una concept de qué información llevó al sistema a tomar esa decisión, no hay forma de saber si hizo la correcta.
Si bien la interrupción de los negocios es frustrante, una de las preocupaciones más importantes con el uso de la IA es la privacidad de los datos. Los sistemas AI, como ChatGPT, son modelos de aprendizaje automático que obtienen respuestas de los datos que recibe. Por lo tanto, si los usuarios o desarrolladores proporcionan accidentalmente información confidencial, el modelo de aprendizaje automático puede usar esos datos para generar respuestas a otros usuarios que revelar información confidencial. Estos errores tienen el potencial de interrumpir severamente la eficiencia, la rentabilidad y, lo más importante, la confianza del cliente de una empresa. Los sistemas de IA están destinados a aumentar la eficiencia y la facilidad de los procesos, pero en el caso de que la validación constante sea necesaria porque no se puede confiar en los resultados, las organizaciones no solo están perdiendo el tiempo sino que también abren la puerta a posibles vulnerabilidades.
Equipos de capacitación para uso responsable de la IA
Para proteger a las organizaciones de los riesgos potenciales del uso de la IA, los profesionales de TI tienen la importante responsabilidad de capacitar adecuadamente a sus colegas para garantizar que la IA se use de manera responsable. Al hacer esto, ayudan a mantener a sus organizaciones a salvo de los ataques cibernéticos que amenazan su viabilidad y rentabilidad.
Sin embargo, antes de los equipos de capacitación, los líderes de TI deben alinearse internamente para determinar qué sistemas de IA será adecuado para su organización. Apresurarse a la IA solo será contraproducente más adelante, por lo que en cambio, comenzará con poco, enfocándose en las necesidades de la organización. Asegúrese de que los estándares y sistemas que seleccione se alinee con la pila tecnológica precise de su organización y los objetivos de la compañía, y que los sistemas de IA cumplan con los mismos estándares de seguridad que cualquier otro proveedor que seleccione.
Una vez que se ha seleccionado un sistema, los profesionales de TI pueden comenzar a obtener la exposición de sus equipos a estos sistemas para garantizar el éxito. Comience usando IA para tareas pequeñas y viendo dónde funciona bien y dónde no, y aprenda cuáles son los peligros o validaciones potenciales que deben aplicarse. Luego introduzca el uso de la IA para aumentar el trabajo, permitiendo una resolución de autoservicio más rápida, incluidas las simples preguntas de “cómo”. A partir de ahí, se le puede enseñar cómo establecer validaciones. Esto es valioso ya que comenzaremos a ver que se conviertan más trabajos en elaborar condiciones de contorno y validaciones, e incluso ya se ve en trabajos como usar IA para ayudar a escribir software program.
Además de estos pasos procesables para capacitar a los miembros del equipo, iniciar y alentar discusiones también es imperativo. Fomente el diálogo abierto, basado en datos y sobre cómo la IA está atendiendo las necesidades del usuario: ¿está resolviendo problemas con precisión y más rápido? ¿Estamos impulsando la productividad tanto para la empresa como para el usuario ultimate? Sea claro sobre el retorno de la inversión (ROI) y mantenga esa parte delantera y central. La comunicación clara permitirá que la conciencia sobre el uso responsable crezca, y a medida que los miembros del equipo obtengan una mejor comprensión de cómo funcionan los sistemas de IA, es más possible que los usen de manera responsable.
Cómo lograr la transparencia en la IA
Aunque los equipos de capacitación y el aumento de la conciencia es importante, para lograr la transparencia en la IA, es important que haya más contexto en torno a los datos que se están utilizando para entrenar los modelos, asegurando que solo se están utilizando datos de calidad. Con suerte, eventualmente habrá una forma de ver cómo razona el sistema para que podamos confiar completamente en él. Pero hasta entonces, necesitamos sistemas que puedan funcionar con validaciones y barandillas y demostrar que se adhieren a ellos.
Mientras lleno transparencia voluntad inevitablemente llevar tiempo a lograr, el rápido crecimiento de AI y es uso hacer él necesario a trabajar rápidamente. A medida que los modelos de IA continúan aumento en la complejidadtienen el poder de marcar una gran diferencia para la humanidad, pero las consecuencias de sus errores también crecen. Como resultado, comprender cómo llegan estos sistemas a sus decisiones es extremadamente valioso y necesario para seguir siendo efectivo y confiable. Al centrarnos en los sistemas de IA transparentes, podemos garantizar que la tecnología sea tan útil como debe ser sin dejar de ser imparcial, ética, eficiente y precisa.
