A medida que la adopción de IA se dispara y las organizaciones en todas las industrias adoptan herramientas y aplicaciones basadas en IA, debería sorprender que los cibercriminales ya encuentren formas de apuntar y explotar esas herramientas para su propio beneficio. Pero si bien es importante proteger la IA contra posibles ataques cibernéticos, el problema del riesgo de IA se extiende mucho más allá de la seguridad. En todo el mundo, los gobiernos están comenzando an everyday cómo se desarrolla y utiliza la IA, y las empresas pueden incurrir en daños reputacionales significativos si se encuentran utilizando AI de maneras inapropiadas. Las empresas de hoy están descubriendo que el uso de IA de manera ética y responsable no es solo lo correcto, es basic para generar confianza, mantener el cumplimiento e incluso mejorar la calidad de sus productos.
La realidad reguladora que rodea a la IA
El paisaje regulatorio en rápida evolución debería ser una grave preocupación para los proveedores que ofrecen soluciones basadas en IA. Por ejemplo, el Ley de AI de la UEaprobado en 2024, adopta un enfoque basado en el riesgo para la regulación de la IA y considera sistemas que participan en prácticas como la puntuación social, el comportamiento manipulador y otras actividades potencialmente poco éticas para ser “inaceptables”. Esos sistemas están prohibidos directamente, mientras que otros sistemas de IA “de alto riesgo” están sujetos a obligaciones más estrictas que rodean la evaluación de riesgos, la calidad de los datos y la transparencia. Las sanciones por incumplimiento son severas: las empresas que se encuentran utilizando AI de maneras inaceptables pueden recibir una multa de hasta 35 millones de euros o el 7% de su facturación anual.
La Ley de AI de la UE es solo una legislación, pero ilustra claramente el fuerte costo de no cumplir con ciertos umbrales éticos. Estados como California, Nueva York, Colorado y otros han promulgado sus propias pautas de IAla mayoría de los cuales se centran en factores como la transparencia, la privacidad de los datos y la prevención de sesgos. Y aunque las Naciones Unidas carecen de los mecanismos de aplicación que disfrutan los gobiernos, vale la pena señalar que todos los 193 miembros de la ONU por unanimidad que “los derechos humanos y las libertades fundamentales deben ser respetadas, protegidas y promovidas a lo largo del ciclo de vida de los sistemas de inteligencia synthetic” en una resolución de 2024. En todo el mundo, los derechos humanos y las consideraciones éticas son cada vez más importantes cuando se trata de IA.
El impacto reputacional de la ética de IA pobre
Si bien las preocupaciones de cumplimiento son muy reales, la historia no termina allí. El hecho es que priorizar el comportamiento ético puede mejorar fundamentalmente la calidad de las soluciones de IA. Si un sistema de IA tiene un sesgo inherente, eso es malo por razones éticas, pero también significa que el producto no funciona tan bien como debería. Por ejemplo, cierta tecnología de reconocimiento facial ha sido criticado por no identificar caras de piel oscura, así como caras de piel clara. Si una solución de reconocimiento facial no está identificando una parte significativa de los sujetos, eso presenta un problema ético grave, pero también significa que la tecnología en sí no proporciona el beneficio esperado, y los clientes no estarán contentos. Abordar el sesgo, mitiga las preocupaciones éticas y mejora la calidad del producto en sí.
Las preocupaciones sobre el sesgo, la discriminación y la equidad pueden aterrizar a los vendedores en agua caliente con cuerpos regulatorios, pero también erosionan la confianza del cliente. Es una buena thought tener ciertas “líneas rojas” cuando se trata de cómo se usa la IA y con qué proveedores trabajar. Los proveedores de IA asociados con la desinformación, la vigilancia masiva, la puntuación social, los gobiernos opresivos o incluso una falta common de responsabilidad pueden hacer que los clientes sean inquietos, y los proveedores que proporcionan soluciones basadas en IA deben tener eso en cuenta al considerar con quién asociarse. La transparencia es casi siempre mejor: aquellos que se niegan a revelar cómo se está utilizando AI o quiénes son sus socios que están ocultando algo, lo que generalmente no fomenta un sentimiento positivo en el mercado.
Identificar y mitigar las banderas rojas éticas
Los clientes están aprendiendo cada vez más a buscar signos de comportamiento de IA poco ético. Los proveedores que se exageran pero subexcan sus capacidades de IA probablemente son menos que sinceros sobre lo que realmente pueden hacer sus soluciones. Las malas prácticas de datos, como el raspado de datos excesivos o la incapacidad de optar por no participar en el entrenamiento del modelo de IA, también pueden elevar las banderas rojas. Hoy, los proveedores que usan IA en sus productos y servicios deben tener un marco de gobierno claro y público con mecanismos establecidos para la responsabilidad. Aquellos que exigen el arbitraje forzado, o peor, no proporcionan ningún recurso en absoluto, probablemente no serán buenos socios. Lo mismo ocurre con los proveedores que no están dispuestos o no pueden proporcionar las métricas por las cuales evalúan y abordan el sesgo en sus modelos de IA. Los clientes de hoy no confían en las soluciones de caja negra: quieren saber cuándo y cómo se implementa la IA en las soluciones en las que confían.
Para los proveedores que usan IA en sus productos, es importante transmitir a los clientes que las consideraciones éticas son lo más importante. Aquellos que entrenan sus propios modelos de IA necesitan fuertes procesos de prevención de sesgos y aquellos que dependen de proveedores de IA externos deben priorizar a los socios con una reputación de comportamiento justo. También es importante ofrecer a los clientes una opción: muchos todavía están incómodos confiar en sus datos a las soluciones de IA y proporcionar una “exclusión” para las características de IA les permite experimentar a su propio ritmo. También es basic ser transparente sobre de dónde provienen los datos de entrenamiento. Una vez más, esto es ético, pero también es un buen negocio: si un cliente encuentra que la solución en la que confía fue capacitada en datos con derechos de autor, los abre a acciones regulatorias o legales. Al poner todo a la luz, los proveedores pueden generar confianza con sus clientes y ayudarlos a evitar resultados negativos.
Priorizar la ética es la decisión comercial inteligente
La confianza siempre ha sido una parte importante de cada relación comercial. La IA no ha cambiado eso, pero ha introducido nuevas consideraciones que los proveedores deben abordar. Las preocupaciones éticas no siempre son la mejor psychological para los líderes empresariales, pero cuando se trata de IA, el comportamiento poco ético puede tener graves consecuencias, incluidas daños reputacionales y posibles violaciones regulatorias y de cumplimiento. Peor aún, la falta de atención a consideraciones éticas como la mitigación de sesgos puede dañar activamente la calidad de los productos y servicios de un proveedor. A medida que la adopción de AI continúa acelerando, los proveedores reconocen cada vez más que priorizar el comportamiento ético no es solo lo correcto, también es un buen negocio.
