La Unidad de Delitos Digitales (DCU) de Microsoft está tomando acciones legales para garantizar la seguridad e integridad de nuestros servicios de IA. En una denuncia revelada en el Distrito Este de Virginia, estamos llevando a cabo una acción para desbaratar a los ciberdelincuentes que desarrollan intencionalmente herramientas diseñadas específicamente para eludir las barreras de seguridad de los servicios de inteligencia synthetic generativa, incluidos los de Microsoft, para crear contenido ofensivo y dañino. Microsoft continúa haciendo todo lo posible para mejorar la resistencia de nuestros productos y servicios contra abuso; sin embargo, los ciberdelincuentes siguen siendo persistentes e innovan incesantemente sus herramientas y técnicas para eludir incluso las medidas de seguridad más sólidas. Con esta acción, estamos enviando un mensaje claro: no se tolerará que actores en línea utilicen nuestra tecnología de inteligencia synthetic como arma.
Los servicios de IA de Microsoft implementan sólidas medidas de seguridad, incluidas mitigaciones de seguridad integradas en los niveles de modelo, plataforma y aplicación de IA. Como se alega en nuestros documentos judiciales revelados hoy, Microsoft ha observado una amenaza extranjera–El grupo de actores desarrolló un software program sofisticado que explotó las credenciales de clientes expuestas extraídas de sitios internet públicos. Al hacerlo, buscaron identificar y acceder ilegalmente a cuentas con ciertos servicios de IA generativa y alterar intencionalmente las capacidades de esos servicios. Luego, los ciberdelincuentes utilizaron estos servicios y revendieron el acceso a otros actores maliciosos con instrucciones detalladas sobre cómo utilizar estas herramientas personalizadas para generar contenido dañino e ilícito. Tras el descubrimiento, Microsoft revocó el acceso de los ciberdelincuentes, implementó contramedidas y mejoró sus salvaguardas para bloquear aún más dicha actividad maliciosa en el futuro.
Esta actividad viola directamente la ley estadounidense y la Política de uso aceptable y Código de conducta por nuestro servicios. Los documentos judiciales no sellados de hoy son parte de una investigación en curso sobre los creadores de estas herramientas y servicios ilícitos. Específicamente, la orden judicial nos ha permitido confiscar un sitio internet basic para la operación prison que nos permitirá reunir pruebas cruciales sobre las personas detrás de estas operaciones, para descifrar cómo se monetizan estos servicios., y alterar la infraestructura técnica adicional que encontremos. Al mismo tiempo, hemos agregado mitigaciones de seguridad adicionales dirigidas a la actividad que hemos observado y continuaremos fortaleciendo nuestras barreras de seguridad según los hallazgos de nuestra investigación.
Todos los días, las personas aprovechan las herramientas de IA generativa para mejorar su expresión creativa y su productividad. Desafortunadamente, y como hemos visto con el surgimiento de otras tecnologías, los beneficios de estas herramientas atraen a malos actores que buscan explotar y abusar de la tecnología y la innovación con fines maliciosos. Microsoft reconoce el papel que desempeñamos en la protección contra el abuso y el mal uso de nuestras herramientas a medida que nosotros y otros en el sector introducimos nuevas capacidades. El año pasado, nosotros comprometido para continuar innovando en nuevas formas de mantener seguros a los usuarios y describió un enfoque integral para combatir el contenido abusivo generado por IA y proteger a las personas y las comunidades. Esta acción authorized más reciente se basa en esa promesa.
Más allá de las acciones legales y el fortalecimiento perpetuo de nuestras barreras de seguridad, Microsoft continúa buscando medidas proactivas adicionales y asociaciones con otros para abordar los daños en línea mientras aboga por nuevas leyes que brinden a las autoridades gubernamentales con herramientas necesarias para combatir eficazmente el abuso de la IAparticularmente para dañar a otros. Microsoft publicó recientemente un extenso informe, “Proteger al público del contenido abusivo generado por IA”, que estableces presenta recomendaciones para que la industria y el gobierno protejan mejor al público, y específicamente a las mujeres y los niños, de actores con motivos malignos.
Durante casi dos décadas, la DCU de Microsoft ha trabajado para perturbar y disuadir a los ciberdelincuentes que buscan convertir en armas las herramientas cotidianas en las que los consumidores y las empresas han llegado a confiar. Hoy, la DCU se basa en este enfoque y está aplicando aprendizajes clave de acciones de ciberseguridad pasadas para prevenir el abuso de la IA generativa. microsoft continuará haciendo su parte buscando formas creativas de proteger a las personas en línea, informando de manera transparente sobre nuestros hallazgos, emprendiendo acciones legales contra quienes intenten convertir la tecnología de IA en un arma y trabajando con otros en los sectores público y privado a nivel mundial para ayudar a que todas las plataformas de IA sigan existiendo. seguro contra abusos dañinos.
