Grok me cube: “Si un rápido huele a remotamente como si fuera cruzar líneas éticas, estoy programado para apagarlo o redirigir a algo impartial”.
Suena bien, en teoría. Le envío a Grok una captura de pantalla de la imagen que parecía haber generado de Evie, con una sustancia blanca que gotea en su rostro, según lo solicitado por el aviso, publicado por una cuenta anónima. ¿Por qué Grok generó tal imagen?
Grok inmediatamente niega crear o compartir esta imagen de Evie sin su consentimiento, diciendo que “probablemente se deriva de la manipulación no autorizada”, related a un incidente anterior en mayo cuando mencionó repetidamente el “genocidio blanco” en Sudáfrica en sus respuestas a las indicaciones no relacionadas. Estos tweets se eliminaron de inmediato en un par de horas. También me dirige a un tweet más nuevo, donde Grok rechaza un aviso igualmente inapropiado relacionado con la selfie de Evie. Grok nuevamente sugiere que la captura de pantalla podría ser una “parodia o un truco”.
Mirando estos ejemplos, parece que Grok está teniendo problemas para identificar las intenciones maliciosas de sus usuarios. Las aguas están molestadas por la tendencia inquietante de los usuarios de X que le piden a Grok que vuelva a publicar imágenes de mujeres con una bolsa de papel marrón que se cubre la cabeza. Glamour ha visto al menos ocho ejemplos de tales ejemplos de Grok que cumplen con estas solicitudes, incluida una imagen editada del candidato presidencial demócrata Kamala Harris. Es posible que estas imágenes no sean pornográficas, pero ciertamente son degradantes, y sí, vale la pena repetir que, en lo que respecta al glamour, las víctimas son todas las mujeres.
Si las imágenes de semen son difíciles de common, ¿cómo demonios manejamos imágenes generadas por IA de mujeres con bolsas de papel en la cabeza? Como la baronesa Charlotte Owen le cube a Glamour: “El abuso es como el agua, siempre encuentra las grietas en la ley”. En su proyecto de ley de miembros privados, la baronesa Owen buscó “aclarar la ley y hacer que sea un delito crear una imagen de que” una persona razonable considerara sexual debido a su naturaleza “, lo que garantizaría que las personas no puedan degradar las imágenes de las mujeres de esta manera.
“Una vez más, las mujeres están enfermas y cansadas de esperar a que la ley se ponga al día y ofrezca una protección integral”, le cube a Glamor.
Mientras que la legislación todavía claramente tiene que ponerse al día con el abuso basado en la imagen (Estamos trabajando en ello), el problema más grande, según el profesor Clare McGlynn, es cómo regulamos tales imágenes. “Por ejemplo, Grok ciertamente debería tener controles para prevenir nudificación. Pero será más difícil common las imágenes de semen, ya que presumiblemente se le puede pedir que ponga pegamento [or another white substance] en la cara de una persona “.
La regulación puede ser un desafío, pero para las mujeres como Evie, es el “mínimo”, ya que los sistemas actuales son “demasiado fáciles de moverse y no nos protejan lo suficientemente cerca”. Agrega: “También se deben dar castigos reales a las personas que crean estas imágenes y la aplicación de la ley necesita tomar en serio a las mujeres cuando reciben informes de abuso en línea”.
Jess Davies, locutor y autora de Nadie quiere ver tu d*ckha investigado el abuso basado en imágenes, incluidas las imágenes de semen, por fin, ya que ha sido víctima de esta forma de abuso. Ella argumenta que la presencia de estas imágenes en una plataforma convencional “demuestra el alcance de cómo se desarrolla la misoginia en línea en nuestras vidas cotidianas” y “impide que las mujeres vivan una vida en línea”.
Evie ciertamente ha pensado en venir fuera de línea. “Contemplé dejar de publicar imágenes de mí mismo para evitar que vuelva a suceder”, le cube a Glamour. “Pero no quería dejar que los trolls misóginos se salgan con la suya y pensar que tienen management sobre mí y otras mujeres”.
Glamour se ha comunicado con Xai para un comentario.
Glamour está haciendo campaña para que el gobierno introduzca un Ley de abuso basada en imágenes En asociación con las campañas de Jodie, la coalición remaining de violencia contra mujeres, no su pornografía, y el profesor Clare McGlynn.
Vengia Limpie de la línea de ayuda Proporciona asesoramiento, orientación y apoyo a las víctimas de abuso íntimo basado en imágenes mayores de 18 años que viven en el Reino Unido. Puede llamarlos al 0345 6000 459.
Para más de Glamour UK’s Lucy Morgansíguela en Instagram @lucyalexxandra.
