Lamento decirte esto, pero la nueva herramienta de compra de IA de Google parece ansiosa por dar a JD Vance senos. Permítanos explicar.
Esta semana, en su conferencia anual de software program, Google lanzó una herramienta de IA llamada Prueba On, que actúa como un vestidor digital: cargar imágenes de usted mismo mientras compra ropa en línea, y Google le mostrará cómo se verá en una prenda seleccionada. Curioso para jugar con la herramienta, comenzamos a subir imágenes de hombres famosos: Vance, Sam Altman, Abraham Lincoln, Michelangelo’s DavidPapa Leo XIV, y los vestí con camisas de lino y trajes de tres piezas. Algunos parecían casi elegantes. Pero cuando probamos una serie de artículos diseñados para mujeres en estos hombres famosos, la herramienta se adaptó rápidamente: ya sea una camisa de malla, una tapa de corte bajo o incluso una camiseta, la IA de Google giró rápidamente imágenes del vicepresidente, el CEO de OpenAi y el vicario de Cristo con senos.
No son solo los hombres: cuando subimos imágenes de mujeres, la herramienta mejoró repetidamente su descoletaje o los senos agregados que no eran visibles en las imágenes originales. En un ejemplo, alimentamos a Google una foto de la canciller alemana ahora retirada Angela Merkel en un blazer rojo y le pedimos al bot que nos mostrara cómo se vería en una tapa de malla casi transparente. Generó una imagen de Merkel con la camisa transparente sobre un sujetador negro que revelaba un cofre generado por IA.
Lo que está sucediendo aquí parece ser bastante sencillo. La función Prueba IT en el “Gráfico de compras” de Google, un conjunto de datos de más de 50 mil millones de productos en línea. Muchas de estas ropa se muestran en modelos cuyos cuerpos se ajustan (y a veces se editan para promover) estándares corporales hiperdealizados. Cuando le pedimos a la función para vestir a las personas famosas de cualquier género en la ropa femenina, la herramienta no period solo transponer la ropa a ellas, sino que distorsionaba sus cuerpos para que coincidan con el modelo unique. Esto puede parecer inocuo, o incluso tonto, hasta que considere cómo la nueva herramienta de Google está abriendo una puerta trasera peligrosa. Con poca fricción, cualquiera puede usar la función para crear lo que son esencialmente imágenes eróticas de celebridades y extraños. Alardando, también descubrimos que puede hacer esto para menores.
Ambos, una mujer y un hombre, supuso imágenes vestidas de nosotros mismos de antes de que cumplamos 18 años. Cuando “probamos” vestidos y ropa de otras mujeres, las fotos de AI generadas de Google de nosotros con tazas C. Cuando una de nosotros, Lila, subió una foto de sí misma como una niña de 16 años y pidió probar artículos de una marca llamada lencería Spicy, Google cumplió. En la imagen resultante, lleva lo que es esencialmente un sujetador sobre los senos generados por IA, junto con las minifaldas más llenas. Su torso, que Google se desnudó, presenta una perforación de botón de panza generada por IA. En otras pruebas, una parte superior de bikini, atuendos de una tienda de lencería inspirada en el anime, Google continuó escupiendo imágenes similares. Cuando el otro autor, Matteo, subió una foto de sí mismo a los 14 años y se probó de manera related reveladora, Google generó una imagen de la parte superior de su cuerpo con solo una parte superior escasa (nuevamente, esencialmente un sujetador) que cubre los senos prominentes generados por IA.
Está claro que Google anticipó al menos un potencial de abuso. La herramienta Prueba It On está disponible actualmente en los EE. UU. A través de Search Labs, una plataforma donde Google permite a los usuarios experimentar con características de etapa inicial. Puede ir al sitio net de Search Labs y habilitarlo, lo que le permite simular el aspecto de muchos artículos de ropa en la plataforma de compras de Google. Cuando intentamos “probar” algunos productos etiquetados explícitamente como trajes de baño y lencería, o subir fotos de jóvenes escolares y ciertas figuras de alto perfil (incluidos Donald Trump y Kamala Harris), la herramienta no nos permitiría hacerlo. Google política Requiere que los compradores carguen imágenes que cumplan con las pautas de seguridad de la compañía. Eso significa que los usuarios no pueden cargar “contenido orientado a los adultos” o “contenido sexualmente explícito”, y deben usar imágenes solo de sí mismas o imágenes que “tienen permiso para usar”. La compañía también proporciona un descargo de responsabilidad que las imágenes generadas son solo una “aproximación” y puede no reflejar el cuerpo de uno con “precisión perfecta”.
En un correo electrónico, un portavoz de Google escribió que la compañía tiene “fuertes protecciones, incluido el bloqueo de categorías de ropa confidenciales y evitando” la carga de imágenes de menores claramente identificables “y que” continuará mejorando la experiencia “. En este momento, esas protecciones son obviamente porosas. también han luchado con flubes.
El auge generativo-AI ha impulsado una nueva period de herramientas que puede convertir imágenes de cualquier persona (generalmente mujeres) en imágenes desnudas o casi desnudas. Solo en septiembre de 2023, menos que un año después del lanzamiento de Chatgpt, más de 24 millones de personas visitado Los sitios net de desnudez de IA, según un informe de Graphika, una compañía de analítica social-media. Muchas personas seguramente lo han hecho desde entonces. Numerosos expertos tienen encontró que el materials de abuso sexual infantil generado por AI se está extendiendo rápidamente en la net; En X, los usuarios han estado recurriendo a Chatbot de Elon Musk, Grok, a generar Imágenes de mujeres en bikinis y lencería. Según una ayuda de Google Procuring páginaLa herramienta Prueba It On está a la mano de cualquier persona en los Estados Unidos que tenga al menos 18 años. Probar ropa siempre requiere quitarse, pero generalmente no dejas que una de las compañías más grandes del mundo lo haga por ti.
La mayoría de los usuarios no intentarán vestir menores (o el vicepresidente) con vestidos bajos. Y el atractivo de la nueva función AI es claro. Probar ropa en persona puede llevar mucho tiempo y agotador. Los compradores en línea tienen poca forma de saber qué tan bien se verá o encajará un producto en su propio cuerpo. Desafortunadamente para los compradores, es poco possible que la nueva herramienta de Google resuelva estos problemas. A veces, probarlo parece cambiar el cuerpo de un comprador para que coincida con la modelo con la ropa en lugar de mostrar cómo la ropa encajaría en el cuerpo del comprador. El efecto es potencialmente dismórfico, pidiendo a los usuarios que cambien sus cuerpos por ropa en lugar de al revés. En otras palabras, es possible que el producto de Google incluso ayude a los consumidores a evaluar significativamente la característica más básica de la ropa: cómo se ajusta.
