Pinterest lanza nuevas herramientas para luchar contra la slop de AI

Pinterest cube que finalmente hará algo sobre la SLOP AI que se ha apoderado de su plataforma.

Después de un volumen cada vez mayor de quejas, el sitio de redes sociales y de pinza de imagen anunció el miércoles un plan para comenzar a etiquetar imágenes generadas por IA y modificadas por IA. También introducirá una nueva opción que permite a los usuarios reducir la cantidad de pines de IA generativos que ven.

Las nuevas características son una indicación de cuán grave es una IA generativa de amenaza para las plataformas construidas sobre el contenido generado por el usuario, el crowdsourcing y el intercambio social. AI Expertise ha hecho posible que los malos actores inunden estas plataformas con imágenes falsas que ahogan el contenido de fabricación humana que las personas vieron a ver, devaluando la experiencia normal. Los alfileres generados por IA y otro contenido de IA de baja calidad, a menudo denominado “Slop AI”, han creado una reacción entre la leal base de clientes de Pinterest.

Ahora, Pinterest cube que ayudará a los usuarios a identificar más fácilmente qué es la IA y lo que no.

Cuando los usuarios hacen clic en un pin de imagen en primer plano, verán una etiqueta “AI modificada” en la esquina inferior izquierda. La compañía cube que analizará los metadatos de la imagen para ayudar a determinar qué es AI, pero también ha desarrollado su propio sistema de clasificadores que detectarán automáticamente el contenido de IA que “no tiene marcadores obvios”.

Los creadores podrán apelar a Pinterest si su contenido se etiqueta incorrectamente, según la compañía.

Más importante aún, Pinterest cube que dará a los usuarios más management sobre cuánto contenido de IA ven en una próxima característica.

Cuando se lance, los usuarios podrán seleccionar una opción de “ver menos” en los pasadores de Gen AI en ciertas categorías, como la belleza y el arte, que son propensos a ser invadidos por el contenido de IA. Con el tiempo, también ampliará esta opción a otras categorías.

Cuando esté disponible, la opción se encontrará en el menú de tres puntos en la parte inferior derecha de un pin. Al hacer clic en esto, enviará una señal a los sistemas de Pinterest para recomendar menos contenido de IA a los usuarios, explica la compañía en una publicación de weblog.

Pinterest no dijo cuándo se lanzaba la nueva configuración de management, solo que estaba llegando “pronto”.

Para un sitio como Pinterest, que atrajo a los usuarios a navegar y guardar imágenes de aspiración en áreas como moda, decoración del hogar, viajes, arte, recetas, bricolaje, belleza, consejos para padres y más, un diluvio de contenido de IA podría matar el sitio. Algunos usuarios ya han declaró el sitio muerto Debido a las imágenes de IA que se han hecho cargo.

En Reddit, por ejemplo, los usuarios han sido protestante el invasión de AI Slop en Pinterest durante meses, observando un gran aumento en este contenido de bajo valor. Dicen que las imágenes de IA encontraron su camino a través del sitio, ya sea que estuvieran navegando por contenido, buscando o viendo sugerencias de la junta. Los medios también documentado el rechazar en artículos reflexionando si AI ya se ha arruinado la plataforma o si se puede solucionar.

Pinterest cube que planea introducir más herramientas en los próximos meses para construir su trabajo de IA, y agrega que todavía cree que la Generación AI puede ser inspiradora, cuando se implementa cuidadosamente.

“A medida que las personas se encuentran con contenido generado por IA en Pinterest, estamos capacitando a nuestros usuarios para tomar decisiones más informadas sobre el contenido que ven”, dijo el CTO Matt Madrigal en un comunicado. “El contenido de Gen AI en Pinterest debería mejorar la capacidad de los usuarios para descubrir y actuar sobre su inspiración, y nos estamos acercando intencionalmente a este nuevo panorama de una manera reflexiva que beneficia a todos en Pinterest”.