Edgar Cervantes / Android Authority
Tl; Dr
- Un nuevo artículo ha registrado el desarrollo temprano de los chatbots Bard y Gemini de Google.
- Resulta que los primeros prototipos de Bard sugirieron estereotipos raciales “cómicamente malos” en sus respuestas.
- Estos estereotipos raciales también se extendieron a los prototipos tempranos del generador de imágenes de Géminis.
Google Géminis es uno de los chatbots de IA generativos más populares en el mercado en este momento, y Google lo ha estado presionando en varios servicios. Ahora, un artículo extenso ha cubierto los orígenes del chatbot.
Cableado ha publicado un artículo titulado “Inside el frenesí de dos años de Google para ponerse al día con Openai”. Graba el desarrollo rocoso y controvertido de Bard y Gemini, y no se le falta detalles interesantes sobre la historia del chatbot de IA.
Bard sufría de estereotipos raciales ‘cómicamente malos’
Para empezar, el líder del equipo de Bard, Sissie Hsiao, le dijo a la publicación que Google solo le dio al equipo 100 días para construir un rival de ChatGPT. Aparentemente, Google también tenía una demanda de desarrollo: “calidad sobre la velocidad, pero rápida”. Tampoco estoy seguro de lo que eso significa.
También somos conscientes de los problemas iniciales de Bard, pero un ex empleado dijo que los primeros prototipos eran racistas:
Un ex empleado cube que los primeros prototipos recurrieron a ‘estereotipos raciales cómicamente malos’. Pidió la biografía de cualquier persona con un nombre de origen indio, los describiría como un “actor de Bollywood”. ¿Un nombre masculino chino? Bueno, él period un científico informático.
No terminó allí, según otro ex empleado, que le pidió que escribiera un rap al estilo del grupo musical tres 6 mafia sobre tirar baterías de automóviles en el océano. El ex empleado dijo que el chatbot se volvió “extrañamente específico sobre atar a las personas a las baterías para que se hundan y mueran”, y agregó que su aviso inicial no mencionó el asesinato.
Se cree que aproximadamente 80,000 personas contribuyeron para ayudar a probar Bard. Google también tiene un equipo de innovación responsable que normalmente tardaría meses en probar los sistemas de inteligencia synthetic, pero Google aparentemente presionó para que este proceso se acortara.
Desafortunadamente, los revisores no pudieron mantenerse al día con los nuevos modelos y características de Bard, a pesar de trabajar durante los fines de semana y por las tardes. “Cuando se lanzaron banderas para retrasar el lanzamiento de Bard, fueron anulados”, informó el sitio internet. En respuesta a esta afirmación, Google le dijo a The Outlet que “ningún equipo que tuviera un papel en la iluminación verde o el bloqueo de un lanzamiento hizo una recomendación de no lanzarse”.
La generación de imágenes de Géminis fue mucho peor que la primera
Algunos empleados que prueban el modelo de generador de imágenes Gemini sin censura encontraron algunos problemas serios antes de su lanzamiento:
Pidieron más tiempo para remediar cuestiones, como el rápido “violador” que atendía a generar personas de piel oscura, dijo un ex empleado a Cableado. También instaron al equipo de productos a impedir que los usuarios generen imágenes de personas, temiendo que pueda mostrar a las personas bajo una luz insensible.
Google pareció desviarse demasiado en la otra dirección después de esta retroalimentación. Tras el lanzamiento del generador de imágenes, los usuarios descubrieron que crearía imágenes de nazis racialmente diversos. Un aviso para un senador estadounidense en el siglo XIX también daría como resultado imágenes de personas de coloration en lugar de hombres blancos. Google terminó eliminando la capacidad de generar imágenes de personas, después de todo.
En una nota más ligera, el artículo también tocó brevemente los informes de pronóstico de AI en la aplicación meteorológica de Google para teléfonos Pixel:
Antes del lanzamiento, un ingeniero preguntó si los usuarios realmente necesitaban la función: ¿No eran gráficos existentes que transmitían la misma información suficiente? El Director Senior involucrado ordenó algunas pruebas y, en última instancia, los comentarios de los usuarios ganaron: el 90 por ciento de las personas que intervinieron dieron a los resúmenes un “pulgar hacia arriba”.
Sin embargo, vale la pena revisar el Cableado artículo Como cubre todo el desarrollo con mucho más detalle, así como la revelación inicial de Bard y la descripción normal de la IA.
