Andrew Ng, el fundador y ex líder de Google Mind, apoya la reciente decisión de Google de Deje caer su promesa de no construir sistemas de IA para armas.
“Estoy muy contento de que Google haya cambiado su postura”, dijo Ng durante una entrevista en el escenario el jueves por la noche con TechCrunch en la Conferencia de Startups Veteran Army en San Francisco.
A principios de esta semana, Google eliminó una promesa de 7 años de su página net de principios de IA, que prometió que la compañía no diseñaría IA para armas o vigilancia. Junto con la eliminación, Google publicó un weblog Escrito por el CEO de Deepmind, Demis Hassabis, quien señaló que las empresas y los gobiernos deberían trabajar juntos para construir una IA que “apoye la seguridad nacional”.
Google hizo su compromiso de armas de IA en 2018 Después de las protestas del Proyecto Maven, en las que miles de empleados protestaron los contratos de la compañía con el ejército estadounidense. Los manifestantes cuestionaron específicamente con Google Supplying AI para un programa militar que ayudó a interpretar imágenes de video y podrían usarse para mejorar la precisión de los huelgas de drones.
Ng, sin embargo, fue desconcertado por los manifestantes del Proyecto Maven, dijo a una audiencia compuesta en gran medida de veteranos.
“Francamente, cuando el Proyecto Maven cayó … muchos de ustedes están saliendo, dispuestos a derramar sangre para que nuestro país nos proteja a todos”, dijo Ng. “Entonces, ¿cómo diablos puede una empresa estadounidense negarse a ayudar a nuestro propio servicio a las personas que están allí, luchando por nosotros?”
Ng no funcionó en Google cuando ocurrieron las protestas del Proyecto Maven, pero jugó un papel clave en la configuración de los esfuerzos de Google en torno a la IA y las redes neuronales. Hoy, NG lidera un estudio de riesgo centrado en la IA y un fondo de IA, y habla con frecuencia sobre la política de IA.
Más tarde, NG dijo que estaba agradecido de que dos esfuerzos regulatorios de la IA, el proyecto de ley de California SB 1047 vetado y la orden ejecutiva de IA volcada de Biden, ya no estuvieran en juego. Había argumentado repetidamente que ambas medidas ralentizarían el desarrollo de IA de código abierto en Estados Unidos.
La verdadera clave para la seguridad de la IA estadounidense, argumentó, es asegurarse de que Estados Unidos pueda competir con China tecnológicamente. Señaló que los drones de IA “revolucionarían completamente el campo de batalla”.
No es el único ex ejecutivo de Google que ha difundido ese mensaje. El ex CEO de Google, Eric Schmidt, ahora pasa sus días Lobbying Washington, DC, para comprar drones AI competir con China; Su compañía, White Stork, puede eventualmente suministrar esos drones.
Si bien Ng y Schmidt parecen apoyar el uso de la IA militares, el tema ha dividido las filas dentro de Google durante años.
Meredith Whittaker, ahora presidente de Sign, dirigió las protestas de Maven en 2018 mientras trabajaba en Google como investigador de IA. Cuando Google hizo la promesa de no renovar sus contratos de Undertaking Maven, Whittaker dijo que estaba contenta con la decisión, señalando la compañía “no debería estar en el negocio de la guerra. “
Ella no es la única Googler que está disentida. Ex investigador de Google AI y el premio Nobel Geoffrey Hinton anteriormente pidió que los gobiernos globales prohíban y regulen el uso de IA en armas. Otro y venerado ejecutivo de Google, Jeff Dean, ahora el científico principal de DeepMind, anteriormente firmó una carta que se opone al uso del aprendizaje automático en armas autónomas.
En los últimos años, Google y Amazon cayeron bajo un renovado escrutinio por su trabajo militar, incluidos sus Proyecto Nimbus contrata con el gobierno israelí. Los empleados de ambos proveedores de la nube organizaron sentadas el año pasado para protestar contra el Proyecto Nimbus, bajo el cual Google y Amazon proporcionaron servicios de computación en la nube a las Fuerzas de Defensa de Israel.
El El Pentágono y los militares de todo el mundo tienen un apetito renovado para usar AIEl director de IA del Departamento de Defensa dijo previamente a TechCrunch. A medida que Google, Amazon, Microsoft y otros gigantes tecnológicos invierten cientos de miles de millones de dólares en infraestructura de IA, muchos buscan recuperar esa inversión a través de asociaciones militares.
