En un episodio reciente de Señal altaHablamos con el Dr. Fei-Fei Li sobre lo que realmente significa construir una IA centrada en el ser humano, y hacia dónde podría dirigirse el campo a continuación.
Fei-Fei no describe la IA como una característica o incluso una industria. Ella lo llama una “tecnología civilizacional”, una fuerza tan elementary como la electricidad o la computación misma. Esto tiene serias implicaciones sobre cómo diseñamos, desplegamos y gobernamos los sistemas de IA en instituciones, economías y la vida cotidiana.
Nuestra conversación fue sobre tácticas más que a corto plazo. Se trataba de cómo los supuestos fundamentales están cambiando, en torno a la interfaz, la inteligencia y la responsabilidad, y lo que eso significa para los profesionales técnicos que construyen sistemas del mundo actual en la actualidad.
Los círculos concéntricos de la IA centrada en el ser humano
El marco de Fei-Fei para la IA centrada en el ser humano se centra en tres anillos concéntricos: el individuo, la comunidad y la sociedad.
A nivel particular person, se trata de construir sistemas que preservan la dignidad, la agencia y la privacidad. Para dar un ejemplo, en Stanford, Fei-Fei trabajó en tecnologías basadas en sensores para el cuidado de ancianos destinados a identificar momentos clínicamente relevantes que podrían conducir a peores resultados si no se abordan. Incluso con un diseño bien intencionado, estos sistemas pueden cruzar fácilmente la extralimitación si no están construidas con la experiencia humana en mente.
A nivel comunitario, nuestra conversación se centró en trabajadores, creadores y grupos de colaboración. ¿Qué significa apoyar la creatividad cuando los modelos generativos pueden producir texto, imágenes y movies a escala? ¿Cómo aumentamos en lugar de reemplazar? ¿Cómo alineamos los incentivos para que los beneficios fluyan a los creadores y no solo las plataformas?
A nivel social, su atención se centra en empleos, gobernanza y el tejido social en sí. AI altera los flujos de trabajo y la toma de decisiones en todos los sectores: educación, atención médica, transporte, incluso instituciones democráticas. No podemos tratar ese impacto como incidental.
En un anterior Señal alta episodioMichael I. Jordan argumentó que demasiado de la IA precise imita la cognición particular person en lugar de modelar sistemas como mercados, biología o inteligencia colectiva. El énfasis de Fei-Fei en los círculos concéntricos complementa que se ven, lo que nos impide que expliquen sistemas que explican a las personas, la coordinación y el contexto, no solo la precisión de la predicción.
Inteligencia espacial: un lenguaje diferente para el cálculo
Otro tema central de nuestra conversación fue el trabajo de Fei-Fei sobre inteligencia espacial y por qué la próxima frontera en IA no será solo sobre el lenguaje.
En su startup, World LabsFei-Fei está desarrollando modelos de base que operan en el espacio 3D. Estos modelos no son solo para robótica; También sustentan aplicaciones en educación, simulación, herramientas creativas e interacción en tiempo actual. Cuando los sistemas de IA entienden la geometría, la orientación y el contexto físico, se hacen posibles nuevas formas de razonamiento y management.
“Estamos viendo muchos píxeles generados, y son hermosos”, explicó, “pero si solo generas píxeles en una pantalla plana, en realidad carecen de información”. Sin una estructura 3D, es difícil simular la luz, la perspectiva o la interacción, lo que dificulta calcular o controlar.
Para los profesionales técnicos, esto plantea grandes preguntas:
- ¿Cuáles son las abstracciones correctas para el razonamiento del modelo 3D?
- ¿Cómo depuramos o probamos a los agentes cuando la salida no es solo texto sino comportamiento espacial?
- ¿Qué tipo de observabilidad e interfaces necesitan estos sistemas?
El modelado espacial es más que realismo; Se trata de controlabilidad. Ya sea que sea un diseñador que coloque objetos en una escena o un robotic que navega por una habitación, el razonamiento espacial le brinda primitivas consistentes para construir.
Instituciones, ecosistemas y la visión a largo plazo
Fei-Fei también enfatizó que la tecnología no evoluciona en el vacío. Emerge de los ecosistemas: sistemas de financiación, laboratorios de investigación, comunidades de código abierto y educación pública.
Le preocupa que el progreso de la IA se haya acelerado mucho más allá de la comprensión pública, y que la mayoría de las conversaciones nacionales son alarmistas o extractivas. Su llamada: No se centre solo en las modelos. Concéntrese en construir una infraestructura pública robusta en torno a la IA que incluya universidades, nuevas empresas, sociedad civil y regulación transparente.
Esto refleja algo que Tim O’Reilly nos contó en otro episodio: Eso teme que “AI tome trabajos” a menudo pierda el punto. La revolución industrial no eliminó el trabajo: redefinió tareas, cambió las habilidades y aumentó masivamente la demanda de constructores. Con IA, el desafío no es la desaparición. Es transición. Necesitamos nuevas metáforas para la productividad, nuevos modelos educativos y nuevas formas de organizar el trabajo técnico.
Fei-Fei comparte esa larga vista. Ella no está tratando de perseguir puntos de referencia; Ella está tratando de dar forma a las instituciones que pueden adaptarse con el tiempo.
Para los constructores: a qué prestar atención
¿Qué deben tomar los practicantes de IA de todo esto?
Primero, no asuma que el lenguaje es la interfaz last. La siguiente frontera involucra espacio, sensores y contexto encarnado.
En segundo lugar, no descarte el centrado humano como suave. Diseñar para la dignidad, el contexto y la coordinación es un problema técnico duro, uno que vive en la arquitectura, los datos y los bucles de retroalimentación.
Tercero, alejar. Lo que construyes hoy vivirá dentro de los ecosistemas: organizacional, social, regulatorio. El encuadre de Fei-Fei es un recordatorio de que es nuestro trabajo no solo para optimizar las salidas sino dar forma a los sistemas que se mantienen con el tiempo.
