En medio de los beneficios que ofrecen la toma de decisiones algorítmica y la inteligencia synthetic, incluida la velocidad revolucionaria, la eficiencia y la capacidad predictiva en una amplia gama de campos, Manish Raghavan está trabajando para mitigar los riesgos asociados, al mismo tiempo que busca oportunidades para aplicar las tecnologías para ayudar con problemas preexistentes. preocupaciones sociales.
“En última instancia, quiero que mi investigación avance hacia mejores soluciones a problemas sociales de larga information”, cube Raghavan, profesor de desarrollo profesional Drew Houston, miembro del cuerpo docente compartido entre la MIT Sloan Faculty of Administration y la MIT Schwarzman School of Computing en los Estados Unidos. Departamento de Ingeniería Eléctrica e Informática, así como investigador principal del Laboratorio de Sistemas de Información y Decisión (LIDS).
Un buen ejemplo de la intención de Raghavan se puede encontrar en su exploración del uso de la IA en la contratación.
Raghavan cube: “Es difícil argumentar que las prácticas de contratación históricamente han sido particularmente buenas o que vale la pena preservar, y las herramientas que aprenden de los datos históricos heredan todos los sesgos y errores que los humanos han cometido en el pasado”.
Aquí, sin embargo, Raghavan cita una oportunidad potencial.
“Siempre ha sido difícil medir la discriminación”, afirma, y añade: “A veces los sistemas impulsados por IA son más fáciles de observar y medir que los humanos, y uno de los objetivos de mi trabajo es entender cómo podemos aprovechar esta visibilidad mejorada para llegar a nuevas formas de descubrir cuándo los sistemas se están comportando mal”.
Raghavan creció en el área de la Bahía de San Francisco con padres que tienen títulos en informática y cube que originalmente quería ser médico. Sin embargo, justo antes de comenzar la universidad, su amor por las matemáticas y la informática lo llamó a seguir el ejemplo de su familia en la informática. Después de pasar un verano como estudiante haciendo investigaciones en la Universidad de Cornell con Jon Kleinberg, profesor de informática y ciencias de la información, decidió que quería obtener su doctorado allí y escribió su tesis sobre “Los impactos sociales de la toma de decisiones algorítmicas”.
Raghavan ganó premios por su trabajo, incluido un premio del Programa de becas de investigación para graduados de la Fundación Nacional de Ciencias, una beca de doctorado en investigación de Microsoft y el premio de tesis doctoral del Departamento de Ciencias de la Computación de la Universidad de Cornell.
En 2022 se incorporó a la facultad del MIT.
Quizás rememorando su temprano interés por la medicina, Raghavan ha investigado si las determinaciones de una herramienta de detección algorítmica de alta precisión utilizada en la clasificación de pacientes con hemorragia gastrointestinal, conocida como Glasgow-Blatchford Rating (GBS), mejoran con la ayuda de expertos complementarios. consejo médico.
“El SGB es aproximadamente tan bueno como el de los seres humanos en promedio, pero eso no significa que no haya pacientes individuales, o pequeños grupos de pacientes, en los que el SGB sea incorrecto y los médicos probablemente tengan razón”, afirma. “Nuestra esperanza es poder identificar a estos pacientes con antelación para que la opinión de los médicos sea especialmente valiosa allí”.
Raghavan también ha trabajado en cómo las plataformas en línea afectan a sus usuarios, considerando cómo los algoritmos de las redes sociales observan el contenido que elige un usuario y luego les muestran más del mismo tipo de contenido. La dificultad, cube Raghavan, es que los usuarios pueden elegir lo que ven de la misma manera que tomarían una bolsa de papas fritas, que por supuesto son deliciosas pero no tan nutritivas. La experiencia puede ser satisfactoria en el momento, pero puede hacer que el usuario se sienta un poco enfermo.
Raghavan y sus colegas han desarrollado un modelo de cómo un usuario con deseos contradictorios (de gratificación inmediata versus un deseo de satisfacción a largo plazo) interactúa con una plataforma. El modelo demuestra cómo se puede cambiar el diseño de una plataforma para fomentar una experiencia más saludable. El modelo ganó el premio Exemplary Utilized Modeling Observe Paper en la Conferencia de Economía y Computación de la Asociación de Maquinaria de Computación de 2022.
“La satisfacción a largo plazo es, en última instancia, importante, incluso si lo único que le importa son los intereses de la empresa”, afirma Raghavan. “Si podemos comenzar a generar evidencia de que los intereses de los usuarios y las empresas están más alineados, mi esperanza es que podamos impulsar plataformas más saludables sin necesidad de resolver conflictos de intereses entre usuarios y plataformas. Por supuesto, esto es idealista. Pero mi sensación es que suficientes personas en estas empresas creen que hay espacio para hacer a todos más felices, y simplemente carecen de las herramientas conceptuales y técnicas para hacerlo realidad”.
En cuanto a su proceso de generar concepts para tales herramientas y conceptos sobre cómo aplicar mejor las técnicas computacionales, Raghavan cube que sus mejores concepts le surgen cuando ha estado pensando en un problema de vez en cuando durante un tiempo. Aconsejaría a sus alumnos, cube, que siguieran su ejemplo de dejar de lado un problema muy difícil durante un día y luego volver a abordarlo.
“A menudo las cosas mejoran al día siguiente”, afirma.
Cuando no está resolviendo un problema o enseñando, a menudo se puede encontrar a Raghavan al aire libre en un campo de fútbol, como entrenador del Harvard Males’s Soccer Membership, un puesto que aprecia.
“No puedo posponer las cosas si sé que tendré que pasar la noche en el campo y eso me da algo que esperar al closing del día”, cube. “Trato de tener cosas en mi agenda que me parezcan al menos tan importantes como el trabajo para poner esos desafíos y reveses en contexto”.
Mientras Raghavan considera cómo aplicar las tecnologías computacionales para servir mejor a nuestro mundo, cube que lo más emocionante que sucede en su campo es la thought de que la IA abrirá nuevos conocimientos sobre “los humanos y la sociedad humana”.
“Espero”, cube, “que podamos utilizarlo para comprendernos mejor a nosotros mismos”.
