En esta serie de entrevistas, nos reunimos con algunos de los Consorcio doctoral AAAI/SIGAI Participantes para obtener más información sobre su investigación. El consorcio de doctorado brinda una oportunidad para que un grupo de estudiantes de doctorado discutan y discover sus intereses de investigación y objetivos profesionales en un taller interdisciplinario junto con un panel de investigadores establecidos. En esta última entrevista, escuchamos a Amar Halilovic, un estudiante de doctorado en la Universidad de Ulm.
Cuéntanos un poco sobre tu doctorado: ¿dónde estás estudiando y cuál es el tema de tu investigación?
Actualmente soy estudiante de doctorado en la Universidad de Ulm en Alemania, donde me concentro en la IA explicable para la robótica. Mi investigación investiga cómo los robots pueden generar explicaciones de sus acciones de una manera que se alinee con las preferencias y expectativas humanas, particularmente en las tareas de navegación.
¿Podría darnos una visión normal de la investigación que ha realizado hasta ahora durante su doctorado?
Hasta ahora, he desarrollado un marco para las explicaciones ambientales de las acciones y decisiones de los robots, especialmente cuando las cosas salen mal. He explorado los enfoques de caja negra y generación para la generación de explicaciones textuales y visuales. Además, he estado trabajando en la planificación de diferentes atributos de explicación, como el tiempo, la representación, la duración, and so on. Últimamente, he estado trabajando en métodos para seleccionar dinámicamente la mejor estrategia de explicación dependiendo del contexto y las preferencias del usuario.
¿Existe un aspecto de su investigación que haya sido particularmente interesante?
Sí, me parece fascinante cómo las personas interpretan el comportamiento del robotic de manera diferente dependiendo de la urgencia o el contexto de falla. Ha sido especialmente gratificante estudiar cómo las expectativas de explicación cambian en diferentes situaciones y cómo podemos adaptar el tiempo y el contenido de explicación en consecuencia.
¿Cuáles son sus planes para basarse en su investigación hasta ahora durante el doctorado? ¿Qué aspectos investigará a continuación?
A continuación, extenderé el marco para incorporar la adaptación en tiempo actual, permitiendo a los robots aprender de los comentarios de los usuarios y ajustar sus explicaciones sobre la marcha. También estoy planeando más estudios de usuarios para validar la efectividad de estas explicaciones en la configuración de interacción humano-robot del mundo actual.
Amar con su póster en el Consorcio Doctoral AAAI/Sigai en AAAI 2025.
¿Qué te hizo querer estudiar IA y, en specific, la navegación de robots explicable?
Siempre me ha interesado la intersección de humanos y máquinas. Durante mis estudios, me di cuenta de que hacer comprensibles los sistemas de IA no es solo un desafío técnico, es clave para la confianza y la usabilidad. La navegación de robots me pareció un área particularmente convincente porque las decisiones son espaciales y visuales, lo que hace explicaciones desafiantes e impactantes.
¿Qué consejo le darías a alguien pensando en hacer un doctorado en el campo?
Elija un tema que realmente te emocione: ¡vivirás con él durante varios años! Además, cree una pink de soporte de mentores y compañeros. Es fácil perderse en el trabajo técnico, pero la colaboración y la retroalimentación son vitales.
¿Podría contarnos un hecho interesante (no relacionado con el AI) sobre usted?
He vivido y estudiado en cuatro países diferentes.
Sobre Amar
|
Amar es estudiante de doctorado en el Instituto de Inteligencia Synthetic de la Universidad ULM en Alemania. Su investigación se centra en la inteligencia synthetic explicable (XAI) en la interacción humana-robot (HRI), particularmente cómo los robots pueden generar explicaciones sensibles al contexto para las decisiones de navegación. Combina la planificación simbólica y el aprendizaje automático para construir sistemas de robotic explicables que se adapten a las preferencias humanas y los diferentes contextos. Antes de comenzar su doctorado, estudió ingeniería eléctrica en la Universidad de Sarajevo en Sarajevo, Bosnia y Herzegovina, e informática en la Universidad Mälardalen en Västerås, Suecia. Fuera de la academia, a Amar le gusta viajar, fotografía y explorar conexiones entre la tecnología y la sociedad. |
Aihub
es una organización sin fines de lucro dedicada a conectar la comunidad de IA al público al proporcionar información gratuita y de alta calidad en la IA.
Aihub es una organización sin fines de lucro dedicada a conectar la comunidad de IA al público al proporcionar información gratuita y de alta calidad en IA.
