Our research interests include but not limited to:
Interactive Machine Learning (IML)
인간과 인공지능의 상호작용에서 사용성 및 만족도를 증진할 수 있는 지능형 사용자 인터페이스 프레임워크의 설계 및 구현에 중점을 두고 있습니다.
이러한 시스템은 인간의 피드백과 개입을 통해 발전하고, 인간과 인공지능 사이에 보다 협력적이고 상호 작용적인 관계를 구축하는 데 기여할 수 있습니다.
- 학습 데이터와 지식 생성 (Learning data and knowledge generation)
- 사용자의 개입 또는 피드백(User Intervention/User Feedback)을 AI에 통합하여 새로운 결과를 도출할 수 있는 모델 및 인터페이스를 개발하고자 합니다.
- 추천 시스템 (Recommender System)
- 시스템에 대한 사용자의 조작(User Control)을 가능하게 하여 추천 결과에 대한 만족도를 높일 수 있는 Interactive Recomender System을 제안합니다.
- 우연적(Serendipity), 대화형(Conversational), 사회적(Social) 다양한 추천 시스템에서의 상호작용 방식을 탐구합니다.
Explainable Artificial Intelligence (XAI)
설명가능한 인공지능(XAI)은 AI 시스템의 투명성과 신뢰성을 강화함으로써 기존 Black-box Model의 문제점을 해소하고, 사용자가 AI의 결정을 더욱 효과적으로 이해하고 신뢰할 수 있도록 도울 수 있습니다.
우리 연구실에서는 Counterfactual한 설명과 Information Visualization을 통해 투명하고 이해하기 쉬운 설명 제공 방식 제안, 인터페이스를 설계하는 데 초점을 맞추고 있습니다.
- 설명가능한 인공지능 인터페이스 (XAI Interface)
- Context와 Human Factor 분석에 기초한 사용자 중심 XAI 설명 구조를 제안합니다.
- 정량적, 정성적 User Test를 통해 Context에 알맞은 정보 제공 방식을 설계해 Explainability, Trust, Reliability를 증진시킵니다.
- 반사실적 설명 (Counterfactual Explanation)
- 사용자가 Counterfactual Thinking(What-if)을 통해 원하는 정보를 탐색할 수 있는 XAI 설명 인터페이스를 개발합니다.
- 특히, 지식 그래프(Knowledge Graph)와 결합 가능한 다양한 설명 생성 방안을 탐색합니다.
Human-centered AI eXperience Design
AI 기반 시스템을 위한 사용자 경험(UX)/인터페이스 디자인 연구를 진행하고 있습니다.
도메인에서 사용자 중심의 경험 개선을 통해 사용자의 편의와 신뢰를 증진시키는 인터페이스를 설계하며, 이를 위해 사용자 조사, 사용성 평가, 인지 과학 등 다양한 방법론을 활용합니다.
자율주행, 의료, 가전, 모바일 등 폭넓은 도메인에서 연구를 수행하고 있습니다.
- 자율주행 자동차 (Autonomous Vehicles)
- 운전자의 편의와 신뢰를 증진시키기 위한 자율주행 XAI 인터페이스, In-Car AI 서비스 인터페이스 설계 등을 수행합니다. (관련연구: 현대자동차 2022, 2023)
- 정보 시각화 (Information Visualizatoin)
- 사용자가 효과적인 정보 탐색 및 추론을 할 수 있도록 인지 기반의 정보 시각화(Cognition-based Visualization)를 설계합니다.
- 인터랙션 디자인 (Interaction Design)
- 정량적, 정성적 리서치를 통해 사용자 경험을 이해하고 이를 활용해 AI 기반 인터페이스를 설계하고, 인지와 사용성 관점에서 고도화합니다.
- 윤리적 AI (Ethical AI)
- 윤리적 관점에서 데이터의 편향 및 불균형 정도가 모델에 미치는 영향을 파악합니다.