상상해 본 에피소드
(“에듀미터 서비스의 일탈” : https://shadowego.com/articles/59)
위의 링크에 공개된 글은 인간과 AI가 소통하는 경우를 묘사하고 있습니다.
왠지, 이 에피소드만 보면, 언젠가는 AI가 사람보다 현명해지는 시대가 올 지도 모르겠다는 생각도 듭니다. 과연 정말 그런 날이 올까요?
–
Human-AI Interaction?
AI를 탑재한 서비스들이 줄을 이어 출시되고 있습니다. 이러한 추세에 따라 HCI(Human-Computer Interaction) 분야의 연구자들은 인간과 AI간의 상호작용(Human-AI Interaction)과 관련된 주제에 대해 관심을 가지기 시작했습니다.
Human-AI Interaction 분야의 연구는 대략적으로 다음과 같은 여러가지 주제들을 포함합니다.
- (1) AI의 조작성(Controllability)과 투명성(Transparency) : 사용자가 AI의 출력을 얼마나 이해, 예측, 통제할 수 있는가.
- (2) AI에 대한 신뢰(Trust)와 의존(Dependence) : 사용자가 AI를 얼마나 믿고 의존할 수 있는가.
- (3) AI와의 공동 목표 설정(Shared Goals) : 사용자와 AI가 문제를 해결하는 과정에서 공동의 목표를 설정하고 역할을 분담할 수 있는가
- (4) AI의 상황 인식(Context-awareness)과 적응성(Adaptability) : AI가 사용자의 정서와 맥락을 판단하고 적응할 수 있는가
- (5) AI의 책임성과 윤리성(Responsibility & Ethics) : AI가 생산하는 오류, 차별, 편향의 책임은 누구에게 있는가
–
–
한국의 연구자들도 Human-AI Interaction을 연구할까?
위의 그림은 국내에서 연구활동을 하고 있는 약 200여 명의 HCI(Human-Computer Interaction) 연구자들이 발표한 Human-AI Interaction 관련 논문 수의 추세를 나타냅니다. 확실히 국내 연구자들의 관련 논문의 수도 크게 증가하는 추세임에는 틀림없어 보입니다.
–
한국의 연구자들은 어떤 연구를 했을까?
한국의 HCI 연구자들이 Human-AI Interaction 주제에 대해 수행해 온 연구 주제와 대표적인 연구자들은 다음과 같습니다.
- 설명 가능한 AI (Explainable AI, XAI)와 사용자 신뢰 : AI의 판단 근거를 사용자에게 설명하고, 그로 인해 신뢰를 증진시키는 방법을 다루는 연구
- Daeho Lee (성균관대), Joonhwan Lee (서울대), Uichin Lee (KAIST), Soojin Jun (연세대), Hyunchul Ahn (국민대), Eui Chul Lee (상명대)
- 인터랙티브 인터페이스 및 생성형 AI 활용 : 사용자와 AI 간 양방향 상호작용을 통해 생성 과정이나 결과에 대한 이해도, 창의성, 편의성을 높이는 연구
- Junho Choi (연세대), Kyungho Lee (UNIST), Kyungsik Han (한양대), Da Young Ju (국민대)
- 사용자 맞춤형 커뮤니케이션 및 내러티브 인터랙션 : AI가 인간의 의도, 감정, 가치관을 정밀하게 이해하거나, 이야기 형식으로 정보를 전달함으로써 사용자와의 정서적 교감을 추구하는 연구
- Juho Kim (KAIST), Kyoungwon Seo (서울과기대), Younah Kang (연세대)
- AI 기반 감지 및 행동 분석 : AI가 사람의 행동, 감정, 건강 상태를 센서나 로그 데이터를 통해 감지하고 해석하는 연구
- Eui Chul Lee (상명대), Uichin Lee (KAIST)
- 특정 도메인에서의 AI 상호작용 개선 : 관광·의료·자동차 등 특정 서비스 맥락에서 사용자 맞춤형 상호작용 경험을 개선하는 응용 연구
- Hyunchul Ahn (국민대), Soojin Jun (연세대)
–
각 연구자 별 세부 연구내용
국내 HCI 연구자들이 Human-AI Interaction과 관련하여 실제로 언급한 내용들은 다음과 같습니다.
(** 이 글에서 제시하는 각 연구자의 연구내용은 인포리언스가 구현 중인 시스템에서 자동 분석한 결과들입니다. 따라서 오류가 포함되어 있을 가능성이 있습니다.)
Da Young Ju(국민대학교 AI디자인학과 교수)
- 제가 속한 연구팀에서는 관객과 인공지능 간의 대화를 통해 자아를 탐구하는 인터랙티브 미디어 아트를 선보이고 있습니다. 본 작품은 인공지능의 전통적인 정교한 이미지와 달리, 일부러 단편적인 데이터를 활용하여 그 한계를 드러내고, 관객이 인공지능과 대화하며 스스로의 자아를 재해석할 수 있는 경험을 제공합니다. 이는 예술 전시나 체험 공간에서 관객들이 AI와의 상호작용을 통해 새로운 자기 인식을 얻는 데 기여할 수 있습니다.
- 출처: (인터랙티브 미디어 아트) https://www.dbpia.co.kr/Journal/articleDetail?nodeId=NODE11229879
Daeho Lee(Sungkyunkwan University, Department of Interaction Science)
- 제가 속한 연구팀에서는 사용자 중심의 설명 가능한 AI를 개발하기 위해 추천 시스템과 생성형 AI 전반에 대해 연구하였습니다. 첫 번째 연구에서는 추천 시스템에서 사용자가 왜 특정 제품이나 서비스를 추천받았는지를 사용자 입장에서 이해할 수 있도록 글로벌 및 로컬 설명 방식을 분석하고, 실제 사용자 인터페이스에 반영할 수 있는 방안을 모색하였습니다. 두 번째 연구에서는 ChatGPT와 같은 생성형 AI 사용 시, 사용자가 언제, 어떤 정보, 그리고 어떤 방식의 설명을 필요로 하는지에 대해 실증적 분석을 하여, 사용자 요청에 따른 추가 정보 제공이 효과적임을 밝혀냈습니다. 이러한 연구 결과는 일상에서 AI 추천 서비스나 챗봇을 사용할 때, 사용자에게 보다 직관적이고 신뢰감 있는 경험을 제공하는 데 기여할 수 있습니다.
- 출처:
EUI CHUL LEE(Professor, Dept. of Human-Centered Artificial Intelligence, Sangmyung University)
- 제가 속한 연구팀에서는 최근 코로나19로 인한 마스크 착용 확산과 관련하여 얼굴 인식 시스템의 정확도가 떨어지는 문제를 개선하고자 연구하였습니다. 첫 번째 연구에서는 마스크를 쓴 데이터를 이용해 학습함으로써 기존보다 약 12.86% 향상된 정확도를 달성하였으며, 인공지능이 실제로 관심 있는 얼굴 부위를 집중하고 있는지를 열지도를 통해 확인하였습니다. 두 번째 연구에서는 파킨슨병 환자의 목소리에서 나타나는 특징을 분석하기 위해 여러 음성 분류 모델을 비교분석하고, CAM 기반의 설명 가능한 AI 기법을 적용하여 모델이 파킨슨 특유의 음향 패턴에 잘 집중하고 있음을 확인하였습니다. 이와 같은 연구 성과는 일상에서 스마트폰의 FaceID나 음성 인식을 이용할 때, 보다 정확하고 신뢰할 수 있는 결과로 이어지도록 도움을 줄 수 있습니다.
- 출처:
Hyunchul Ahn(Kookmin University)
- 제가 속한 연구팀에서는 최근 코로나19와 같은 위기 상황에서 관광 및 숙박 산업의 수익성을 높이기 위해, 단순히 객실 점유율을 높이는 방식을 넘어 고객에게 부가 제품을 효과적으로 판매할 수 있는 크로스셀링 예측 모델을 개발하였습니다. 다양한 머신러닝 기법과 설명 가능한 AI 기술을 적용하여 어떤 요소들이 부가 상품 판매에 큰 영향을 미치는지 분석하였으며, 이 결과는 리조트나 호텔 업계에서 고객 맞춤형 상품 추천 서비스 개선에 활용될 수 있습니다.
- 출처: (관광 크로스셀링) https://koreascience.kr/article/JAKO202223638359818.page
Joonhwan Lee(Professor, Seoul National University)
- 제가 속한 연구팀에서는 액티브 시니어를 대상으로 AI 추천 시스템에 적용되는 설명 가능한 AI(XAI)의 효과와 인식에 대해 연구하였습니다. 특히, 시니어 분들이 추천 시스템의 작동 원리를 직관적으로 이해하고 신뢰할 수 있도록, 전반적인 시스템 설명(글로벌 설명)과 개별 추천에 대한 설명(로컬 설명)의 차이를 분석하고, 이에 기반한 디자인 가이드라인을 제시하였습니다. 이러한 연구는 모바일 쇼핑이나 온라인 서비스 이용 시, 연령대가 높은 사용자들이 보다 편리하고 안전하게 서비스를 이용할 수 있도록 돕는 데 기여할 수 있습니다.
- 출처: (시니어 XAI) https://www.dbpia.co.kr/Journal/articleDetail?nodeId=NODE11714715
Juho Kim(KAIST)
- 제가 속한 연구팀에서는 AI가 사용자의 의도를 정확하게 이해하고, 그 의도에 맞는 결과를 내도록 하는 문제인 AI intent alignment를 해결하기 위해, 인간 간의 의사소통 전략을 면밀하게 분석하는 연구를 진행하였습니다. 인간과 대형언어모델 간의 커뮤니케이션 데이터를 비교 분석함으로써, AI가 사용자와 더 효과적으로 소통할 수 있는 방안을 모색하고 있으며, 이는 일상에서 음성비서나 챗봇 등이 사용자 요구를 보다 정확하게 파악하는 데 도움을 줄 수 있습니다.
- 출처: (의도 정렬) https://arxiv.org/abs/2405.05678
Junho Choi(Professor of School of Information, Yonsei University)
- 제가 속한 연구팀에서는 생성형 AI 도구의 복잡한 사용성 문제를 해결하기 위해, 동적인 인터랙티브 설명 방법이 사용자에게 어떠한 도움을 주는지에 대해 연구하였습니다. 연구 결과, 특히 초보 사용자들이 동적인 설명을 통해 AI의 작동 방식을 더 쉽게 이해하고, 결과물에 대한 신뢰도를 높일 수 있음을 확인하였습니다. 이러한 연구는 예를 들어, 이미지 생성 AI나 텍스트 생성 AI를 처음 접하는 사용자들이 보다 친숙하게 기술을 이용할 수 있도록 지원하는 데 큰 도움이 될 수 있습니다.
- 출처: (인터랙티브 설명) http://journal.dcs.or.kr/xml/41749/41749.pdf
Kyoungwon Seo(Assistant Professor, Seoul National University of Science and Technology)
- 제가 속한 연구팀에서는 환자들이 MRI 결과와 같은 복잡한 건강 데이터를 보다 쉽게 이해할 수 있도록, 내러티브 AI 기법을 활용한 설명 방식을 연구하였습니다. 실험을 통해 반사실(counterfactual)과 예측 사실(prefactual) 방식의 내러티브를 적용할 때 각각의 특성이 어떻게 작용하는지를 분석하였으며, 이를 통해 환자들이 자신의 건강 상태를 보다 명확하게 인지하고, 필요 시 행동 변화를 유도할 수 있는 설명 모델을 제시하고자 하였습니다. 이런 방식은 의료 현장에서 환자와 의사 간의 소통을 개선하고, 진단 결과에 대한 이해도를 높이는 데 기여할 수 있습니다.
- 출처: (내러티브 의료 AI) https://www.dbpia.co.kr/Journal/articleDetail?nodeId=NODE11229758
Kyungho Lee(Associate Professor, UNIST)
- 제가 속한 연구팀에서는 텍스트를 기반으로 이미지를 생성하는 도구를 보다 직관적으로 활용할 수 있도록, 사용자들이 원하는 테마와 형식에 맞는 이미지를 쉽고 효과적으로 생성할 수 있는 인터페이스 디자인을 연구하였습니다. 방대한 인터넷 커뮤니티 데이터를 분석하여 사용자가 실제로 필요로 하는 프롬프트 디자인 방향을 제시하고, 이를 통해 창작자들이 예술적 표현을 더욱 자유롭게 할 수 있도록 돕는 방안을 모색하였습니다. 이 연구는 일반적으로 SNS나 콘텐츠 플랫폼에서 이미지 제작 도구를 사용할 때, 사용자의 경험을 크게 개선시킬 수 있을 것으로 기대됩니다.
- 출처: (텍스트-이미지 프롬프트) https://dl.designresearchsociety.org/iasdr/iasdr2023/fullpapers/155/
Kyungsik Han(Hanyang University)
- 제가 속한 연구팀에서는 디자이너들이 창의적인 아이디어를 도출하는 과정에서 발생하는 모호함을 효과적으로 활용하면서, 필요에 따라 명확한 결과를 얻을 수 있도록 지원하는 인터랙티브 시스템을 연구하였습니다. CLAY 시스템은 텍스트를 기반으로 이미지 생성 AI와 디자이너의 피드백을 결합하여, 디자인 작업의 시간을 단축하고 창의적 가능성을 확장하는 데 기여하였습니다. 이러한 기술은 패션, 광고 등 다양한 디자인 분야에서 사용자들이 보다 직관적으로 원하는 결과를 얻을 수 있도록 도와줄 수 있습니다.
- 출처: (디자인 모호성) https://arxiv.org/abs/2411.08588
Soojin Jun(Yonsei University)
- 제가 속한 연구팀에서는 자율주행 차량 내에서 AI 음성 에이전트가 여러 사용자들의 동시 명령을 효과적으로 처리할 수 있는 방안을 연구하였습니다. 초기 온라인 포커스 그룹 인터뷰를 통해 사용자의 요구와 기대를 분석한 후, 설명 가능한 AI 기술을 적용한 음성 에이전트를 설계하여 사용자 간의 명령 충돌을 방지하고, 차량 내에서 보다 원활한 상호작용을 이끌어내고자 하였습니다. 이러한 기술은 자율주행 차량 이용 시 여러 승객이 동시에 편리하게 차량 기능을 이용할 수 있도록 지원하는 데 실질적인 도움을 줄 수 있습니다.
- 출처: (자율주행 음성) https://www.tandfonline.com/doi/abs/10.1080/10447318.2024.2383034
Uichin Lee(KAIST)
- 제가 속한 연구팀에서는 스마트폰 사용 중 생성되는 상세한 UI 동선 데이터를 기반으로, 사용자 행동 특성을 미세하게 분석하는 방법을 연구하였습니다. 이를 통해 정신 건강 상태를 보다 세밀하게 예측할 수 있으며, AI 시스템의 판단 근거를 설명할 수 있는 설명 가능한 AI 모델을 개발하고자 하였습니다. 이러한 연구는 일상에서 스마트폰 앱을 이용할 때, 사용자들이 AI의 결정 과정을 이해하고 신뢰할 수 있도록 도움을 줄 수 있습니다.
- 출처: (스마트폰 행동 분석) https://dl.acm.org/doi/abs/10.1145/3675094.3679003
Younah Kang(Yonsei University)
- 제가 속한 연구팀에서는 전통적인 생산성 목표를 넘어서, 인간과 AI의 상호작용이 사용자의 다양한 가치와 경험을 반영할 수 있도록 기도와 같은 비생산적 활동의 사례를 연구하였습니다. 일기 연구와 디자인 워크북을 통해 사용자들이 기도 과정에서 추구하는 목표와 행동을 면밀히 분석하고, 이를 바탕으로 AI가 사용자의 감정이나 깊은 사색을 도울 수 있는 새로운 역할을 제시하는 시스템을 구상하였습니다. 이러한 접근은 예를 들어, 명상 앱이나 정신 건강을 위한 AI 서비스 등에서 사용자 맞춤형 경험을 제공하는 데 적용될 수 있습니다.
- 출처: (기도 경험) https://dl.acm.org/doi/abs/10.1145/3613905.3650743
답글 남기기