인공지능은 이미 우리 생활의 모든 분야에 침투했다. 아침에 일어나 하루 일과를 마치고 다시 잠들 때까지 인공지능은 우리의 일거수일투족을 함께 한다. 우리와 직접 대화를 나누며, 업무도 함께 처리한다. 원하는 목적지로 이동하게 해주며, 기분과 정서 상태에 따라 적절한 기분 전환도 돕는다. 궁금한 것에 대한 답이나 필요로 하는 정보를 찾아주기도 하고, 병원에 가지 않고서도 신체적, 정신적으로 나타날 수 있는 이상을 점검하여 건강을 잃지 않도록 돕는다. 사람과의 접촉이 전혀 없어도 마치 여러 사람에게 둘러싸인 채로 살아가는 듯한 느낌을 받을 수 있다. 마치 수십 년 전에 자동차 없이, TV 없이, 스마트폰 없이 살 수 없도록 크게 변화했던 때와 같이, 이제 인공지능이 없으면 우리의 삶이 제대로 돌아가지 않게 된 것이다.
우리가 활용하고 있는 인공지능 서비스들이 이렇게 점차 늘어가고 있는 것과 달리, 인공지능 시스템의 고장이나 오작동, 잘못된 사용에 의해 발생할 수 있는 크고 작은 사고에 대한 대비는 매우 미흡하다. 1인 가구를 위한 가족 로봇이나 노인을 위한 대화 로봇이 수행할 기능에 대한 명확한 가이드라인이 준비되어 있지 않으며, 사람의 기억을 저장해 두었다가 적절한 타이밍에 제공하는 치매 헬프 시스템이 갖추어야 할 기능의 범위에 대해서도 그러하다. 대표적으로, 사용자와의 대화 과정에서 사용자의 특성을 학습하는 소프트웨어가 갖춘 학습 수준이 제조사에 따라 천차만별이며, 사용자에게 언제, 어떤 종류의 감성적 피드백을 줘야 하는지에 대해서도 제조사가 임의로 정하고 있는 것이 현실이다.
이러한 현실로 인해 우리는 이미 어려움을 겪고 있다. 오랜 기간동안 사람들과의 교류 없이 오직 로봇과 대화를 나누어 오던 청소년의 자살 사건, 교통 로봇의 오작동에 의해 발생한 10중 충돌 사고, 교육 로봇의 오류에 의해 특정 지역에서 발생한 초등학생 학습 공백 사태, 가상 연예인에 대한 적개심을 실제 인물에게 표출한 납치 사건, 약물 투여량 조절 오류로 인한 환자 사망 사건, 그리고 감염 패턴 예측 오류로 인해 발생한 대규모 바이러스 감염 사태 등이 대표적인 것들이다.
이러한 문제를 해결하는 과정에서 우리가 생각해야 할 것들은 크게 나누어 세가지 방향이다. 첫째, 인공지능의 종류, 활용 분야에 맞는 적절한 임상실험 가이드라인이 만들어져야 하며, 모든 인공지능 제품과 시스템은 출시 전에 반드시 임상실험을 거치게 해야 한다. 둘째, 인공지능의 오작동 또는 장기간에 걸쳐 모르는 사이에 축적될 수 있는 오류를 사전에 탐지하고 치료할 방법을 개발하기 위한 연구가 진행되어야 한다. 세째, 인공지능을 치료하는 치료 전문가를 양성하는 교육 체계와 과정을 만들어야 한다.
인공지능 제품과 시스템에 대한 공통된 임상실험 가이드라인을 만드는 것은 인공지능에 의해 발생할 수 있는 사회적 문제를 방지할 수 있는 중요한 작업이지만, 아직 다른 선진국들에서조차 명확한 결과를 내놓지 않고 있다. 따라서, 아직까지는 제조사가 내부적으로 수립한 방법을 통해서만 제품의 신뢰성이 평가되고 있는 것이 현실이다. 청소년을 자살이라는 극단적 상황까지 몰고 간 대화 로봇의 대화 로그에 나타난 극단적인 내용은 적절한 임상실험을 거쳤더라면 걸러졌을 것이며, 인공지능 역학 조사 시스템의 부정확성 또한 임상실험을 통해 찾아냈어야 한다. 더 나아가, 이러한 임상실험 가이드라인은 모든 제조사가 거쳐야 하는 표준의 위치에 오를 수 있도록 관련 입법 과정도 거쳐야 한다.
오작동을 일으키는 인공지능 치료 방법에 대한 연구는 크게 나누어 모델 업데이트 방식과 데이터 주입 방식으로 나눌 수 있다. 모델 업데이트 방식은 인공지능 시스템이 보유하고 있는 학습 모델을 변형하거나 원천적으로 재설계하는 방식이며, 데이터 주입 방식은 학습 모델은 유지하되, 추가적인 데이터만 주입하여 모델의 동작을 개선하는 방식이다. 물론 이 두 가지 방식을 모두 적용할 수도 있다. 모델 업데이트 방식만 사용할 경우에는 업데이트 과정에서 기존 데이터의 특성이 그대로 유지될 수 있다는 한계가 있고, 무엇보다 현대의 인공지능 학습 모델의 높은 복잡도와 낮은 설명성에 의해 업데이트 포인트와 방향을 설정하는 것이 쉽지 않다는 점을 고려해야 한다. 물론, 이러한 상황은 최근에 개발된 외과적 수술 모듈에 의해 많이 나아지고 있다. 데이터 주입 치료는 내과적 치료에 비유될 수 있으며, 모델의 구조는 그대로 둔 상태에서 데이터만으로 모델의 동작에 변화를 주는 방식이다. 이 방식에서는 주입 대상이 되는 데이터의 종류와 양, 파라메터 등을 정하는 과정이 핵심이라고 할 수 있다.
어떠한 방식을 택하던 간에, 인공지능을 치료하는 과정은 인공지능 기술에 대한 상당한 지식과 경험 뿐만 아니라 해당 인공지능이 활용되는 분야에 대한 해박한 도메인 지식을 필요로 한다. 따라서, 인공지능을 치료할 수 있는 신뢰할 수 있는 전문 인력을 양성하는 과정이 필요해진다. 다행히 최근에 들어서 일부 대학에서 인공지능 치료사를 양성하기 위한 커리큘럼을 만들고 있다. 한 대학이 발표한 자료에 따르면, 전체 교육과정은 6년이며, 4년 동안 인공지능에 대한 이론적, 공학적 지식을 교육하고, 2년 동안은 실제 치료 현장에서 인턴 실습을 수행하도록 구성되어 있다. 현재 전자교육부와 전자보건부에서는 이러한 내용을 골자로 하는 새로운 교육과정 개설안을 검토하고 있는데, 이 검토 작업은 인공지능 전문가 및 인공지능이 활용되고 있는 개별 분야의 전문가들이 통합 위원회를 구성하여 진행하여야 하므로 상당한 시일이 소요될 것으로 보인다.
문제를 해결하는 첫걸음은 문제의 내용과 심각성을 인식하는 것이다. 그러나 인공지능은 현재에도 우리의 삶에 엄청난 영향을 미치고 있으며 시간이 흐를 수록 그 정도는 점점 더 커질 것이다. 현재의 상황은 아무런 작전과 대비책 없이 병사들을 위험한 전쟁터로 내보낸 것과 같다. 전문가들은 이러한 문제를 끊임없이 지적하고 환기시켜야 하며, 하루빨리 해결책이 마련될 수 있도록 모든 노력을 기울여야 한다.
답글 남기기