딥러닝이 답이 될 수 없는 이유, 2029 기계가 멈추는 날 - 게리 마커스 , 어니스트 데이비스

 

‘2029 기계가 멈추는 날’이라는 책을 읽었습니다. 개인적으로도 관심이 많은 분야 에 대한 책입니다만 이 책 덕분에 인공 지능에 대한 잘못된 생각과 선입견을 바로 잡을 수 있었던 것 같습니다.

 

저자는 이 책을 통해서 딥러닝이라는 기술을 위주로 빠르게 발전하고 있는 인공지능 기술에 대해 우려 를 나타내고 있습니다. 사람들은 점점 더 인공 지능 기술 에 의지하고 있는데 딥 러닝 기반의 인공 지능은 아직 충분히 믿을만한 기술이 아니라고 주장합니다. 예를 들어 영화를 추천하거나 구매할 상품을 찾아주는 정도라면 인공지능이 가끔 실수를 해도 상관이 없지만 사람의 생명을 결정하는 중요한 순간에 엉뚱한 실수가 생긴다면 이는 매우 치명적이기 때문입니다.

 

저자는 이 책을 통해 인공지능 기술 에 대한 우리들의 잘못된 생각을 바로 잡고 인공 지능 기술이 앞으로 나아가야할 방향을 제시하고 있습니다.

 

여러분은 인공지능에 대해 어떤 이미지가 떠오르시나요? 1982년에 개봉된 영화 ‘블레이드 러너’ 에서는 사람과 구분이 불가능한 ‘레플리컨트’라는 존재가 최초로 등장했습니다. 인간보더 더 인간적인 기계의 존재 를 묘사하며 앞으로 인류가 마주할 인간성의 정의에 물음을 던진 기념비적인 작품이었죠.

 

이후 인공지능 기술에 상상력이 더해지면서 영화 터미네이터처럼 인류의 생존을 위협할 수 있는 절대적인 존재로 묘사되기도 했습니다. 실제로 IBM의 인공지능 왓슨은 거대한 데이터베이스를 바탕으로 클래식 AI와 확률적 머신러닝을 혼합해 퀴즈쇼 제퍼디에서 우승하며 사람들을 깜짝 놀래키기도 했습니다. IBM은 인공 지능 왓슨이 인지 시스템을 바탕으로 의료 혁명을 일으킬 것이라고 전망하기도 했습니다.

 

2016년에는 알파고가 예상을 깨고 이세돌 9단을 가볍게 제압하면서 특정 분야에서 사람의 인지 능력을 뛰어넘는 인공 지능이 머지 않아 등장할 것이라는 기대와 우려를 동시에 낳기도 했습니다.

 

실제로 인공지능 기술은 이미 우리들의 실생활에 깊숙이 들어와 있습니다. 차량 공유 서비스는 머신러닝을 이용해서 운전자 수요를 예측하고 페이스북은 머신러닝을 이용해서 사용자들이 보고 싶어하는 뉴스 기사를 선별하고 광고를 추려냅니다. 넷플릭스와 아마존은 머신러닝 을 이용해서 영화와 제품을 추천 하고 사용자의 취향 변화를 분석 하고 예측합니다. 유투브는 머신러닝을 기반으로 시청자에게 동영상을 추천하고 광고를 배치합니다.

 

미래학자인 커즈와일은 2029년이 되면 인공지능이 사람의 인지 능력을 뛰어넘을 것이라고 예언한 바 있습니다. 2029년이 되면 싱귤래리티, 이른바 기술적 특이점에 도달할 것이라는 전망입니다. 이런 기술적 특이점에 도달하게 되면 그 변화의 폭이 너무 커서 어떤 세상이 펼쳐질지 예측하기 힘들다고 합니다. 아울러 많은 미래학자들이 인공지능 으로 인해 수많은 직업이 사라지고 사회적으로 경제적으로 큰 변화가 생길 것이라고 전망한 바 있습니다.

 

인공지능 기술은 새로운 미래를 만들고 인류가 마주하고 있는 환경, 의학, 자원과 같은 어려운 문제들을 해결해줄 중요한 기술입니다. 인류는 인공 지능 기술에 더 많이 의지할 것이고 새로운 인공 지능 기술을 선점하기 위해 국가 간 기업 간의 경쟁도 치열해질 것입니다.

 

하지만 이 책의 저자는 현재의 인공지능 기술은 과대 평가 되었고 잘못된 방향으로 개발되고 있기 때문에 미래학자들의 이러한 전망들이 조만간 이루어질 가능성은 낮다 고 주장하고 있습니다.

 

최근 인공 지능의 발전은 딥 러닝 기술을 활용한 좁은 분야의 인공 지능이므로 여전히 적응력이 떨어지고 환경이 복잡해지거나 학습하지 못한 상황이 발생하면 엉뚱한 결과를 만들 수 있다는 것입니다.

 

예를 들어 훈련 받은 데이터를 벗어나는 새로운 문제에 부딪히는 순간 제 기능을 하지 못한다는 것이죠. 또한 기존 인공 지능 시스템이 사회적 가치나 데이터의 품질 혹은 성격을 고려하지 않은 채 입력 데이터를 모방할 뿐이라고 지적하고 있습니다. 또한 과도한 언론 보도와 사람들의 착각으로 인해 인공 지능 기술이 거의 완성된 기술이라는 믿음을 갖게 했지만 사실 인공 지능의 기술의 현실은 그렇지 못하다는 것입니다.

저자는 이 책을 통해 인공지능에 대한 선입견과 현실을 냉정히 분석 하고 앞으로 인공 지능이 가야할 방향을 제시하고 있습니다.

 

궁극적으로 인공 지능은 복잡한 세상 속에서 우리의 삶과 가족 의학적 결정과 같은 중요한 것들을 믿고 맡길 수 있는 시스템이 되어야 한다는 것입니다.

 

최근 빅데이터와 딥 러닝 기술 그리고 하드웨어의 발전이 맞물리며 인공지능 기술의 비약적인 발전이 있었습니다. 딥 러닝이란 사람의 신경망처럼 다양한 데이터 처리 계층을 만들고 데이터를 학습시켜서 판단의 정확도 를 높이는 인공 지능 기술을 의미합니다. 피부암 진단, 상품 추천, 이미지 판독, 여진 예측 ,신용카드 사기 탐지, 언어 해독, 사진 태그, 뉴스 피드 정리, 미술 및 음악 분야에도 적용되고 있고 딥러닝 기술은 이제 IT기업들의 중요한 거대 사업이 되어 가고 있습니다.

 

마치 딥 러닝 기술은 인간의 지능 을 뛰어넘는 엄청난 잠재력을 갖는 새로운 기술로 보이기도 합니다. 하지만 딥 러닝 기술은 엄청난 데이터를 바탕으로 데이터의 연관성을 파악 하는 알고리즘 기술이라고 할 수 있습니다. 한마디로 중간 과정을 무시하고 수많은 데이터를 이용해서 입력 변수와 출력 변수의 연관성을 찾아가는 과정입니다. 학습의 중간 과정이 생략되고 별도의 논리를 미리 만들어줄 필요가 없기 때문에 이를end-to-end기술이라고 합니다. 중간 과정을 따로 알 필요가 없기 때문에 매우 효율적인 방법이라고 할 수 있습니다.

 

딥러닝은 인간의 뇌가 작동하는 방식을 흉내 내긴 했지만 인간의 지능과 달리 사실은 그저 데이터를 구분하는 알고리즘입니다. 근본적으로 사람처럼 새로운 개념을 추상적으로 이해하는 것이 아니기 때문입니다. 따라서 단순한 사진 분류와 같은 작업에서는 매우 뛰어나지만 사진 속의 상황을 파악하거나 글을 읽으면 서 문맥을 파악하지 못합니다.

 

저자에 따르면 딥 러닝 기술은 95% 정도로 정확하게 작동하지만 가끔 5% 정도는 아주 엉뚱한 결과를 만들 기도 하는데 어떻게 그런 오류를 일으켰는지 개발자를 포함해 누구도 알 수 없다고 합니다. 상품 추천이나 정보 검색처럼 그런 오류가 별로 중요하지 않은 경우 라면 괜찮지만 자율 주행 차량처럼 사람의 목숨과 연관된 중요한 일을 하는 인공 지능이라면 치명적인 결과를 만들 수도 있습니다.

 

예를 들어 테슬라의 자율 주행 기술 은 카메라 데이터에만 의존하는데 날씨가 좋고 통행량이 많지 않은 한적한 고속도로 주행에서 제대로 작동한다고 예상할 수 있습니다. 하지만 날씨가 좋지 않거나 사전 에 학습되지 않는 예외적인 상황이 발생하면 위험한 사고가 날 수도 있습니다.

 

실제로 테슬라의 자율주행 인공지능 이 장애물이나 흰색 트레일러 차량을 인지하지 못하고 충돌사고로 인해 사망자가 생기기도 했습니다. 자율 주행차의 가장 큰 위험은 인간의 개입을 필요로 하는 특별하고 긴박한 상황에서 한눈을 팔고 있던 운전자가 재빨리 반응하지 못할 가능성이 높다는 점입니다.

 

저자는 인공 지능이 제대로 작동 하기 위해서는 기존의 딥 러닝을 임시처방으로 보완하거나 이를 점진적으로 개선 시키는 접근에서 벗어나 사람처럼 상식을 이해하고 추론을 할 수 있는 ‘딥 언더스탠딩’ 으로 발전해야 한다고 주장합니다. 제한적인 상황에서 특정한 과제만 수행할 수 있는 인공 지능에서 벗어나 안심하고 믿고 맡길 수 있는 신뢰할 수 있는 인공지능이 되어야 한다는 것입니다.

 

이러한 인공 지능은 사람의 언어와 가치관을 이해하고 시간 공간 그리고 원인과 결과의 인과성을 이해하는 인공 지능이라고 할 수 있겠습니다. 예를 들어 가정에서 다양한 잡일을 하는 로봇이라면 명확하지 않은 주인의 지시를 제대로 이해하고 예상치 못한 돌발 상황에 어떻게 대처해야할지 잘 판단하기 위해서는 상식을 바탕으로 추론을 하는 능력이 필수적이라는 것입니다. 그렇지 않다면 잘못 설정된 목표 나 임무를 맹목적으로 완수하면서 해로운 결과를 가져올 수 있기 때문입니다.

 

공장이나 패스트푸드 식당 주방 에서 미리 정해진 업무를 반복하는 로봇은 닫힌 시스템에서 일하는 경우로 볼 수 있습니다. 외부 변수가 적은 상황에서 딥 러닝 기반의 인공 지능은 뛰어난 성능을 보입니다. 하지만 만화에 등장하는 똑똑한 로봇처럼 가정이나 병원처럼 다양하고 복잡한 일들을 처리 하기 위해서는 열린 시스템에서 융통성 있게 대응하는 능력이 필요합니다.

 

열린 시스템은 발생 가능한 경우가 너무 많기 때문에 이를 모두 미리 학습 시킬 수 없기 때문입니다. 이런 관점에서 인간의 일자리는 아직 안전하다고 저자는 이야기합니다. 인간에게 너무 쉬운 일들이 아직은 로봇과 인공지능에게는 너무 어렵기 때문입니다.

 

저자에 따르면 상식을 이해하고 애매모호한 사람의 언어를 제대로 이해하는 기계는 아직 존재하지 않습니다. 그러한 방향으로 개발이 이루어 지지도 않고 있습니다. 또한 미리 정해진 환경에서 그럴 듯한 시연을 하는 것과 실생활에서 복잡한 상황에서 유연하게 대응하는 것은 전혀 다른 문제라고 저자는 강조하고 있습니다.

 

멋진 시연을 했다고 해서 바로 사용 될 수 있는 것은 아니라는 점을 기억할 필요가 있습니다. 대부분의 멋진 사연은 미리 정해진 상황을 바탕으로 고도로 연출되기 때문입니다. 인공지능은 예상하지 못한 변수가 생길 가능성이 적은 닫힌 세계에서만 잘 작동한다는 것입니다. 예상하지 못한 변수가 생기거나 상호 작용으로 인해 시나리오에 없던 경우가 발생하면서 현재의 인공지능 기술은 이러한 상황에 유연하게 대처하지 못하고 엉뚱한 결과를 보이게 되는 것입니다.

 

자율 주행 차량의 경우 고속도로 에서 속도를 유지하고 차선을 변경하는 것은 닫힌 세계와 같은 환경에서 잘 작동하지만 고속도로가 아닌 일반 도로에서 수많은 보행자와 복잡한 차량 흐름, 신호등, 건널목, 변덕스런 날씨로 인해 발생 가능한 경우의 수가 폭발적으로 늘어납니다. 이런 모든 경우를 딥러닝 방식으로 미리 인공지능에 학습 시킨다는 것은 불가능하기 때문입니다.

 

저자는 무엇보다 인공 지능이 제대로 된 언어 능력을 갖추는 것이 중요한 데 이를 위해서는 세상을 이해할 수 있는 능력이 필요하다는 것입니다. 피상적으로 언어를 번역할 수 있어도 지금의 인공 지능은 그 의미와 맥락을 추론하지 못하고 있는데 이는 언어의 특유한 모호함과 다중적 의미성 때문이라는 것입니다.

 

구글의 번역기는 딥 러닝을 이용해서 그럴듯한 번역을 할 수는 있지만 번역 내용을 이해하거나 문맥을 논리적으로 추론을 하지 못합니다. 또한 아이폰의 시리나 아마존의 알렉사는 날씨를 알려주고 간단한 질문에 답을 할 수 있어도 주인 이 처한 상황을 사람처럼 판단하지는 못합니다.

 

인간의 상식을 인공 지능에게 학습 시킨다는 것은 매우 어려운 일이기 때문입니다. 따라서 저자는 진정한 기계 지능 의 실현은 다들 예상하는 것 보다 훨씬 더 먼 미래의 일이라고 이야기합니다. 또한 진짜 위험은 초지능이 아니라 힘을 가진 어리석은 하인처럼 자신을 제어할 가치관이 없이 제작자의 의도를 맹목적으로 따르는 인공지능 이라고 지적합니다. 아무런 생각없이 사람들을 표적으로 삼는 자율 무기나 해롭고 무분별한 뉴스를 무제한으로 공급하는 AI 뉴스 피드와 같은 예를 제시하고 있습니다.

 

저자는 상식, 인지 모델, 그리고 강력한 추론 도구를 갖춘 인공지능을 만들어야 한다고 주장합니다.

 

이 모든 것을 합친 것이 바로 ‘딥 언더스탠딩’이며 자신의 행동 결과를 예측하고 평가할 수 있는 기계를 만들어야 한다는 것입니다. 이는 인간과 세상을 진정으로 이해하는 인공 지능이며 내 가족과 삶을 맡길 수 있는 안전한 인공 지능이라고 하겠습니다.