[딥러닝③] 폭넓은 관심과 남다른 통찰로 딥러닝 시대 열어

딥러닝의 발전을 이끈 사람들

딥러닝은 그 역사를 볼 때, 몇 안 되는 연구자들이 신념과 의지를 꺾지 않고 꾸준한 노력을 기울인 끝에 탄생한 극적인 면이 있다. 연구자들은 그들이 추구한 방향에 대해 다수가 가진 비관적 통념을 극복해야 했다. 딥러닝의 리더들은 이런 상황에서 스스로를 격려하며 공학적 성취를 이뤘다. 딥러닝 혁명을 이끈 1세대 과학자 4인(힌튼, 레쿤, 벤지오, 슈미트후버)과, 그들의 뒤를 이어 딥러닝의 확산에 기여해 왔으며 자신의 그룹을 최첨단에서 이끌고 있는 신진리더들을 소개한다.

제프리 힌튼 (Geoffrey Hinton)-인공신경망의 그루
딥러닝의 학문적 리더로 간주되며 연구자들에게는 인공신경망의 명실상부한 구루(Guru)이다. 영국인으로 케임브리지대에서 실험심리학을 전공했다. 그의 외고조부는 유명한 수학자인 조지 부울로 그의 부울 대수는 현대 전자공학과 컴퓨터 공학의 기초 논리다. 정치적으로 매우 급진적인 지식인 집안에서 자란 그는 일찍이 사회통념의 허상을 간파하고 철저히 과학의 방향을 추구했다. 그에 따라 뇌에 흥미를 가지던 중 고교시절 홀로그램을 접하고 이를 뇌의 기본 이미지로 삼게 됐다고 한다.

대학 졸업 후에는 인지과학의 창시자인 물리화학자 크리스토퍼 롱게-히긴스의 지도로 뇌의 분산처리를 주제로 박사학위를 마쳤다. 이때 같은 지도교수에게 물리학으로 박사를 받은 연구실 동문이 근래에 ‘힉스 입자’의 발견으로 유명해진 이론물리학자 피터 힉스다. 힌튼은 졸업 후 미국 서부로 가 당시 막 형성되어 가던 계산주의적 심리학, 언어학 연구그룹과 만나 그들과 함께 자신의 비전과 열정을 더 고취시켰다.

그러던 중 플라즈마 물리학에서 뇌 연구로 분야를 바꾼 테렌스 세노우스키를 만나 의기투합, 카네기멜론 대학으로 자리를 옮긴다. 이후 서부의 병렬계산 그룹과 연구를 이어나가 현대 인공신경망 연구 재부흥의 단초가 된 책을 펴낸다. 이 책에서 오류역전파 알고리즘을 인공신경망의 학습에 활용하려는 시도를 소개한 것을 계기로 그는 학계의 살아있는 전설이 된다. 그는 명성과 위치에 안주하지 않고 뛰어난 제자들을 길러내는 한편, 인공신경망을 부지런히 최신의 연구주제와 접목해 이 주제를 다양한 관점으로 바라볼 수 있는 길을 열었다.

90년대 후반에는 뇌 생리학자들과 모형가들이 함께 모여 연구하는 영국 UCL대의 개츠비 연구그룹을 조직했다. 힌튼은 여기에서 실험생리학자들과 계속 연구를 할 생각이었으나 토론토대의 강력한 요청으로 다시 학교에 복귀하게 됐다. 그는 자신의 박사 후 과정 연구원이었으며 오래 알고지낸 얀 레쿤 교수의 주도로 그간의 인공신경망 연구를 통해 축적한 노하우와 성과를 기반으로 딥러닝을 발표했고, 이후 딥러닝의 진가를 알게 된 구글의 요청으로 구글의 딥러닝 자문 과학자가 됐다.

여전히 바쁘게 살며 연구를 놓지 않고 있는 그는 여가시간에는 새 프로그래밍 언어를 배우거나 가족과 시간을 보내며 긴장을 풀곤 한다. 강연 중에도 유머를 즐기는 그는 한 주제만을 연구해 온 긴 연구인생 동안 주변에 사람이 있어도 아랑곳 않고 “드디어 뇌의 비밀을 풀었어”라고 외치며 스스로의 사기를 유지, 고취시켜 온 것으로 유명하다. 심리학 전공자로서 개념의 본질을 잘 반영한 적합한 이름을 짓는 데에도 관심이 큰 그는 특히 ‘은닉 유닛’이라는 이름을 붙인 것에 자부심을 가지고 있다고 밝혔다.

얀 레쿤 (Yann LeCun)-페이스북 AI 총괄

프랑스 출신의 레쿤은 자국에서 박사과정을 밟으면서 인공신경망의 오류역전파 알고리즘을 미국의 그룹들과는 별개로 정교화 해 나갔다. 파리 마리퀴리 대학에서 박사 학위를 취득한 후 힌튼의 연구그룹에 박사 후 과정으로 합류, 공동연구를 수행하고 이후 뉴욕대로 자리를 옮기기까지 대부분 AT&T 벨연구소에서 연구자 및 연구개발 관리자로 재직했다.

벨연구소의 후반부에는 이미지 프로세싱 연구부의 매니저로 활동했다. 이 부서는 음성인식의 대가인 래리 라비너(Larry Rabiner)가 이끌던 더 큰 연구소의 한 부분이기도 했다. 이 시기에 그는 소련에서 도미한 블라디미르 뱁니크 등과 함께 유명한 기계학습 기법인 ‘SVM(Support Vector Machine)’을 발표하기도 했다. 그 외에 스캔된 책 영상의 파일화에 많이 활용되고 특허도면의 포맷으로 널리 쓰이는 DJVU 포맷을 개발하는 등 실용적 업적이 많다.

딥러닝 중 영상인식에 주로 쓰이는 콘볼루션 네트워크 기술은 80년대 후반 프랑스에서 박사과정 시절과 힌튼과의 연구시 대부분 완성된 것이다. 그는 이 시기 당시 막 보급되던 PC를 많은 시간 쓸 수 있었던 게 도움이 됐다고 밝혔다. 이때부터 개발된, 르네트(LeNet)로 알려진 그의 프로그램은, 우편번호 판독에 쓰이는 필기체 숫자 인식 기술에 있어 가장 높은 성능의 자리를 수십 년 간 지키고 있다. 레쿤은 2003년 뉴욕대(NYU) 교수로 자리를 옮기며 인공신경망의 학문적인 부흥에 힘을 쏟아왔으며, 2006년에는 힌튼, 벤지오 등을 규합해 딥러닝을 세상에 알리는 주도적인 역할을 했다. 이후 그는 뉴욕대에 데이터 사이언스 연구소를 출범시킨 후 페이스북으로 자리를 옮겨 인공지능 연구소장으로 재임하고 있다.

본인 스스로를 ‘탐욕스런 독서가’라고 소개하는 그는 여가 시간에는 재즈음악감상, 비행 드론 등 다양한 예술적, 기술적 취미를 즐긴다. SNS를 통해 다양한 사회 이슈에 뚜렷한 주관을 표명하는 것으로도 유명하다. 후학들에게는 물리학과 수학 등 기초과학의 실력을 튼튼히 할 것을 강조한다. 레쿤은 취미인 물리학은 통계물리학과 입자물리학의 전문적인 계산이 가능한 수준으로 독학을 해왔다고 한다. 딥러닝과 공학전반에 걸쳐 ‘차고기술광적(Cargo-cult)’인 문화를 장려하면서 그는 비행기가 발명되는 데에 큰 공을 세운 것은 학계의 학자들이 아닌 라이트 형제라는 무학의 기술자들이었다는 점을 사례로 제시한다.

그는 자신이 페이스북에 합류한 것은 오픈소스로 사회에 기술을 공개하는 것을 중시한 것이 이유라고 밝혔다. 그 외에 학계에 있어서도 자유로운 의사소통을 적극 장려해 ICLR 학회를 조직했다. 여기에 제출되는 논문은 미리 온라인에 공개돼 검토가 공개적으로 이뤄지는 한편 다른 학회에도 중복 제출해도 된다. 이렇게 레쿤은 활발한 지식공유 운동을 이끌고 있다.

요슈아 벤지오 (Yoshua Bengio)-알고리즘 수학적 규명
프랑스 태생의 캐나다인이다. 프랑스 색채가 강한 퀘벡 지역에서 태어나 이 지역 내에 있는 몬트리올 대 교수로 재직 중이다. 뇌 및 신경과학의 전통이 오래인 캐나다 맥길대를 졸업했으며 졸업 후 확률적 그래피컬 모델의 대가인 마이클 조던 교수의 연구그룹과 AT&T 벨연구소의 얀 레쿤의 연구그룹에서 박사 후 연구원 과정을 거쳤다. 힌튼, 레쿤 교수와 달리 딥러닝 붐 이후에도 업계로 가지 않고 학계에만 머무르고 있는데 이는 연구주제 상의 자율성의 보장과, 학생들을 가르치는 사명감 때문이라고 밝히고 있다.

온화한 성품으로 알려져 있으며 수평적 커뮤니케이션과 연구와 삶의 균형을 학생들에 강조하고 딥러닝의 궁금증을 해소하는 친절한 소개 자료를 그의 제자들과 많이 작성해 왔다. 기계학습 학계에 있어서는 딥러닝에 중요한 기반 알고리즘들의 본질적인 한계를 수학적으로 밝히는 것과 이를 우회하는 방법의 탐구자로 알려져 있다.

응용에 있어서는 언어 사용을 인공신경망으로 모형화하는 시도의 선구자였다. 힌튼의 분산된 표현에 착안해 내놓은 인공신경망 기반 언어 모형화는 구글의 초대용량 언어모델링 기법인 word2vec 등을 이끌었으며 이 과정에서 확률적 그래피컬 모델과 인공신경망간의 융합을 이끌었다. 특히 그는 표현학습을 강하게 주창하고 있다. 예를 들어 서로 다른 언어와 서로 다른 모달리티 간(음성, 영상, 텍스트 문장 등)의 변역이 이뤄지는 과정에서 그 핵심이 학습되는 것을 말한다. 요슈아 벤지오와 형제인 새미 벤지오도 유능한 엔지니어로서 구글에서 딥러닝 관련연구를 수행해 오고 있다.

유르겐 슈미트후버 (Jurgen Schmidhuber)-재귀망 난제 해결

독일 뮌헨 출신의 학자로서 스위스의 달레몰레 인공지능 연구소에 재직하고 있다. 오랫동안 실용적 사용에 어려움이 있던 재귀적 인공신경망의 난제를 제자인 호크레이터와 해결했다.

재귀망이라고 하는 한 가지 방법을 오랜 세월 추구해 온 집념의 연구자로 지능의 본질에 대한 심오한 관점과 다양한 관심사를 가지고 있는 것으로 알려져 있다. 항상 베레모를 쓰는 등 패션 센스로 유명하며 유럽에서 딥러닝을 활발히 알리고 있다.

앤드류 응 (Andrew Ng)-딥러닝 대중화 공신
딥러닝이 세상에 알려지는 데 큰 역할을 한 학자다. 힌튼에 앞서 구글 빅 브레인 프로젝트를 이끌다가 현재는 포털인 바이두에서 딥러닝을 발전시키는 역할을 하고 있다. 동료들과 출범시킨 온라인 개방대학 코세라로도 유명하다. 그의 지도교수는 머신러닝의 대부로 일컬어지는 마이클 조던 교수이다. 조던 교수는 힌튼과 함께 오류역전파 알고리즘을 창안한 데이비드 러멜하트의 제자였다는 점에서 힌튼과 인연이 있다.

앤드류 응은 영국인으로 홍콩과 싱가포르에서 유년을 보내며 학교를 다녔다. 박사 학위 취득 직후에는 무인 헬리콥터의 자동 자세안정 분야에 기여해 현재의 드론열풍에 기여하기도 했다. 딥러닝에 있어서는 한국인 제자 이홍락 교수와 함께 성능과 이해의 양측에서 학계 및 일반인들에 딥러닝을 소개하는 데 큰 역할을 했다.

페이페이 리(Fei Fei Li)-융합연구 선두주자

중국 본토 출신의 여류 기계학습 학자로 현재 스탠포드대에 몸담고 있다. 동료 컴퓨터비젼 분야 신진학자들과 함께, 구글로 대변되는 빅데이터 및 기계학습의 흐름을 일찍 간파, 통섭적 흐름을 이끌어 왔다.
이미지넷 챌린지 컨테스트를 조직화했으며 각 분야의 특징적인 연구를 빨리 파악하고 융합해 탁월한 기여를 해오고 있다. 중국 민주화에 대해 강한 주관을 가진 것으로 알려져 있다.

루슬란 살라쿠트디노프 (Ruslan Salakhutdinov)-딥러닝 명강사
힌튼의 뒤를 이어 토론토대 교수가 된 힌튼의 제자다. 딥러닝에 대한 좋은 설명자료와 강연으로 유명하며 딥러닝을 확률적 모형과 연결시켜 이해되게끔 하고 확장하는 데 활발한 연구자다. 딥러닝의 다양한 연구지평을 개척하고 있다.















데미스 하사비스(Demis Hassabis)-딥마인드 창립자

구글에 인수된 딥마인드사의 창립자. 어린 시절부터 신동으로 이름났으며 전산학의 오랜 근본적 문제를 푸는 데 딥러닝을 적용하는 것에 관심이 크다. 진정한 인공지능의 구현에 가장 가까운 팀을 이끌고 있는 리더로 간주되고 있다. UCL 칼 프리스턴 교수의 제자다. 칼 프리스턴은 제프리 힌튼의 뇌생리학 분야 연구 파트너였다고 할 수 있다. 유명한 딥러닝 연구그룹 출신의 연구원들을 규합, 딥마인드를 창업했으며 이 회사는 최근 구글이 거액을 주고 인수해 화제가 됐다.

이상의 학자들 외에도 응용과 근본적 이해의 영역에서 딥러닝의 새로운 속살이 드러나게 하는 연구자들이 세계의 곳곳에서 등장하고 있다. 선진국뿐만 아니라 체코, 베트남, 중국 등에서도 다양한 연구자들이 활약 중이다. 이 같은 다양성은 딥러닝의 리더들에게서도 보이는 점인데 1세대 리더들의 경우 모두 미국 태생이 아닌 유럽이나 북미에서도 유럽적인 특징이 강한 지역 출신이다.

또 각자 유머, 일과 삶 간의 균형 중시, 예술에 대한 조예, 사회변화에 대한 강한 참여의식 등 개성이 강하다. 이는 폭넓은 분야를 접하고 통찰하는 연구자로 성장할수록, 파급력 큰 분야를 개척할 잠재력을 가진다는 점을 시사하는 것일지도 모른다.

글 이동윤 LG CNS 빅데이터분석컨설팅팀 연구원