자연어처리 바이블 - 핵심이론.응용시스템.딥러닝

괜찮다고 말하지만 괜찮지 않은 너와 나, 우리가 안고 사는 우울. 그리고 그 감정이 가져온 마음의 병 우울증. 화제의 채널



머리말

저자는 1990년대 초 대학원에 진학해서 자연어처리에 대한 연구와 공부를 시작했다. 당시 주변 사람들에게 자연어처리를 연구한다고 하면 컴퓨터학을 연구하는 사람들조차도 바로 알아듣는 사람들이 많지 않은 실정이었다. 하지만 요즘은 학계와 산업계뿐만 아니라 일반인들 중에서도 자연어처리에 대해서 관심을 갖고 공부하고 관련 기술을 습득하기를 원하는 사람들이 늘어나고 있는 상황이다. 자연어처리가 왜 중요하게 여겨지고 관심을 받고 있는 걸까? 사람의 지능에 가깝고 또 능가하는 인공지능을 개발하기 위해서는 세상에 대한 지식(world knowledge)을 컴퓨터가 사용할 수 있도록 표현하는 기술(knowledge representation)과 세상으로부터 지식을 자동으로 획득하는 지식 획득 기술(knowledge acquisition)이 매우 중요하다. 대부분의 세상 지식은 자연어로 기술되어 있다. 따라서 자연어를 이해하여 세상 지식으로 변환하는데 필수적인 자연어처리 기술이 인공지능 개발에 있어서 대단히 중요하다. 또한 사람과 컴퓨터간의 자연스러운 사용자 인터페이스 중에서 언어를 이용한 인터페이스가 매우 중요하다. 컴퓨터가 사람이 이야기한 내용을 알아듣고 사람들이 이해하기 쉬운 자연어 구사를 가능케 하는 자연어처리 기술은 사람들이 컴퓨터 사용법을 배우거나 프로그래밍 언어를 배워야 하는 어려움을 없애줄 수 있다. 위에서 기술한 두 가지 이외에도 인공지능 시대에서의 자연어처리 기술의 역할은 매우 크다.

자연어처리 기술의 중요성과 관심이 높아지는 상황에 비해 한국인들이 쉽게 자연어처리를 배울 수 있는 한국어로 쓰여진 자연어처리 교재가 거의 전무한 상황이다. 또한 한국어 자연어처리를 위해서 알아야 할 한국어 특성을 반영한 자연어처리의 원리와 개념을 배울 수 있는 교재도 많지 않은 실정이다. 본 서는 한국의 학생, 연구원, 그리고 학자들이 좀 더 쉽게 자연어처리를 습득할 수 있고, 한국어의 특성을 반영한 자연어처리를 배울 수 있기를 희망하며 집필되었다.

본 서는 크게 세 가지 파트로 구성되었다. 첫 번째 파트에서는 자연어처리를 배우기 위하여 필요로 하는 수학, 언어학 등의 기본 지식과 파이프라인 방식의 자연어처리를 위한 각 단계들에 대한 핵심 원리를 설명한다. 두 번째 파트에서는 자연어처리 기술을 활용하여 개발될 수 있는 여러 가지 응용 시스템을 설명하고, 각 시스템의 기본 원리를 설명하였다. 이미지처리 영역에서 높은 성과를 보였던 딥러닝 기술이 최근에는 자연어처리 기술에도 활발하게 적용되고 있다. 세 번째 파트에서는 딥러닝 기술의 원리와 딥러닝 기술을 이용한 자연어처리 기술에 대하여 설명한다. 여기서는 첫 번째 파트에서 소개된 자연어처리의 각 단계의 기술들이 어떻게 딥러닝 기술을 이용하여 개발되어질 수 있는지를 중심으로 설명한다.

매우 부족하지만 본 서의 초판을 집필하면서 한국어 자연어처리 연구와 교육을 하는 사람으로서 한국어로 된 교재를 쓰지 못해 가졌던 부담과 짐을 조금은 덜 수 있을 것 같다. 방대한 양의 본 서를 출판하는 데에는 각 맡은 부분에 대한 내용을 조사하고 연구하고 집필한 고려대학교 NLP & AI Lab.의 모든 구성원의 역할이 매우 지대했음을 밝히지 않을 수 없다. 그들이 없었으면 본 서는 세상의 빛을 보지 못했을 것이다. 지면관계상 모든 사람들의 이름을 밝히지 못함에 용서를 구한다. 또한 오랫동안 우유부단하게 책 집필을 시작하지 못한 저자를 움직이게 하고, 또 후원해주신 인성 유휘성 회장님께 감사의 말씀을 전한다. 늘 남편을 응원하고 사랑해주는 아내, 삶의 기업처럼 든든한 아들과 딸에게도 무한한 감사의 마음을 전한다. 마지막으로 저자를 포함한 모든 공동 저자들에게 학문과 연구를 하고, 아는 것을 글로 잘 표현할 수 있는 지혜를 주신 하나님께 감사드리며 그 분께 모든 영광을 돌린다.

2019년 12월 30일

대표저자 임희석



책 활용하기



본 서는 자연어처리의 핵심 원리, 응용시스템, 그리고 딥러닝 기반 자연어처리까지 자연어처리의 모든 분야를 다루고자 노력하였다. 참고문헌은 쉽게 찾아볼 수 있도록 각 장의 마지막에 배치되었으며 경우에 따라 동일한 참고문헌이 다른 장 뒤에서 중복해서 기술되었다. 각 장의 마지막에는 참고문헌뿐만 아니라 연습문제도 제시하여 학습한 내용을 스스로 점검할 수 있도록 노력하였으나 연습문제가 없는 장들도 있다. 본 서는 독자들에게 이론뿐만 아니라 직접 실습하고 코드를 돌려 볼 수 있도록 소스 코드와 실행 결과를 포함하고 있는 실습 과제를 개발하여 추가하였다. 저자들은 독자들이 코드를 직접 실행시켜보고 결과를 분석하는 것이 이론을 이해하는데 큰 도움이 된다는 것을 확신하여 실습 과제 개발에도 많은 시간을 투자하였다. 본 서에서 설명하는 용어는 영어 표현이 많다. 용어들을 가능한 한국어포 번역하여 기술하였지만 한국어로 번역하는 경우 오히려 의미가 모호해지거나 이해가 어렵게 변하는 경우 영어로 기술하기도 하였다. 영어 표현을 외래어(예: 데이타)로 표현하기도 하였으며, 영어를 외래어로 표현할 때 발음상 동일한 용어가 다른 표현으로 기술(예: 데이터, 데이터) 되기도 하였다.

자연어처리는 인공지능, 기계학습 그리고 데이터분석 등 컴퓨터학의 다른 주제들과 긴밀한 관계를 갖고 있다. 따라서 독자들의 이해를 돕기 위해서 필요한 경우 각 주제들에 대해서도 간단하게 설명했다. 하지만 참고문헌을 중심으로 독자들이 부족한 부분을 추가적으로 학습할 필요가 있을 것이다. 특히 기계학습과 딥러닝의 기본적인 원리와 알고리즘은 본 서의 내용과 병행하여 학습하거나 선행 학습하기를 권장하는 바이다.

본 서는 학부생, 대학원생, 그리고 연구원들뿐만 아니라 자연어처리에 관심이 있는 누구나 활용할 수 있도록 집필되었다. 학부생을 위한 수업에서는 ‘파트 I: 자연어처리 핵심 이론’과 ‘파트 II : 자연어처리 응용시스템’만 다루어질 수 있을 것 같다. 자연어처리 응용 시스템 개발에 관심이 있는 독자들은 파트 II를 학습하고 필요하면 파트 I과 파트 III를 공부하면 좋겠다. 대학원생들은 ‘파트 III : 딥러닝 기반 자연어처리’를 공부하고 각 장에 해당하는 내용의 최신 모델을 설명하는 논문과 공개된 코드들을 활용하여 학습하길 권장한다. 각 장을 학습 후 모든 독자는 부록으로 제시되는 실습 과제들을 수행하길 적극 권장한다. 처음에는 책에 제시된 코드를 그대로 실행하는 것도 어려울 수 있는데, 그런 어려움을 직접 해결하는 과정을 통해서도 많은 것을 배울 수 있으리라 확신한다.

비록 자연어처리의 많은 분야에 대해서 이론, 실습, 그리고 응용시스템에 대해서 다루고자 한 본 서도 제대로 된 자연어처리를 배우기 위해서는 현저하게 부족하리라 생각한다. 하지만 본 서에서 다루는 이론과 실습 과제를 모두 독파하길 바란다. 다음은 관련 내용의 최신 논문의 이론과 코드를 찾아서 학습하고 재현 실습을 하고, 해당 내용의 문제점을 찾고 그 문제를 해결할 수 있는 방안을 고안하여 개발할 수 있는 능력을 확보하길 바란다. 그 정도의 실력을 갖추게 된 독자는 자연어처리 전문가 확보를 위하여 고심하고 있는 국내의 유수의 기업은 물론이고 글로벌 기업들에 의해서 환영받는 경쟁력 있는 인재들이 될 수 있으리라 확신한다. 부디 많은 독자들에게 그런 기회가 되는 발판이 되는 본 서가 되길 희망한다.