한국어 추출 요약 기술. 한국어 문서 추출 요약 시스템으로는 영어권 문서 요약에서 비교 모델로 널리 사 용되고 있는 SummaRuNNer를 사용하였다. 이 모델은 RNN 2계층으로 구성된 신경망 모델로 기본적인 구조는 <그림 7>과 같다. <그림 7> SummaRuNNer의 모델 구조 이 모델은 n개의 문장으로 구성된 문서 S SSn에 대해 y yyn을 순차적으로 부여하여 추출 요약을 수행한다. 이 때, y∈0 는 번째 문장이 요약에 포함되어야 할지(1) 아닌지(0)을 나타내는 것으로 수식 (3)을 통해 결정된다. 수식 (3)에서 는 번째 입력 문장에 대한 벡터 표현이며, 는 입력 문서 전체를 표현하는 벡터이다. 는 번째 이전까지 만들어진 부분 요약을 표현하는 벡터이다. 이 들 정보와 각 항목에 대한 가중치를 이용하여 문장 자체의 중요성(content), 전체 문서 에 대한 해당 문장의 대표성(salience), 이전까지 생성된 요약과 해당 문장과의 중복도 (novelty), 문장의 절대, 상대 위치에 따른 중요성을 수치화하고 이를 합하여 해당 문장 이 요약으로 선택될 확률을 계산한다. 입력 문장은 2 계층의 RNN을 통해 벡터로 표현된다. 첫 번째 층에서는 개별 문장 을 구성하는 단어들의 양방향 GRU 출력의 차원별 평균(element-wise average)을 취해 문장을 표현하는 벡터를 구성한다. 각 문장을 표현하는 벡터는 두 번째 GRU 층에 입 력되어 주변 문장들과의 문맥 정보가 반영된 문장 벡터 를 생성한다. 본 과제에서는 SummaRuNNer 모델에 단어의 표층 자질뿐만 아니라 기본적인 언어 분석 자질을 함께 사용하여 모델을 구축하였다. 영어 데이터를 기반으로 한 실험에서 단어의 표층 정보만 활용한 경우보다 언어 분석 자질을 함께 사용했을 때 더 나은 추출 요약 결과를 얻을 수 있었다. 본 과제에서 사용한 언어 분석 자질은 표 49와 같다. Surface 단어 표층 정보 number of vocab TF 단어의 문서 내 빈도 0~50 POS 단어의 품사 number of POS tags NE 단어의 named entity 여부 boolean STOP 단어의 stop word 여부 boolean 표 49 추출 분석에 사용한 언어 분석 자질 단어의 품사 정보(POS)는 의미를 담고 있는 단어들과 문법적 역할을 수행하는 단 어들을 구분 지을 수 있도록 도와준다. 단어의 빈도(TF)는 추출 문서 요약과 키워드 추출 관련 연구에서 중요한 자질로 사용되어 왔다. 문서 요약이 ‘누가’, ‘무엇을’, ‘언 제’ 등과 같이 개체명 정보를 중심으로 이루어지는 영향이 있기 때문에 개체명 여부를 자질로 추가하였다. 이와 같은 언어 분석 자질을 단어의 표층 정보와 함께 사용한다.
