<aside> 💡 [TEXTNET의 대화자원 구축 Know-how] NLP 기술의 효율적 활용을 위해서는 대화자원 구축 또한 전략적으로 수행되어야 합니다.

이를 위한 2가지 TEXTNET의 접근을 공유합니다.

1. 발화의 어순/띄어쓰기/서술어 등에 변화가 있을 때 추론율을 관리하기 위한 언어자원구축 전략
2. 현실 세계의 knowledge를 확장 가능한 지식자원(Knowledge base) 구축전략

</aside>

언어자원 구축

1. 언어자원 구축 작업의 목표
   • 초기 구축되는 엔진의 이해도와 정확도를 높이기 위하여,
   • 언어학 전문가의 형태소 분석 설계와 domain knowledge의 의미적 맥락을 반영한 초기 핵심 언어자원(질문 문장/단어/형태소 등)을 선별합니다.
2. 프로세스 highlight
   • 빈도수 기준 방식의 한계 극복 전략:
     • 의미 없는 초기 핵심 언어자원이 포함될 수 있어 이를 domain knowledge 관점에서 추가 선별하는 과정을 거칩니다.
   • 단어 기준 방식의 한계 극복 전략:
     • 특정 단어들이 포함된 맥락과 QA 쌍을 고려하기 위해 언어전문가가 직접 눈으로 확인하고,
     • 어학적/의미적 기준의 분류 체계를 잡아 정확도를 높일 수 있는 과정을 거칩니다.
     • 상기의 2가지 방식 모두 domain knowledge와 언어학적 전문성을 토대로,
     • 작업의 일치도와 정확도를 높이기 위해, 언어전문가가 직접 수행을 합니다.
3. 언어자원 구축 프로세스
   • 고객사 제공 데이터 토대로 형태소 단위로 빈도 기준 상위 key word를 도출(1~100위 사이)합니다.
   • 도출된 key word 중 domain knowledge 관점으로 핵심 내용을 재가공 및 선별을 진행합니다.
   • 선별된 key word 위주로 다수의 질문 내용 포함된 영역(업무)을 분류하고, 분류 내 업무 범위를 설정합니다.
   • 최종 선별된 key word가 포함된 질문 내용들을 추출하여 초기 Q를 생성합니다.

지식자원(Knowledge Base) 구축

1. 지식자원 구축(챗봇의 경우 QA자원) 작업의 목표
   • 의미기반 언어자원을 활용하여 엔진의 커버리지를 높일 수 있는 QA자원을 구축합니다. (챗봇 엔진 형태의 경우 시나리오를 입체적으로 구현하는 과정을 포함합니다)
   • 이를 위하여 의미 기반으로 구축된 언어자원에 대한 카테고리화 작업을 수행하여, 중복 제거 및 병합을 과정을 거쳐 분류 체계를 수립합니다.
2. 프로세스 highlight

   • 활용 엔진을 상세 분석하여 효율성을 극대화 하기 위한 전략:

     • 언어추론 방식: 키워드, 서술어 포함 문장, 띄어쓰기, 앞 뒤 순서에 따른 추론율 산정방식 고려

       

       '어순 변화' 카테고리에서 추론율이 낮게 유지될 경우, 대화 설계의 방향성을 우선 변화 영역으로 "깊게" 설정하여 엔진 맞춤화 코퍼스 구축을 진행합니다.

     • 분기 처리 방법: 다양한 답변이 가능한 경우 intent를 별도 구성여부 설정

       

       '오늘의 일정'에 대한 세부 의도(Intent)를 상·하위 관계로 그룹화 하지 않고 모두 개별적으로 구성한 경우(왼쪽), 인텐트가 분기 없이 나열됩니다. 반대로 (오른쪽) ‘오늘의 일정 알려줘’ 라는 [2단계] 예문이 나머지 예문을 의미적으로 포함하는 질문이므로 상위 분기로 설정하여 인텐트의 개수를 줄일 수 있습니다.

     • 추론율 범위: 언어추론 방식에 따른 0~100% 구간 범위중 몇 % 이상일 경우 답변할지 설정

       

       특정 Intent별로 구동되고 있는 Engine이 어떤 국문학적 요소에 따라 추론율이 다른지 규명하고, 이를 보완하는 방식으로 유사 발화문을 생성합니다.

   • 의미기반 지식자원 구축 전략:

     • 기존의 단어 중심(key word) 분석 방식과는 달리, 의미 기반으로 구축된 언어자원을 활용하여 업무 메뉴얼/intent/sentiment 등을 기준으로 지식자원을 구축합니다.

   • (챗봇 엔진의 경우) 단편적인 시나리오 한계 극복 전략:

     • 이를 통해 챗봇의 커버리지 부분을 높이고, 주요 질문들에 대한 follow up 질문들에 대한 계층 구조(재질문)를 설계하여 입체적인 시나리오를 구성합니다.
3. 지식자원 구축 프로세스