최근 자연어 처리는 영어권 중심으로 개발되고 있지만 LINE은 NAVER와 일본어 기반 자연어 처리 모델을 개발해 왔습니다. 이를 탑재한 ‘HyperCLOVA’의 현 상황과 응용 사례를 소개합니다.
먼저 LINE DEVELOPER DAY 2021에서 39B 파라미터로 소개한 것을 올해 82B로 대규모화한 모델의 개선점과 과제를 고찰합니다.
또한 HyperCLOVA 응용 사례로 2021년에 개최된 대화 시스템 라이브 대회에서 전 트랙 1위를 획득한 대화 시스템과, 메일이나 보고서 등 자주 쓰는 문서의 작성 속도를 높인 문서 작성 보조 툴을 소개하고, 파라미터를 줄인 기반 모델의 평가 결과와 자동 생성 텍스트의 공정성 및 윤리적 문제를 검출하는 AI 필터, 강력한 팩트 체크 기능을 개발한 활동 등도 소개합니다.
Toshinori Sato / LINE
NLP Development Team
Engineering Manager
2012~2019년과 2020년 이후 LINE 소속으로 단어 띄어쓰기 사전 생성 시스템 NEologd 개발자입니다. LINE CLOVA 일본어용 자연 언어 이해 시스템 개발자이며 2021년부터 NLP 개발 팀 매니저, 기반 모델 HyperCLOVA 일본어 모델 기술 책임자입니다. 일본어 자연 언어 처리에 힘쓰고 있으며 트위터 ID는 @overlast.
Takato Yamazaki / LINE
NLP Development Team
Software Engineer
와세다, 도쿄 대학에서 강화 학습, 대화 시스템을 배우고 2020년 LINE에 입사해 NLP 개발 팀원으로 HyperCLOVA와 채팅봇을 개발합니다. 대화 시스템 라이브 경연 4에서 최우수상을 받았고, HyperCLOVA Writer 개발에 공헌하며, 사람과 대화하며 일과 생활을 돕는 시스템을 목표로 여러 언어 처리 기술 연구 개발에 매진하고 있습니다.
Ikuhiro Nishiyama / Yahoo! JAPAN
Science Division 1, Science Group, Technology Group
Software Engineer
