해마다 사이버명에훼손, 모욕죄등이 증가해 가는 추세이다.
특히, 일명 ‘통매음’이라 불리는 통신매체이용음란죄 발생 건수가 폭발적으로 늘고 있다.
[단독] 게임 중 무심코 던진 채팅 한 줄로 성범죄자행…‘롤매음’ 신조어까지 - 매일경제
실제 통매음 발생 건수는 폭발적으로 늘고 있다. 대검찰청이 지난 10월 발간한 2022년 2분기 범죄동향 리포트에 따르면 통매음 발생 건수는 올해 2분기 2784건으로 전년 동기(770건)보다 261.6% 증가했다. 2020년 2분기는 504건으로, 2021년 전년동기 대비 증가율이 52.8%인 점을 비교하면 대폭 상승한 것이다.
네이버에서도 이를 인지하여, 뉴스 탭의 소셜 댓글 기능에 ‘클린 봇’을 도입하였다.
- 클린 봇의 도입에도 불구하고, 연예나 스포츠 탭은 댓글이 아예 막혀 이모지만을 달 수 있게 되었다.
- 이는, 온라인 상 욕설과 혐오표현, 비하 및 비방이 범람하여 막기 힘든 지경까지 왔다는 반증이 된다.
또한, 현재 게임이나 SNS등 다양한 곳에 비속어 필터링이 적용되어 있지만, 대부분 Rule-based 기반으로 구현되어 있다.
- 이를 증명하는 예시가 몇 가지 있다.
<aside> 💡 “아니 미안해서 그랬지” → “아**안해서 그랬지”
“시바견은 귀엽다” → “**견은 귀엽다”
“만두 몇 개 시키고 올게” → “만두 몇 ***고 올게”
</aside>
- 전혀 욕설이 아닌 것을 맥락에 상관 없이글자만 보고 욕설이라고 판단하는 경우가 꽤 있다.
욕설이나 혐오표현은 워낙 다채롭기도 하고, 아무래도 언어이다 보니 끊임 없이 늘어나고 있으며, 익명성에 기대어 공격적으로 사용함으로써 사회적으로 문제가 되고 있음을 알아보았다.
- 현재 대부분의 비속어 필터링이 Rule-based 이므로, 맥락을 고려한 비속어(욕설, 혐오표현) 필터링을 만들어보자.
- 간단하게 이진분류 문제로 접근하여, 맥락을 고려하기 위해 Language Model을 사용하면 될 것이라 추정.