[피플] 온라인 '유해콘텐츠' 솎아낼 AI 기술 중요성 더 커져

"온라인동영상서비스(OTT) 등 영상 플랫폼이 늘어나면서 '유해성 콘텐츠'도 진화하고 있습니다. 유해 콘텐츠를 걸러내기 위한 인공지능(AI) 기술 중요성이 더욱 커질 것입니다."

김후종 플랜티넷 대표는 최근 매일경제와 인터뷰에서 "국내 통신사를 중심으로 AI기반 유해 콘텐츠 차단 서비스를 제공하고 있는데, 전체 가입자 기준 연간 110억건 이상을 차단하고 있다"며 이같이 말했다. 플랜티넷 데이터베이스(DB)에 축적되는 유해 사이트 관련 정보만 매년 50만개 이상 추가되고 있다.

플랜티넷은 AI 엔진을 활용해 온라인 공간의 유해 콘텐츠를 걸러내는 데 강점을 가진 회사다. 국내에서 유일하게 통신사 망에 필터링 솔루션을 적용했다. 2000년부터 최근까지 약 21년간 유해 콘텐츠를 차단하며 900만건 이상 관련 정보를 축적했다. 국내 최대 규모다. 코로나19로 비대면 트렌드와 MZ세대(밀레니얼·Z세대) 부상이 맞물려 다양한 플랫폼을 통한 동영상 생산과 소비가 급증하면서 폭력·도박·음란물 등 유해 콘텐츠를 사전에 걸러내는 기술이 주목받고 있다. 김 대표는 "기업 입장에서 보면 ESG(환경·책임·투명경영) 차원에서도 정확한 데이터 처리를 통해 유해성 콘텐츠를 차단하는 것이 중요해졌다"고 진단했다.

AI가 스트리밍 중인 동영상에서 유해 콘텐츠를 어떻게 걸러내는 걸까. 플랜티넷은 이미지 인식 딥러닝 모델인 컨볼루션신경망(CNN)과 자체 개발한 AI 알고리즘을 활용해 유해 콘텐츠를 식별하고 있다.

김 대표는 "동영상을 내려받아서 보던 시절엔 파일의 해시값(파일의 고유 코드)을 활용해 유해성 여부를 판단했지만 요즘은 온라인 스트리밍 방식으로 동영상을 보기 때문에 재생 중인 영상을 프레임별로 분석하고 있다"고 설명했다.

플랜티넷은 'n번방 사건'으로 문제가 됐던 다크웹(특정 프로그램을 통해서만 접속이 가능한 웹) 앱과 랜덤 채팅 앱에서 유해 콘텐츠를 차단하는 기술도 개발했다.

김 대표는 "지금까지는 웹사이트, 이미지, 채팅, 다운로드 동영상 등에서 유해 콘텐츠가 주로 생산됐지만 지금은 다르다"며 "향후엔 클럽하우스 등 오디오 기반 SNS 콘텐츠와 딥페이크도 필터링이 필요한 영역으로 부상할 수 있다"고 내다봤다.

유해 콘텐츠 필터링 분야에서 핵심은 AI 기술이다. 김 대표는 "수집하는 인터넷주소(URL)의 90%를 AI가 사전에 필터링한다"며 "덕분에 처리하는 데이터 양이 기존 대비 10배 증가했고, 유해 판별 처리 속도는 10분의 1로 줄었다"고 설명했다.

플랜티넷은 이미지에서 텍스트를 추출하는 AI 기반 광학문자인식(OCR) 기술과 텍스트 구문 분석을 통해 유해물을 차단하는 AI기술을 개발하고 있다. 한국전자통신연구원(ETRI)과 손잡고 유해 콘텐츠 DNA 추출 기술도 연구하고 있다. 불법촬영물 등 유해 영상 DNA를 추출하면 향후 사이즈가 바뀌거나 자막을 입히는 등 변형되더라도 DNA를 활용해 동일성을 입증할 수 있다. 이렇게 하면 유해 동영상을 차단할 수 있을 뿐만 아니라 유포를 방지하는 데 도움을 줄 수 있다. 플랜티넷은 유해 콘텐츠 솔루션을 대만 중화전신과 베트남의 VNPT 등 해외 통신사에 수출했다.

플랜티넷은 유해 콘텐츠 필터링 기술을 활용해 신사업도 추진 중이다. 기업 고객을 대상으로 한 보안 솔루션도 출시했다. 김 대표는 "기존 서비스에 트래픽 관제, 기업 네트워크 보안 등을 관리하는 보안 솔루션 기업을 목표로 사업을 확장할 계획"이라고 말했다.