[한스경제 김민혜] “학생들이 교실에서 저급한 표현을 쓰기에 놀라서 물어보면 ‘유튜브’ 나 ‘아프리카’ 인터넷 방송에서 봤다고 하더라”

지난 주말 한 모임에서 만난 초등교사 L씨는 유해 온라인 방송의 영향이 심각한 수준이라고 토로했다. 콘텐츠가 어떤 의미를 가지든 재미있고 자극적이면 그만이라는 생각으로 영상을 보는 학생들이 생각보다 많고, 콘텐츠가 학생들 사이에서 회자되기 때문에 파급효과 역시 상당하다고 L씨는 우려섞인 설명을 이어갔다.

얼마 전에는 유튜브의 ‘엄마 몰카’가 사회적 이슈로 등장하기도 했다. 일부 초등생들이 네티즌의 관심을 받기 위해 어머니의 신체 일부 등을 몰래 찍어 자신의 방송에 공개한 것이다.

문제가 심각해지자 각계에서 문제 해결을 위한 다양한 방법을 제시하고 있다. 먼저, 교육계에서는 ‘미디어 전담 교육 교사’를 각급 학교에 배치해 윤리교육을 실시해야 한다고 강조한다. 사용법에서 끝나는 교육이 아닌, 어떻게 활용해야 옳은지에 대한 교육도 이루어져야 한다는 의미다.

28일 정보통신업계에 따르면 대부분 콘텐츠 유통업체들이 유해정보 차단을 위해  특별한 노력을 기울이고 있다. 유튜브의 경우 미성년 자녀에게는 ‘제한 모드’를 사용하게 하라고 권한다. 동영상의 제목과 세부 정보 등을 바탕으로 선정성, 폭력성 등이 높은 유해한 콘텐츠를 일부 걸러준다.

보다 효과적인 콘텐츠 관리를 위해 유튜브는 2017년 6월, 머신러닝 알고리즘 적용을 선택했다. 이 AI는 영상 내 신호를 모니터링해 문제 콘텐츠를 빠르게 판단하고 이를 최종 결정자인 검토인에게 알리게 된다.

2017년 4분기에만 800만 개 이상의 영상을 삭제했다고 유튜브 측은 밝혔다. 하루 평균 8만9천 건 꼴로 유해 동영상을 걸러낸 셈이다. 삭제된 영상 중 670만 건이 AI의 분류에 의한 것이었고, 그 중 76%가 조회수 10 미만일 때 삭제됐다.

유튜브에 이어 페이스북도 스트리밍 콘텐츠 중 유해 게시물을 실시간으로 걸러내겠다고 밝혔다. 해외 유력 매체들은 지난 26일, 페이스북의 인공지능(AI) 수석엔지니어 얀 르쿤이 프랑스 파리에서 열린 ‘비바 테크놀로지 콘퍼런스’에서 독자적 머신러닝 프로세서 개발 계획을 밝히며 “페이스북이 살인 등 흉악범죄나 자살 자해 장면 들을 담은 라이브 스트리밍 콘텐츠를 실시간으로 걸러낼 칩을 개발하고 있다”고 밝혔다고 전했다.

페이스북은 앞서 “대규모 인력 고용을 통해 나쁜 콘텐츠를 걸러내겠다”는 대안을 발표한 바 있으나 현재의 막대한 온라인 데이터 규모는 인간의 노동력으로 해결하기 어려운 수준이라는 것이 업계 내 중론이다.

인공지능을 활용한 실시간 모니터링 시스템이 효율적으로 가동되기 위해서는 상당한 컴퓨팅 파워가 요구되기 때문에 관련 기술의 개발도 여전히 진행 중이다. 고효율 칩 개발에는 인텔, 삼성, 엔비디아 등과 협력할 가능성도 점쳐지고 있다.

아프리카 등 국내 업체들의 경우에도 자체적인 가이드라인을 바탕으로, 상시 모니터링을 시행하고 있지만 아직은 인력에 기대고 있는 부분이 많아 사각지대 문제에 대한 해결이 필요한 상태다. 한 업계 관계자는 “국내 업체들도 유해 콘텐츠를 식별해내기 위한 딥러닝 시스템을 구축할 필요가 있으며, 신속한 삭제 처리를 위해 방송통신심의위원회 등과의 협의를 통한 제도 마련이 필요하다”고 말했다.

김민혜 기자 kmh@sporbiz.co.kr