[ 매드타임스 최영호 기자] 영국 통신 규제 기관 오프콤(Ofcom)이 온라인상 불법 콘텐츠 확산을 막기 위한 새로운 지침을 발표했다. 이번 조치는 2024년 발효된 온라인 안전법(Online Safety Act) 이행의 일환으로, 기존의 불법 해악 및 아동 보호 규범을 강화하고 빠르게 변화하는 디지털 환경에 선제적으로 대응하기 위해 마련됐다.
오프콤은 테러 관련 콘텐츠, 동의 없이 유포된 딥페이크 영상, 자살·자해 권유, 아동 성착취물 등 중대한 해악 콘텐츠에 대해 플랫폼이 보다 효과적인 탐지 및 대응 체계를 갖출 것을 요구했다. 특히 사회적 위기 상황에서 실시간 스트리밍을 통해 불법 콘텐츠가 빠르게 확산되는 사례가 늘고 있다는 점에서, 플랫폼의 알고리즘과 추천 시스템이 피해를 가중시킬 수 있다는 우려를 제기했다.
이에 따라 오프콤은 위기 상황 발생 시 불법 콘텐츠를 신속히 감지하고 사용자에게 노출되지 않도록 하는 대응 프로토콜을 마련할 것을 플랫폼에 요구했다. 검토가 완료되지 않은 콘텐츠는 추천 시스템에서 제외되어야 하며, 실시간 스트리밍 기능을 제공하는 플랫폼은 사용자가 위협 상황을 신고했을 때 이를 즉시 감지할 수 있는 시스템과 함께, 상시 대응 가능한 휴먼 모더레이터(human moderators)를 배치해 실시간 조치가 가능하도록 해야 한다고 밝혔다.
아동 대상 스트리밍 보호 조치도 강화된다. 일부 사용자가 아동의 라이브 스트리밍에 댓글을 남기거나 선물을 보내는 방식으로 접근하거나, 해당 방송을 녹화해 유포하는 사례가 확인됨에 따라, 오프콤은 이러한 기능을 차단할 것을 권고했다. 또한 최근 공개된 연령 검증 기술 가이드를 토대로 아동 사용자 보호 조치를 보다 엄격하게 적용할 것을 플랫폼에 요구했다.
불법 콘텐츠 탐지를 위한 기술적 조치도 포함됐다. 해시 매칭(hash matching) 기술을 통해 이미 알려진 테러 콘텐츠 및 딥페이크를 식별하는 한편, 아동 성착취물, 자해 유도, 사기성 콘텐츠 등 새롭게 생성되는 위협 요소에 대해서는 인공지능 기반 자동화 도구를 적극 활용할 방안이 제시됐다.
오프콤 온라인 안전 그룹 디렉터인 올리버 그리피스는 현재 주요 플랫폼들이 온라인 안전 기준을 적용받고 있으며, 위반 우려가 발생할 경우 신속한 제재 조치에 나서고 있다고 밝혔다. 그는 기술과 온라인상의 위험이 계속 진화하고 있는 만큼, 온라인 환경을 보다 안전하게 만들기 위한 추가 조치가 필요하다고 강조했다.
이번 지침안에 대한 공공 의견 수렴은 2025년 10월 20일까지 진행되며, 최종 규제안은 2026년 여름 발표될 예정이다. 오프콤은 이번 발표와 함께 온라인 안전법 이행을 위한 주요 과제들의 최신 진행 상황도 함께 공개했다.
