[ 매드타임스 최영호 기자] 포레스터는 최근 보고서 "딥페이크: CMO가 무시할 수 없는 숨겨진 위협(Deepfakes: The Hidden Threat CMOs Can’t Ignore)에서 딥페이크 기술은 기업, 특히 B2B 부문의 마케팅 리더에게 심각한 위협을 가하고 있다고 밝혔다.
보고서는 실제 개인을 인위적으로 시청각적으로 가장하는 딥페이크가 기업 평판과 운영을 점점 더 위협하고 있다고 강조했다. 주목할 점은 현재 조직의 20%만이 이러한 시나리오를 처리하기 위한 사고 대응 및 커뮤니케이션 계획을 수립해 놓고 있으며, 나머지 80%는 상당히 노출되어 있다고 지적했다.
포레스터의 수석 분석가인 캐런 트랜은 "딥페이크는 먼 위협이 아니라 기업 임원을 표적으로 삼고, 사업 운영을 방해하고, 이해관계자의 신뢰를 침식할 수 있기 때문에 장기적인 반향을 일으킬 가능성이 있는 현재의 위험다."라고 말했다. 그녀는 CMO가 대비를 우선시하고 강력한 위기 대응 전략을 개발해야 할 필요성을 강조했다.
생성형 AI의 발전으로 촉진된 딥페이크 기술의 진화는 악의적인 의도를 가진 사람들이 이를 더 쉽게 이용할 수 있게 만들고 있다. 이 기술은 기업 내 주요 인물을 사칭하고, 사기 행위를 허가하고, 오해의 소지가 있는 정보를 유포하는 데 쉽게 오용되어 상당한 혼란을 일으킬 수 있다. 포레스터는 딥페이크 위험을 완화하기 위해 마케팅 리더는 다음 요소를 이해해야 한다고 밝혔다.
1. 일반적인 사악한 동기. 딥페이크 제작은 종종 악의적인 동기에 의해 이루어진다. 불만이 있는 직원은 딥페이크를 사용하여 복수를 추구하고, 내부 정보를 활용하여 가짜를 특히 설득력 있게 만들 수 있다. 경쟁자와 비즈니스 파트너는 협상에서 영향력을 얻거나 상대방을 약화시키기 위해 딥페이크를 사용하여 불신과 긴장된 관계로 이어질 수 있다. 사이버 범죄자는 재정적 이익을 위해 딥페이크를 만들어 해로운 가짜 비디오를 공개하겠다고 위협하거나 임원을 사칭하여 사기 거래를 승인할 수 있다.
2. 진실과 믿을 수 있는 것 사이의 모호한 경계. 허황된 진실 효과와 반복 효과는 딥페이크가 청중을 속이는 데 중요한 역할을 하는 심리적 현상이다. 이러한 효과는 사람들이 실제 진실 여부와 관계없이 반복적으로 노출된 후 거짓 정보를 사실이라고 믿는 것을 말한다. 잘 만들어진 가짜는 여러 번 보면 진짜로 받아들여지기 시작할 수 있다. 소셜 미디어 플랫폼은 잘못된 정보를 빠르게 퍼뜨려 사실과 허구를 구별하기 어렵게 만들어 이 문제를 증폭시킨다. 강력한 브랜드 평판은 딥페이크의 믿을 수 있는 것에 맞서는 데 도움이 될 수 있지만, 상대적으로 모호하기 때문에 사실과 허구의 문제가 증폭되기 때문에 덜 알려진 임원이 있는 회사는 이러한 위험에 더 취약하다.
3. 긍정적인 딥페이크와 윤리적 딜레마. 딥페이크는 비즈니스 맥락에서도 긍정적으로 사용될 수 있다. AI 에이전트와 임원 클론은 매우 사실적인 고객 서비스 담당자 역할을 하거나 실제 임원을 대신하여 연설을 하고 회의에 참석할 수 있다. 적절한 투명성과 공개가 없다면 이러한 긍정적인 딥페이크는 고객과 이해 관계자를 오도하여 신뢰를 훼손할 수 있다.
포레스터는 마케팅 리더들 사이에서 준비 상태의 몇 가지 우려스러운 격차를 강조했다. 그들 중 5분의 1만이 조직이 딥페이크 기술의 최신 개발에 대해 잘 알고 있다고 보고했고, 단 17%만이 소셜 리스닝 또는 콘텐츠 검증 시스템을 설치했다. 또한, 마케팅 임원의 68%는 딥페이크로 인한 직원 사칭과 허위 여론 형성에 대한 우려를 표명했지만, 이러한 문제에 대처하기 위한 구체적인 행동 계획이 없는 임원이 많았다.
포레스터 보고서에서 특히 놀라운 통계는 80%의 회사가 전담 딥페이크 위기 대응 계획을 가지고 있지 않다는 것이다. 이러한 감독 부족으로 인해 기업은 상당한 평판 및 운영적 영향에 취약해진다.
딥페이크의 잠재적인 재정적 영향도 점점 더 우려되는 사안으로, 설문 조사에 참여한 조직의 74%가 사기 거래 및 피싱 공격과 같은 사기로 인한 재정적 피해를 우려하고 있다. 그럼에도 불구하고 그러한 위협에 대한 충분한 대책을 시행한 곳은 4분의 1에 불과하다.
딥페이크를 탐지하고 대응할 수 있는 AI 기반 솔루션이 발전했음에도 불구하고 이러한 기술을 도입한 기업은 30%도 되지 않아 기술적 준비 수준에 심각한 격차가 있음을 보여준다.
또 다른 문제는 대중의 신뢰가 약화되고 있다는 것이다. 임원의 약 65%가 딥페이크가 브랜드의 신뢰성을 손상시킬 수 있다는 것을 인정했습니다. 그러나 소비자를 교육하거나 이러한 디지털 위협에 대한 회복력을 강화하기 위한 선제적 조치를 취하는 산업은 거의 없다.
트랜은 자신의 블로그 게시물에서 기업이 새로운 위협으로부터 브랜드를 보호하기 위해 더욱 강력한 내부 파트너십을 구축하고 딥페이크 대비를 우선시해야 할 필요성에 대해 언급했다.
1. 위협을 우선시한다. 딥페이크를 중대한 위험으로 인식하고 이를 완화하기 위한 리소스를 할당한다. 위험을 평가하고 기능 리더, CISO 및 법무팀과 협력하여 모든 위협에 대처해야 한다.
2. 강력한 위기 대응 계획을 수립한다. 딥페이크 시나리오를 포함하는 위기 커뮤니케이션 전략을 개발하고 연습한다. 정기적으로 시뮬레이션을 수행하여 준비 상태를 보장하고 대응 전략의 격차를 파악한다.
3. 강력한 브랜드를 확립하고 유지한다. 브랜드는 딥페이크 위협을 헤쳐나가야 할 뿐만 아니라 모든 미디어에 대한 회의주의가 있는 "깊은 의심"이 증가하는 시대에 신뢰를 구축해야 한다. 강력하고 신뢰할 수 있는 브랜드는 더 큰 신뢰성을 갖고 부정적인 딥페이크 사건에서 더 빨리 회복할 것이다.
트랜은 CMO가 딥페이크 대비를 우선시하고, 견고한 대응 계획을 수립하고, 강력한 내부 파트너십을 육성함으로써 이 새로운 위협으로부터 브랜드를 보호할 수 있다고 강조했다. 딥페이크 사고로 돌이킬 수 없는 피해가 발생하기 전에 지금이 행동할 때라고 덧붙였다.
