인공지능(AI) 기술을 악용한 '딥페이크(Deepfake)' 영상물이 사회 문제로 떠오르면서 이에 대응하기 위한 기술 기업들의 노력도 활발해지고 있습니다. 이로 인해 새로운 시장이 형성되고 있으며, 기업들의 기술 개발 속도가 빨라지고 있는 상황입니다.
어떤 곳들이 딥페이크 기술 악용 방지를 위한 기술 개발을 나섰을까요? 우선, 현재 경찰청과 협업해 허위 영상과 이미지를 잡아내는 기술을 공급 중인 AI 전문 기업 딥브레인AI가 있습니다. 이 회사는 영상의 진위를 5~10분 내에 판별할 수 있는 제품을 출시했는데, AI가 진짜와 합성 이미지를 학습해 합성 이미지에서만 나타나는 패턴을 찾아 진위를 분별합니다. 이 기술은 해당 제작물이 얼굴만 바꾼 페이스스왑(Faceswap)인지, 목소리를 얹은 립싱크(Lipsync)인지, 또는 아예 생성형 AI로 새로 만든 영상인지 등을 판별할 수 있는 다양한 범위를 제공합니다.
보안 업체 중 하나인 라온시큐어는 올해 하반기 중으로 딥페이크 탐지 서비스를 선보일 예정입니다. 주파수 계열 변환, 안면 추출 등 다양한 기술을 적용해 합성된 얼굴과 진짜 얼굴의 진위 여부를 가려냅니다. 라온시큐어 측은 "다양한 탐지 모델을 혼합해 쓰는 것이 특징"이라고 설명하는데요. 이 탐지 솔루션은 눈의 움직임과 입 모양 등을 중점적으로 분석해 진위를 판별합니다. 특히 눈과 입처럼 특색이 다른 객체에 대해서는 여러 탐지 모델을 활용해 정확도를 높이는 방식으로 작동합니다.
라온시큐리티는 해당 기술을 모바일 백신 애플리케이션의 신기능 중 하나로 탑재해 딥페이크 여부를 확인할 수 있도록 할 계획입니다. 추후에는 기관과 기업에서 사용할 수 있도록 응용 프로그래밍 인터페이스(API) 형태로도 제공할 예정이라고 합니다.
정부가 딥페이크의 위협을 심각하게 인식하는 가운데, 국가 연구사업을 통해 기술 개발에 나선 곳도 있습니다. 샌즈랩이 그 주인공인데요. 이 회사는 과학기술정보통신부와 정보통신기획평가원(IITP)이 발주한 '정보보호 핵심 원천기술 개발사업'의 일환으로 LG유플러스와 함께 관련 기술 개발에 착수했습니다.
샌즈랩은 AI 모델 개발에 필수적인 데이터셋을 페타바이트(Petabyte) 규모로 자체 보유하고 있어 강점을 발휘하고 있습니다. 심층 학습 기반의 알고리즘 개발, 생성적 적대 신경망 기술에 대응하는 학습 방법, 멀티모달 데이터 분석 등을 통해 딥페이크 탐지 기술 연구개발을 진행하며, 추후 정보 보호 정책에 기여할 계획을 밝혔습니다. 또한, 국민들이 쉽게 이미지를 업로드해 진위를 판단할 수 있는 베타 서비스도 출시할 예정이라고 합니다.
생성적 적대 신경망(GANs-Generative Adversarial Networks)에 주목한 회사도 있습니다. GANs는 생성 모델이 딥페이크를 만들어내면, 판별 모델이 결과물의 품질을 검증하며 정교함을 높이는 방식입니다. AI 보안 스타트업 이로운앤컴퍼니가 GANs를 활용한 솔루션 개발을 시작했는데, 이는 딥페이크의 정확성을 높이기 위해 사용되었던 판별 모델을 가짜 탐지에 활용하는 방식입니다.
이로운앤컴퍼니는 윤두식 전 지란지교시큐리티 대표가 올해 설립한 AI 보안 스타트업으로, 거대언어모델(LLM) 보안 솔루션이 주력 사업입니다. 윤 대표는 20여 년간 보안 업계에 몸담아온 경험을 바탕으로 딥페이크 탐지 기술 개발에도 나섰습니다. 다만 당장 상용화하기에는 시간이 더 걸릴 것으로 보이지만, 이러한 시도가 AI 보안 기업의 외연을 딥페이크 분야로 넓히기 위한 포석이 될 것으로 예상됩니다.
탐지에 앞서 딥페이크 활용을 원천적으로 예방하는 솔루션으로는 자라소프트가 만든 '블러미'가 있습니다. 이 서비스는 사용자가 웹사이트에 사진이나 영상을 업로드하면 AI가 자동으로 모자이크 처리를 해주는 방식으로, 사진과 영상의 악용을 막는 데 도움을 줍니다.
이처럼 다양한 기업들이 딥페이크 관련 솔루션을 선보이며 새로운 시장이 형성되는 모습입니다. 내년 정부 예산안에도 관련 예산이 포함되어 있어, 업계에서는 딥페이크 문제를 신사업 기회로 바라보는 분위기가 감지됩니다. 앞으로 딥페이크 탐지가 보안 솔루션의 한 카테고리로 자리 잡을지, 그리고 관련 기술이 어떻게 발전할지 주목됩니다.
콘텐츠 제공 : 바이라인네트워크(byline.network)
