빛을 이용해 가짜 영상을 찾아내는 새로운 인공지능 기술이 개발됐다. 한 번에 15개의 영상을 분석하면서도 약 98%의 정확도를 기록해 갈수록 정교해지는 딥페이크를 빠르고 적은 에너지로 걸러낼 가능성을 보여줬다. [사진=AI 생성 이미지] 빛이 지나가는 동안 가짜 영상을 찾아낸다
미국 캘리포니아대학교 로스앤젤레스 연구진은 빛의 움직임을 계산에 활용하는 새로운
미국 캘리포니아대학교 로스앤젤레스 연구진은 빛의 움직임을 계산에 활용하는 새로운 딥페이크 탐지 장치를 개발했다.
기존 인공지능은 주로 컴퓨터 안에서 수많은 계산을 반복하며 영상의 진위를 판단한다. 하지만 검사해야 할 영상이 많아질수록 처리 시간과 전력 사용량도 커지기 마련이다.
새로운 장치는 접근 방식이 다르다. 먼저 영상의 색과 움직임, 화면 속 특징을 간단한 정보로 압축한다. 이후 이 정보를 빛의 형태로 바꿔 특수한 광학 장치에 통과시킨다.
빛이 장치 안을 지나며 퍼지고 서로 겹치는 과정 자체가 계산의 일부를 대신한다. 덕분에 여러 영상을 하나씩 검사하는 대신 동시에 분석할 수 있다.
실험에서는 한 번에 15개의 영상을 검사해 평균 97
실험에서는 한 번에 15개의 영상을 검사해 평균 97.79%의 정확도를 기록했다. 특히 가짜 영상을 실제 영상으로 잘못 판단하는 비율은 약 0.14%에 불과했다.
동시에 검사하는 영상을 18개로 늘려도 정확도는 96.13%를 유지했다. 최신 AI가 만든 영상도 구별했다
연구진은 기존 딥페이크뿐 아니라 구글의 영상 생성 인공지능인 비오 쓰리가 만든 영상으로도 실험했다.
그 결과 장치를 조금만 추가 조정했는데도 처음 접하는 비오 쓰리 영상에서 94.80%의 탐지 정확도를 보였다.
새로운 생성형 인공지능이 등장하더라도 대응할 가능성을 보여준 것이다.
보안 측면에서도 특징이 있다
보안 측면에서도 특징이 있다.
일부 계산이 컴퓨터 프로그램이 아니라 실제 빛의 움직임과 광학 장치에서 이뤄지기 때문에 공격자가 내부 작동 방식을 복제하거나 탐지 장치를 속이기 어렵다는 설명이다.
영상에 잡음이 생기거나 화면이 흐려지고 압축되는 상황에서도 비교적 안정적으로 작동했다.
또 빛을 통과시키는 특수한 층을 추가하면 전력 사용량을 크게 늘리지 않고도 더
또 빛을 통과시키는 특수한 층을 추가하면 전력 사용량을 크게 늘리지 않고도 더 복잡한 분석을 수행할 수 있다.
다만 연구진은 이 기술이 기존 디지털 탐지기를 완전히 대체하기보다는 첫 번째 검사 단계로 활용되기를 기대하고 있다.
수많은 영상을 빛으로 빠르게 검사한 뒤 가짜일 가능성이 있는 영상만 골라 더 정밀한 인공지능에 넘기는 방식이다.
실제 대규모 서비스에서도 연구실과 같은 성능을 낼 수 있는지는 추가 검증이
실제 대규모 서비스에서도 연구실과 같은 성능을 낼 수 있는지는 추가 검증이 필요하다. 출처: ScienceDaily [관련 글 더보기] AI 글 탐지기는 믿을 만할까?
같은 글이 92.5%와 2%로 갈렸다 사람이 쓴 글과 AI 글을 구별하기 위해 문장 표현이나 특정 단어를 분석하는 사람이 늘고 있지만, 이런 ...
- 미국 캘리포니아대학교 로스앤젤레스 연구진은 빛의 움직임을 계산에 활용하는 새로운 딥페이크 탐지 장치를 개발했다.
- 실험에서는 한 번에 15개의 영상을 검사해 평균 97.79%의 정확도를 기록했다.
- 보안 측면에서도 특징이 있다.
댓글 쓰기