'더 진짜 같은 가짜' 딥페이크, 기술 아닌 사람이 문제

김윤명 상명대 특임교수 

 

다양한 산업 활용되려면 '오·남용' 대응 법안 뒤따라야

선거과정에서 후보자들의 연설 방식과 연설 내용은 유권자들의 마음을 움직이곤 합니다. 물론 선거가 아니더라도, 대중과 교감해야하는 정치인이나 유명인들의 연설은 중요합니다. 

<킹스스피치>라는 영화가 있습니다. 연설을 못해 대중 앞에 나서는 것을 무척 힘들어하는 왕위 계승자가 연설 장애를 극복해가는 과정이 줄거리입니다. 아마, 대중 앞에서 자신의 의견을 논리 정연하게 주장하는 일이 많은 사람들에게 쉬운 일은 아닐 것입니다.

영화 킹스스피치 한 장면. (사진=구글검색)

딥페이크, 많은 산업 분야에서 활용될 기술

이제는 이러한 문제를 기술을 통해 극복할 수 있습니다. 인공지능 기술을 활용해 연설 내용과 제스처를 합성하면, 떨리거나 실수하지도 않을 것입니다. 다만, 이러한 인공지능 기술은 연설자의 본질은 아닙니다. 도구적인 활용일 뿐입니다.

그런데 대중은 합성된 기술로 구현된 인간의 본질을 보지는 못합니다. 이런 점에서 인공지능이 활용되는 경우, 대중은 본질을 볼 수 있는 또다른 능력을 길러야할 지도 모르겠습니다.

20대 대통령 선거 때도 'AI윤석열' 'AI이재명'이 등장하고 각 후보 캠프에서는 인공지능을 할용한 연설광고도 있었습니다. 다행히 선거법에선 인공지능을 활용할 경우, 표시를 의무화하고 있습니다. 인공지능을 활용하고도 표시가 없으면 선거법 위반에 해당됩니다.  

위에서 예를 든 게 딥페이크입니다. 인공지능을 활용하여 동영상을 만들어내는 기술을 말합니다. 딥페이크는 딥러닝 알고리즘과 가짜를 의미하는 페이크(fake)의 합성어입니다. 적대관계생성신경망(GAN) 기술을 활용하여 사진이나 영상, 음성 등을 원본에 겹치거나 또는 생성하는 것입니다. 

딥페이크(Deepfake) 합성 장면.  (출처=구글 검색 / 2022)

딥페이크에 사용되는 GAN은 이미지 식별 기술을 이용해 정교한 이미지를 만드는 알고리즘과 제작된 이미지 진위 여부를 판단하는 알고리즘이 결합되어 있습니다. 두 알고리즘이 서로 대립하며 차이점을 분석하고, 스스로 학습하며 진짜 같은 가짜 영상으로 만들어낸 것을 통칭하여 딥페이크라고 합니다. 

인공지능 분야에서도 특허출원 건수가 급증하고 있습니다. 딥페이크 기술도 마찬가지입니다. 수많은 기술중 하나에 불과하다고 볼 수 있습니다. 영화나 영상 분야뿐만 아니라 의료 미디어 등 다양한 산업 분야에서 활용할 수 있도록 개발되고 있습니다. 

가상인간이 미디어에 등장한 지는 꽤 오래됐습니다. 최근에는 광고에도 다양하게 활용되고 있습니다. 광고에 유명 연예인들을 등장시키는 건 친숙한 이미지를 이용해 광고 흡인력을 높이기 위한 것입니다. 가상인간은 아직은 낯선 편이라 유명 연예인 보다 광고 효과 측면에서 떨어질 수 있습니다. 하지만 노출 빈도를 높여 인지도가 높아지면, 광고흡인력도 높아질 것입니다.  

더욱이 가상인간은 24시간 활동이 가능합니다. 인공지능이 인간을 대신할 이유는 24시간 일할 수 있다는 점과, 인간의 단순한 노동을 대신함으로써 인간은 잘 할 수 있는 분야에 집중할 수 있도록 한다는 점입니다. 새로운 기술을 도입될 때 으레 등장하는 논리이기도 합니다. 

가상인간인 로지. (출처=신한은행/2022 )

성범죄 악용 등 부작용 막을 대책도 함께 마련돼야

그런데, 문제는 이런 선한 의도와 달리 이를 이용하는 인간의 심리에서 나옵니다. 딥페이크도 마찬가지입니다. 악의적인 사용인 경우입니다. 유명인의 초상을 사용해 전혀 의도하지 않은 상황을 연출하는 것입니다. 정치적으로 민감한 사항에 대해 악의적인 딥페이크는 당사자는 물론, 다양한 분야에 영향을 미치기 때문에 허용하기 어려운 사회악입니다. 

그렇다면, 특허 출원 과정에서 딥페이크 기술을 거절하면 되는 것 아니냐는 생각을 할 수도 있습니다. 

하지만 특허제도 자체는 기술의 진보를 목적으로 하고 있습니다. 특허법은 발명을 보호·장려하고 그 이용을 도모함으로써, 기술 발전을 촉진시키는 게 목적입니다. 그래서 기술 자체가 악의적인 것이 아니라면 특허에서 거절될 이유가 없습니다.

딥페이크가 가짜뉴스를 생성하고 유포하는데 이용되고 있으나, 순기능이 있는 기술이기 때문에 특허법에서 특허등록을 거절하거나 등록된 특허를 무효화할 수는 없을 것입니다. 다만, 선거법처럼 인공지능이 연설을 하는 경우 표시를 하도록 하거나 악의적인 활용일 땐 유통을 금지하거나 처벌하는 방법도 고려할 수 있을 것입니다. 

음란물에도 사용되고 있기 때문에 딥페이크법으로 알려진 성폭력범죄의 처벌 등에 관한 특례법을 개정하기도 했습니다. 딥페이크 형태의 음란 영상물 제작과 유통을 처벌하는 내용을 반영한 것입니다. 영상물 등의 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금형에 처할 수 있도록 규정하고 있습니다. 영리를 목적으로 정보통신망을 이용해 이와 같은 짓을 했다면 7년 이하의 징역으로 가중처벌합니다.

기술의 발전으로 나타나는 사회문제는 기술 자체의 문제라기 보다는 기술을 활용하는 사람이 원인인 경우가 많습니다. 인공지능을 활용하는 경우도 마찬가지입니다. 결국, 인공지능 윤리는 인공지능에게만 적용되기보다는 인공지능을 활용하는 사람에게도 적용되어야할 윤리라는 점을 딥페이크와 관련된 이슈에서 알 수 있습니다. 딥페이크 기술을 다 방면으로 활용하는 시대를 맞으려면 악용하는 사람을 막을 방지 대책과 처벌 등 대응 법안 마련도 신속하게 뒤따라야 합니다.

김윤명은 경희대에서 지식재산법으로 박사학위를 받았다. 네이버에서 정책수석으로, 국회에서 보좌관으로 일했다. 소프트웨어정책연구소에서 SW‧AI법을 공부‧연구했다. 현재는 상명대학교 특임교수로 있으며, 「블랙박스를 열기 위한 인공지능법」(2022, 박영사), 「게임법」(2021, 홍릉) 등의 책을 썼다. 남도의 땅끝 해남이 고향인 그는 지금은 물 맑은 양평에서 살고 있다.