입력 2021.2.17.

BBC 원문 2021.2.17.

[시사뷰타임즈] 몇 달 전, 한국 전역의 TV 시청자 몇 백 만명이 최신 소식들을 들으려고 MBN 방송을 시청하고 있었다.

이 방송 시간을 시작하면서, 정규 뉴스 앵커 김주하는 그날의 머릿기사들을 쭈욱 말하기 시작했다. 2020년 말에 대한 몇 가지 목록들이었으며 상대적으로 정상적이었는데, 코로나-19 및 이 전세계 유행병에 대한 대응 내용들이 전부였다.

하지만, 이 특별한 게시판은, 사실상 김주하가 화면에 없었기 때문에 정상과는 거리가 먼 것이었다. 실제 김주하는 인공지능이 합성한 김주하 형상물로 대체돼 있었는데, 김주하의 목소리, 손짓 그리고 얼굴 표정 등을 완벽히 반영하는 것이 목표였다.

시청자들은 사전에 이런 식으로 할 것이라는 것을 고지 받았고, 한국 언론은 사람들이 이러한 방송을 시청한 뒤 엇갈린 의견을 내놓는 것에 대해 보도했다. 일부 사람들은 김주하 형상이 얼마나 사실적인지에 대 놀라워했고, 다른 사람들은 진짜 김주하가 자신의 직업을 잃을 지도 모른다고 우려했다.

MBN은 일부 속보 등의 뉴스를 전할 때 인공지능 합성 형상을 계속 사용할 것이라고 말하는 한편, 이 인공지능 기술을 보유한 한국 회사 ‘돈두뇌 (Moneybrain) 는 자사는 이제 중국이나 미국 등의 이 기술을 구입할 언론을 물색해보게 될 것이라고 했다.

대개의 사람들은 인공지능 합성 형상에 대해 생각할 때, 유명인들의 가짜 영상을 상상한다. 사실, 얼마 안 된 불과 지난주에도 이런 식으로 만들어진 탐 크루즈의 가짜 영상 하나가 틱톡에 등장하여 전 세계 머릿기사를 장식한 일이 있었다.

구어체 용어인 ‘깊숙히가짜 (deepfakes)’ 라는 말을 둘러싼 부정적으로 함충된 말들이 있음에도 불구하고, -사람들은 보통은 “가짜” 라는 말과 연관되길 원하지 않으므로- 이 기술은 점점 더 상업적으로 이용되고 있는 중이다.

좀더 점잖게 ‘인공지능이 생성시킨 영상들, 또는 합성 언론이라고 불리지만, 이러한 방식이 뉴스, 연예 그리고 교육 등의 분야들을 비롯하여 급속시 성장하고 있으며 이 기술은 더더욱 세련되어지고 있는 중이다.

일찌감치 상업적으로 채택한 회사들 중 하나가 씬쎄시아인데, 이 회사는 런던에 있으며, 지구촌 광고사인 WPP 및 사업 상담 회사인 ‘액쎈츄어’ 등이 원하는 것을을 위해 이 회사가 창조한 인공지능으로 움직이는 기업훈련용 영상이었다.

씬쎄시아 대표이자 공동설립자 빅터 리파벨리는 “이 기술은 미래의 내용꺼리를 창조하는 것이다.” 라고 했다.

씬쎄시아 체제를 이용하여 인공지능이 생성시킨 영상을 만들려면, 사람들은 여러 개의 아바타, 사람들이 그 아바타들이 말하기 바라는 언어 유형 등을 그냥 선택하기만 하면 되고. 그게 전부다.

리파벨리는 이러한 상황은 지구촌 회사들이 회사 내부에서 쓸 훈련 과정 등을 위한 영상들을 다른 언어들로 대단히 쉽사리 만들 수 있음을 뜻한다고 말한다.

그는 “누가 북미에 직원이 3,000명인 창고를 갖고 있다고 합시다.” 라고 한 뒤 “직원들 중 일부는 영어로 말하지만, 더 많은 직원들은 스페인어가 더 친숙할 수도 있다.” 고 했다.

“그가 직원들에게 복잡한 정보로 소통을 해야만 할 때, 4쪽짜리 PDF은 썩 좋은 방식이 아니다. 영어나 스페인어로 된 2~3분짜리 영상이 훨씬 더 나을 것이다.” 라고 했다.

“그러한 영상들을 모두 하나하나 녹화해야만 한다면, 그건 대규모 작업이다. 이제 우린 그러한 일을, 대본을 쓰는 사람에게 시간이 얼마나 걸리건 간에, (아주 적은) 생산원가로 할 수가 있다. 이것은 오늘날 이 기술이 어떻게 사용되는 지 아주 꽤나 좋은 본보기가 된다.”

인공지능 합성 영상 뒤를 추적하는 미국의 사이버 보안 회사 지로우확스의 수석 기술 담당관 마잌 프라이스는 이러한 영상들의 상업적 이용이 “해를 거듭할수록 상당히 증가하고 있지만, 정확한 숫자를 분명히 정의하긴 힘들다.” 고 말한다.

하지만, 미국의 인공지능 기술 제공사인 베리토운의 최고 책임자 챗 스틸벍은 사악한 인공지능 합성 영상에 대한 우려가 커지면서 정당한 기술 및 상업적 이용에 대한 투자도 거둬들이고 있다고 말한다.

“가짜영상이라는 용어에는 분명히 이 분야에 대한 자본 투자에 있어서 부정적인 반응이 있어왔다.” 고 그는 말하면서 “언론과 소비자들이, 그렇기에 똑바르게, 관련된 위험을 명백하게 볼 수 있다.

“이러한 측면이 이 기술에 돈을 덕지덕지 투자하는 사람들은 물론이고 기업들을 분명히 방해해왔다.”

‘새로운 기술 경제’ 는 기술적 쇄신이 어떻게 새로 떠오로는 경제적 경치 모습을 갖추게 하는 지에 대해 일련의 탐구를 하고 있다.

다른 등장 인물이나 사람의 목소리를 사용자들이 새로 만들어 낼 수 있도록 해주는 인공지능 회사인 모듈레잇의 최고책임자 마잌 파파스는 더 널리 상업적 합성 언론 분야에 있는 회사들은 “정말이지 윤리를 챙겨야 한다.” 고 말한다.

그는 “이러한 사람들이 얼마나 많은 양의 생각을 쏟아 붓는지를 보면 놀랍다.” 고 말하면서 “그러한 것은 투자자들도 그러한 면에 대해 신경 쓰이에 개홨다. 투자자들은 윤리 정책들에 대해 그리고 그에 대해 관련자들이 어떻게 생각하는 지에 대해 묻고 있다.” 고 했다.

뉴캐슬 법학 전문대학원의 쇄신과 사회를 가르치는 법학교수 릴리안 엗워즈 (여) 는 인공지능합성 영상 전문가이다. 릴리안은 전면적으로 다뤄지지 않은 이 기술의 상업적 사용을 둘러싼 한 가지 문제는 이러한 영상들에 대한 권리를 누가 소유하느냐는 것이라고 말한다.

“예를 들어, 남자 배우였던 스팁 맥퀸 또는 래퍼 가수였던 투팩 등등의 죽은 사람이 이용되는 상태라면, 그들의 가족이 이 영상을 소유하여 이 영상으로부터 수입을 가져가야 하는지의 여부에 대한 논의가 현재 진행 중이다.” 라고 릴리안은 말한다.

“이 문제는 현재 나라마나 다르다.”

버지니아 대학교 응용 윤리 명예 교수인 데보라 좐슨은 최근 “인공지능합성 영상에 대해 뭘 해야 하는가?” 라는 제목의 기사를 공동으로 썼다.

데보라는 “가짜영상들은 여러 제도 및 시각적 경험을 저해하는 더 큰 허의 정보 문제의 일부인바, 우린 더 이상 인터넷에서 우리가 보고 듣는 것에 대해 신뢰할 수가 없다.” 고 했다.

“꼬리표를 붙여놓는 것이 아마도 가짜영상들에 대한 가장 간단하면서도 가장 중요한 맞대응 방안일 것인바, 만일 시정차들이 자신이 시청하고 있는 것이 조작됐다는 것을 알아차리면, 속을 가능성도 그만큼 더 적어진다.”

악스펏 (옥스포드) 대학교 고위 동료 연구원인 샌드라 웍타 (여) 교수는 가짜영상 기술은 “앞서려고 경쟁을 벌이고 있다.” 고 말한다.

“지난 주에 탐 크루즈 영상을 봤다면, 좋은 기술이 얼마나 쌓아지고 있는지를 알 수 있다.” 고 샌드라는 말하면서 “4년 전에 나온 버락 오바마 가짜영상보다 훨씬 더 현실적이었다.” 고 했다.

“우린 기술에 대해 너무 두려워해서는 안되며, 이런 기술에 대해 미묘한 차이를 갖고 접할 필요가 있다. 그렇다. 증오스러운 말 및 보복을 위해 만든 외설 영상 등 나쁘고 위험스런 것들에 대해선 엄중 탄압할 법이 있어야 한다. 개개인들과 사회가 그런 것들에게서 보호를 받아야 하기 때문이다.

“그러나 우린 풍자 또는 표현의 자유를 위해서도 가짜영상들을 전면적으로 금지를 해선 안된다. 그리고 이 기술에 대한 상업적 이용의 증가는 매우 유망한 것인 바, 여러 영화들을 다른 언어들로 바꾸거나, 또는 교육적인 영상을 창안해 내는 게 그것이다.

캘러포녀 남부의 쇼아 재단이 인공지능으로 생성시킨 영상을 교육적으로 이용한 한 예인데, 이 재단에는 대량학살 생존자들의 증언이 담긴 55,000편 이상의 영상이 있다.

이 재단의 ‘증언의 차원들’ 특별계획은 방문객들이, 사전에 녹화된 영상 대담에서 생존자들의 대답을 실시간으로 들을 수 있게 해주는, 질문을 할 수 있게 해준다.

스틸벍은 미래에 이 기술은 손주들이 인공지능으로 만든 작고한 연세든 가족들과 대화를 할 수 있게 해 줄 것이라고 말한다, “우리 사회에 대해 어떻게 생각하느냐를 볼 때, 이건 획기적인 것이라고 난 생각한다.”

'Deepfake is the future of content creation'

 

By Bernd Debusmann Jr

Published6 hours ago

 

IMAGE COPYRIGHTMBN

image captionSouth Korean viewers were told in advance about the deepfake Kim Joo-Ha, pictured here

 

A few months ago, millions of TV viewers across South Korea were watching the MBN channel to catch the latest news.

 

At the top of the hour, regular news anchor Kim Joo-Ha started to go through the day's headlines. It was a relatively normal list of stories for late 2020 - full of Covid-19 and pandemic response updates.

 

Yet this particular bulletin was far from normal, as Kim Joo-Ha wasn't actually on the screen. Instead she had been replaced by a "deepfake" version of herself - a computer-generated copy that aims to perfectly reflect her voice, gestures and facial __EXPRESSION__s.

 

Viewers had been informed beforehand that this was going to happen, and South Korean media reported a mixed response after people had seen it. While some people were amazed at how realistic it was, others said they were worried that the real Kim Joo-Ha might lose her job.

 

MBN said it would continue to use the deepfake for some breaking news reports, while the firm behind the artificial intelligence technology - South Korean company Moneybrain - said it would now be looking for other media buyers in China and the US.

 

When most people think of deepfakes, they imagine fake videos of celebrities. In fact, only last week one such bogus - but very lifelike - video of Tom Cruise made headlines around the world after it appeared on TikTok.

 

The deepfake TikTok account

IMAGE COPYRIGHTTIKTOK

image captionThe deepfake video of Tom Cruise was ultimately removed from TikTok, but the account that placed it remains there

 

Despite the negative connotations surrounding the colloquial term deepfakes (people don't usually want to be associated with the word "fake"), the technology is increasingly being used commercially.

 

More politely called AI-generated videos, or synthetic media, usage is growing rapidly in sectors including news, entertainment and education, with the technology becoming increasingly sophisticated.

 

One of the early commercial adopters has been Synthesia, a London-based firm that creates AI-powered corporate training videos for the likes of global advertising firm WPP and business consultancy Accenture.

 

"This is the future of content creation," says Synthesia chief executive and co-founder Victor Riparbelli.

 

To make an AI-generated video using Synthesia's system you simply pick from a number of avatars, type in the word you wish for them to say, and that is pretty much it.

 

Synthesia's deepfake platform

IMAGE COPYRIGHTSYNTHESIA

image captionSynthesia's users pick from a number of avatars

 

Mr Riparbelli says this means that global firms can very easily make videos in different languages, such as for in-house training courses.

 

"Let's say you have 3,000 warehouse workers in North America," he says. "Some of them speak English, but some may be more familiar with Spanish.

 

"If you have to communicate complex information to them, a four-page PDF is not a great way. It would be much better to do a two or three-minute video, in English and Spanish.

 

"If you had to record every single one of those videos, that's a massive piece of work. Now we can do that for [little] production costs, and whatever time it'll take someone to write the script. That pretty much exemplifies how the technology is used today."

 

Mike Price, the chief technology officer of ZeroFox, a US cyber-security company that tracks deepfakes, says their commercial use is "growing significantly year over year, but exact numbers are difficult to pin down".

 

However, Chad Steelberg, chief executive of Veritone, a US AI technology provider, says that the increasing concern about malicious deepfakes is holding back investment in the technology's legitimate, commercial use.

 

"The term deepfakes has definitely had a negative response in terms of capital investment in the sector," he says. "The media and consumers, rightfully so, can clearly see the risks associated.

 

"It has definitely hindered corporations as well as investors from piling into the technology. But I think you are starting to see that crack."

 

New Tech Economy is a series exploring how technological innovation is set to shape the new emerging economic landscape.

 

Mike Papas, chief executive of Modulate, an AI firm that allows users to create the voice of a different character or person, says that firms in the wider commercial synthetic media sector "really care about ethics".

 

"It amazing to see the depth of thought these people put into it," he says. "That has ensured that investors also care about that. They're asking about ethics policies, and how you're thinking about it."

 

Lilian Edwards, professor of law, innovation and society at Newcastle Law School, is an expert on deepfakes. She says that one issue surrounding the commercial use of the technology that hasn't been fully addressed is who owns the rights to the videos.

 

"For example, if a dead person is used, such as [the actor] Steve McQueen or [the rapper] Tupac, there is an ongoing debate about whether their family should own the rights [and make an income from it]," she says.

 

"Currently this differs from country to country."

 

Deborah Johnson, professor of applied ethics, emeritus, at the University of Virginia, recently co-wrote an article entitled "What To Do About Deepfakes?".

 

She says: "Deepfakes are part of the larger problem of misinformation that undermines trust in institutions and in visual experience - we can no longer trust what we see and hear online.

 

"Labelling is probably the simplest and most important counter to deepfakes - if viewers are aware that what they are viewing has been fabricated, they are less likely to be deceived."

 

Prof Sandra Wachter, a senior research fellow in AI at Oxford University, says that deepfake technology "is racing ahead".

 

Sandra Wachter

IMAGE COPYRIGHTSANDRA WACHTER

image captionProf Sandra Wachter says the response to deepfakes needs to be "nuanced"

 

"If you watched the Tom Cruise video last week, you can see how good the technology is getting," she says. "It was far more realistic than the President Obama one from four years ago.

 

"We shouldn't get too fearful of the technology, and there needs to be a nuanced approach to it. Yes there should be laws in place to clamp down on bad and dangerous things like hate speech and revenge porn. Individuals and society should be protected from that.

 

"But we shouldn't have an outright ban on deepfakes for satire or freedom of __EXPRESSION__. And the growing commercial use of the technology is very promising, such as turning movies into different languages, or creating engaging educational videos."

 

One such educational use of AI-generated videos is at the University of Southern California's Shoah Foundation, which houses more than 55,000 video testimonies from Holocaust survivors.

 

A Holocaust survivor with his avatar at the Shoah Foundation

IMAGE COPYRIGHTRON GOULD STUDIOS

image captionA Holocaust survivor with his avatar at the Shoah Foundation

 

Its Dimensions In Testimony project allows visitors to ask questions that prompt real-time responses from the survivors in the pre-recorded video interviews.

 

Mr Steelberg says that in the future such technology will enable grandchildren to have conversations with AI versions of deceased elderly relatives. "That's game changing, I think, for how we think about our society."

 

[기사/사진: BBC]