[문화] MBN의 가짜 김주하 방송 & 딮훼잌


 

 

입력 2021.2.17.

BBC 원문 2021.2.17.

 

[시사뷰타임즈] 몇 달 전, 한국 전역의 TV 시청자 몇 백 만명이 최신 소식들을 들으려고 MBN 방송을 시청하고 있었다.

 

이 방송 시간을 시작하면서, 정규 뉴스 앵커 김주하는 그날의 머릿기사들을 쭈욱 말하기 시작했다. 2020년 말에 대한 몇 가지 목록들이었으며 상대적으로 정상적이었는데, 코로나-19 및 이 전세계 유행병에 대한 대응 내용들이 전부였다.

 

하지만, 이 특별한 게시판은, 사실상 김주하가 화면에 없었기 때문에 정상과는 거리가 먼 것이었다. 실제 김주하는 인공지능이 합성한 김주하 형상물로 대체돼 있었는데, 김주하의 목소리, 손짓 그리고 얼굴 표정 등을 완벽히 반영하는 것이 목표였다.

 

시청자들은 사전에 이런 식으로 할 것이라는 것을 고지 받았고, 한국 언론은 사람들이 이러한 방송을 시청한 뒤 엇갈린 의견을 내놓는 것에 대해 보도했다. 일부 사람들은 김주하 형상이 얼마나 사실적인지에 대 놀라워했고, 다른 사람들은 진짜 김주하가 자신의 직업을 잃을 지도 모른다고 우려했다.

 

MBN은 일부 속보 등의 뉴스를 전할 때 인공지능 합성 형상을 계속 사용할 것이라고 말하는 한편, 이 인공지능 기술을 보유한 한국 회사 돈두뇌 (Moneybrain) 는 자사는 이제 중국이나 미국 등의 이 기술을 구입할 언론을 물색해보게 될 것이라고 했다.

 

대개의 사람들은 인공지능 합성 형상에 대해 생각할 때, 유명인들의 가짜 영상을 상상한다. 사실, 얼마 안 된 불과 지난주에도 이런 식으로 만들어진 탐 크루즈의 가짜 영상 하나가 틱톡에 등장하여 전 세계 머릿기사를 장식한 일이 있었다.

 

구어체 용어인 깊숙히가짜 (deepfakes)’ 라는 말을 둘러싼 부정적으로 함충된 말들이 있음에도 불구하고, -사람들은 보통은 가짜라는 말과 연관되길 원하지 않으므로- 이 기술은 점점 더 상업적으로 이용되고 있는 중이다.

 

좀더 점잖게 인공지능이 생성시킨 영상들, 또는 합성 언론이라고 불리지만, 이러한 방식이 뉴스, 연예 그리고 교육 등의 분야들을 비롯하여 급속시 성장하고 있으며 이 기술은 더더욱 세련되어지고 있는 중이다.

 

일찌감치 상업적으로 채택한 회사들 중 하나가 씬쎄시아인데, 이 회사는 런던에 있으며, 지구촌 광고사인 WPP 및 사업 상담 회사인 액쎈츄어등이 원하는 것을을 위해 이 회사가 창조한 인공지능으로 움직이는 기업훈련용 영상이었다.

 

씬쎄시아 대표이자 공동설립자 빅터 리파벨리는 이 기술은 미래의 내용꺼리를 창조하는 것이다.” 라고 했다.

 

씬쎄시아 체제를 이용하여 인공지능이 생성시킨 영상을 만들려면, 사람들은 여러 개의 아바타, 사람들이 그 아바타들이 말하기 바라는 언어 유형 등을 그냥 선택하기만 하면 되고. 그게 전부다.


리파벨리는 이러한 상황은 지구촌 회사들이 회사 내부에서 쓸 훈련 과정 등을 위한 영상들을 다른 언어들로 대단히 쉽사리 만들 수 있음을 뜻한다고 말한다.

 

그는 누가 북미에 직원이 3,000명인 창고를 갖고 있다고 합시다.” 라고 한 뒤 직원들 중 일부는 영어로 말하지만, 더 많은 직원들은 스페인어가 더 친숙할 수도 있다.” 고 했다.

 

그가 직원들에게 복잡한 정보로 소통을 해야만 할 때, 4쪽짜리 PDF은 썩 좋은 방식이 아니다. 영어나 스페인어로 된 2~3분짜리 영상이 훨씬 더 나을 것이다.” 라고 했다.

 

그러한 영상들을 모두 하나하나 녹화해야만 한다면, 그건 대규모 작업이다. 이제 우린 그러한 일을, 대본을 쓰는 사람에게 시간이 얼마나 걸리건 간에, (아주 적은) 생산원가로 할 수가 있다. 이것은 오늘날 이 기술이 어떻게 사용되는 지 아주 꽤나 좋은 본보기가 된다.”

 

인공지능 합성 영상 뒤를 추적하는 미국의 사이버 보안 회사 지로우확스의 수석 기술 담당관 마잌 프라이스는 이러한 영상들의 상업적 이용이 해를 거듭할수록 상당히 증가하고 있지만, 정확한 숫자를 분명히 정의하긴 힘들다.” 고 말한다.

 

하지만, 미국의 인공지능 기술 제공사인 베리토운의 최고 책임자 챗 스틸벍은 사악한 인공지능 합성 영상에 대한 우려가 커지면서 정당한 기술 및 상업적 이용에 대한 투자도 거둬들이고 있다고 말한다.

 

가짜영상이라는 용어에는 분명히 이 분야에 대한 자본 투자에 있어서 부정적인 반응이 있어왔다.” 고 그는 말하면서 언론과 소비자들이, 그렇기에 똑바르게, 관련된 위험을 명백하게 볼 수 있다.

 

이러한 측면이 이 기술에 돈을 덕지덕지 투자하는 사람들은 물론이고 기업들을 분명히 방해해왔다.”

 

새로운 기술 경제는 기술적 쇄신이 어떻게 새로 떠오로는 경제적 경치 모습을 갖추게 하는 지에 대해 일련의 탐구를 하고 있다.

 

다른 등장 인물이나 사람의 목소리를 사용자들이 새로 만들어 낼 수 있도록 해주는 인공지능 회사인 모듈레잇의 최고책임자 마잌 파파스는 더 널리 상업적 합성 언론 분야에 있는 회사들은 정말이지 윤리를 챙겨야 한다.” 고 말한다.

 

그는 이러한 사람들이 얼마나 많은 양의 생각을 쏟아 붓는지를 보면 놀랍다.” 고 말하면서 그러한 것은 투자자들도 그러한 면에 대해 신경 쓰이에 개홨다. 투자자들은 윤리 정책들에 대해 그리고 그에 대해 관련자들이 어떻게 생각하는 지에 대해 묻고 있다.” 고 했다.

 

뉴캐슬 법학 전문대학원의 쇄신과 사회를 가르치는 법학교수 릴리안 엗워즈 () 는 인공지능합성 영상 전문가이다. 릴리안은 전면적으로 다뤄지지 않은 이 기술의 상업적 사용을 둘러싼 한 가지 문제는 이러한 영상들에 대한 권리를 누가 소유하느냐는 것이라고 말한다.

 

예를 들어, 남자 배우였던 스팁 맥퀸 또는 래퍼 가수였던 투팩 등등의 죽은 사람이 이용되는 상태라면, 그들의 가족이 이 영상을 소유하여 이 영상으로부터 수입을 가져가야 하는지의 여부에 대한 논의가 현재 진행 중이다.” 라고 릴리안은 말한다.

 

이 문제는 현재 나라마나 다르다.”

 

버지니아 대학교 응용 윤리 명예 교수인 데보라 좐슨은 최근 인공지능합성 영상에 대해 뭘 해야 하는가?” 라는 제목의 기사를 공동으로 썼다.

 

데보라는 가짜영상들은 여러 제도 및 시각적 경험을 저해하는 더 큰 허의 정보 문제의 일부인바, 우린 더 이상 인터넷에서 우리가 보고 듣는 것에 대해 신뢰할 수가 없다.” 고 했다.

 

꼬리표를 붙여놓는 것이 아마도 가짜영상들에 대한 가장 간단하면서도 가장 중요한 맞대응 방안일 것인바, 만일 시정차들이 자신이 시청하고 있는 것이 조작됐다는 것을 알아차리면, 속을 가능성도 그만큼 더 적어진다.”

 

악스펏 (옥스포드) 대학교 고위 동료 연구원인 샌드라 웍타 () 교수는 가짜영상 기술은 앞서려고 경쟁을 벌이고 있다.” 고 말한다.

 

지난 주에 탐 크루즈 영상을 봤다면, 좋은 기술이 얼마나 쌓아지고 있는지를 알 수 있다.” 고 샌드라는 말하면서 “4년 전에 나온 버락 오바마 가짜영상보다 훨씬 더 현실적이었다.” 고 했다.

 

우린 기술에 대해 너무 두려워해서는 안되며, 이런 기술에 대해 미묘한 차이를 갖고 접할 필요가 있다. 그렇다. 증오스러운 말 및 보복을 위해 만든 외설 영상 등 나쁘고 위험스런 것들에 대해선 엄중 탄압할 법이 있어야 한다. 개개인들과 사회가 그런 것들에게서 보호를 받아야 하기 때문이다.

 

그러나 우린 풍자 또는 표현의 자유를 위해서도 가짜영상들을 전면적으로 금지를 해선 안된다. 그리고 이 기술에 대한 상업적 이용의 증가는 매우 유망한 것인 바, 여러 영화들을 다른 언어들로 바꾸거나, 또는 교육적인 영상을 창안해 내는 게 그것이다.

 

캘러포녀 남부의 쇼아 재단이 인공지능으로 생성시킨 영상을 교육적으로 이용한 한 예인데, 이 재단에는 대량학살 생존자들의 증언이 담긴 55,000편 이상의 영상이 있다.

 

이 재단의 증언의 차원들특별계획은 방문객들이, 사전에 녹화된 영상 대담에서 생존자들의 대답을 실시간으로 들을 수 있게 해주는, 질문을 할 수 있게 해준다.


스틸벍은 미래에 이 기술은 손주들이 인공지능으로 만든 작고한 연세든 가족들과 대화를 할 수 있게 해 줄 것이라고 말한다, “우리 사회에 대해 어떻게 생각하느냐를 볼 때, 이건 획기적인 것이라고 난 생각한다.”




'Deepfake is the future of content creation'

 

By Bernd Debusmann Jr

Published6 hours ago

 

IMAGE COPYRIGHTMBN

image captionSouth Korean viewers were told in advance about the deepfake Kim Joo-Ha, pictured here

 

A few months ago, millions of TV viewers across South Korea were watching the MBN channel to catch the latest news.

 

At the top of the hour, regular news anchor Kim Joo-Ha started to go through the day's headlines. It was a relatively normal list of stories for late 2020 - full of Covid-19 and pandemic response updates.

 

Yet this particular bulletin was far from normal, as Kim Joo-Ha wasn't actually on the screen. Instead she had been replaced by a "deepfake" version of herself - a computer-generated copy that aims to perfectly reflect her voice, gestures and facial __EXPRESSION__s.

 

Viewers had been informed beforehand that this was going to happen, and South Korean media reported a mixed response after people had seen it. While some people were amazed at how realistic it was, others said they were worried that the real Kim Joo-Ha might lose her job.

 

MBN said it would continue to use the deepfake for some breaking news reports, while the firm behind the artificial intelligence technology - South Korean company Moneybrain - said it would now be looking for other media buyers in China and the US.

 

When most people think of deepfakes, they imagine fake videos of celebrities. In fact, only last week one such bogus - but very lifelike - video of Tom Cruise made headlines around the world after it appeared on TikTok.

 

The deepfake TikTok account

IMAGE COPYRIGHTTIKTOK

image captionThe deepfake video of Tom Cruise was ultimately removed from TikTok, but the account that placed it remains there

 

Despite the negative connotations surrounding the colloquial term deepfakes (people don't usually want to be associated with the word "fake"), the technology is increasingly being used commercially.

 

More politely called AI-generated videos, or synthetic media, usage is growing rapidly in sectors including news, entertainment and education, with the technology becoming increasingly sophisticated.

 

One of the early commercial adopters has been Synthesia, a London-based firm that creates AI-powered corporate training videos for the likes of global advertising firm WPP and business consultancy Accenture.

 

"This is the future of content creation," says Synthesia chief executive and co-founder Victor Riparbelli.

 

To make an AI-generated video using Synthesia's system you simply pick from a number of avatars, type in the word you wish for them to say, and that is pretty much it.

 

Synthesia's deepfake platform

IMAGE COPYRIGHTSYNTHESIA

image captionSynthesia's users pick from a number of avatars

 

Mr Riparbelli says this means that global firms can very easily make videos in different languages, such as for in-house training courses.

 

"Let's say you have 3,000 warehouse workers in North America," he says. "Some of them speak English, but some may be more familiar with Spanish.

 

"If you have to communicate complex information to them, a four-page PDF is not a great way. It would be much better to do a two or three-minute video, in English and Spanish.

 

"If you had to record every single one of those videos, that's a massive piece of work. Now we can do that for [little] production costs, and whatever time it'll take someone to write the script. That pretty much exemplifies how the technology is used today."

 

Mike Price, the chief technology officer of ZeroFox, a US cyber-security company that tracks deepfakes, says their commercial use is "growing significantly year over year, but exact numbers are difficult to pin down".

 

However, Chad Steelberg, chief executive of Veritone, a US AI technology provider, says that the increasing concern about malicious deepfakes is holding back investment in the technology's legitimate, commercial use.

 

"The term deepfakes has definitely had a negative response in terms of capital investment in the sector," he says. "The media and consumers, rightfully so, can clearly see the risks associated.

 

"It has definitely hindered corporations as well as investors from piling into the technology. But I think you are starting to see that crack."

 

New Tech Economy is a series exploring how technological innovation is set to shape the new emerging economic landscape.

 

Mike Papas, chief executive of Modulate, an AI firm that allows users to create the voice of a different character or person, says that firms in the wider commercial synthetic media sector "really care about ethics".

 

"It amazing to see the depth of thought these people put into it," he says. "That has ensured that investors also care about that. They're asking about ethics policies, and how you're thinking about it."

 

Lilian Edwards, professor of law, innovation and society at Newcastle Law School, is an expert on deepfakes. She says that one issue surrounding the commercial use of the technology that hasn't been fully addressed is who owns the rights to the videos.

 

"For example, if a dead person is used, such as [the actor] Steve McQueen or [the rapper] Tupac, there is an ongoing debate about whether their family should own the rights [and make an income from it]," she says.

 

"Currently this differs from country to country."

 

Deborah Johnson, professor of applied ethics, emeritus, at the University of Virginia, recently co-wrote an article entitled "What To Do About Deepfakes?".

 

She says: "Deepfakes are part of the larger problem of misinformation that undermines trust in institutions and in visual experience - we can no longer trust what we see and hear online.

 

"Labelling is probably the simplest and most important counter to deepfakes - if viewers are aware that what they are viewing has been fabricated, they are less likely to be deceived."

 

Prof Sandra Wachter, a senior research fellow in AI at Oxford University, says that deepfake technology "is racing ahead".

 

Sandra Wachter

IMAGE COPYRIGHTSANDRA WACHTER

image captionProf Sandra Wachter says the response to deepfakes needs to be "nuanced"

 

"If you watched the Tom Cruise video last week, you can see how good the technology is getting," she says. "It was far more realistic than the President Obama one from four years ago.

 

"We shouldn't get too fearful of the technology, and there needs to be a nuanced approach to it. Yes there should be laws in place to clamp down on bad and dangerous things like hate speech and revenge porn. Individuals and society should be protected from that.

 

"But we shouldn't have an outright ban on deepfakes for satire or freedom of __EXPRESSION__. And the growing commercial use of the technology is very promising, such as turning movies into different languages, or creating engaging educational videos."

 

One such educational use of AI-generated videos is at the University of Southern California's Shoah Foundation, which houses more than 55,000 video testimonies from Holocaust survivors.

 

A Holocaust survivor with his avatar at the Shoah Foundation

IMAGE COPYRIGHTRON GOULD STUDIOS

image captionA Holocaust survivor with his avatar at the Shoah Foundation

 

Its Dimensions In Testimony project allows visitors to ask questions that prompt real-time responses from the survivors in the pre-recorded video interviews.

 

Mr Steelberg says that in the future such technology will enable grandchildren to have conversations with AI versions of deceased elderly relatives. "That's game changing, I think, for how we think about our society."

 

[기사/사진: BBC]



Comment



123

[ 시사 View 社說 ]

尹 여가부 없애긴 … 권인숙 의원 ⓒ대한뉴스 입력 2022.5.18. [시사뷰타임즈] ‘은근과 끈기’ 의 ... 더보기

[ 경제 ]

스타벅스, 라셔 떠난다 © Sputnik / Vitaly Belousov 입력 2022.5.24.RT 원문 2022.5.23. 거물 커피 가맹점이 라셔 (러시아) 전역... 더보기

[ 북한 ]

北, 차(茶)-소금물로 코로나 질병과 전투 평양에서 한 근로자가 의료용 산소를 싣고 다니는 차량을 소독하고 있다 IMAGE SOURCE,EPA 입력... 더보기

[ 日本·中國 ]

홍콩 추기경 조셒 젠 (90), 중국 보안법으로 체포 (좌) 추기경 직에서 은퇴한 조셒 젠 제-키운이 2014.7.1. 홍콩의 연례 친-민주주의 시위 기간 ... 더보기

[ 라셔(러시아) ]

라셔: “美 공급 무기들 유크레인서 더 많이 파괴됐다” 자료사진: 스페인 육군이 독일에서의 실탄발사 훈련 중 M777 곡사포 대포를 작동시키고 있... 더보기

[시사 동영상]

친-유크레인 팬티女, 칸 영화제 붉은 양탄자 망쳐놔 © Getty Images / John Phillips 입력 2022.5.22RT 원문 2022.5.21. 남녀평등 시위자 한 명이 유크레인 (우... 더보기

[각국의 군사 장비]

美 국방부, 내팽개친 무기들에 대해 설명 탤러번 투사들이 앺개니스탠 카불 시에서 미군의 험비 차량을 타고 달리고 있다. 2021.9.21. ... 더보기

[ 세상에 이런 일이! ]

인도 男: “자신을 왜 낳았느냐” 며 부모 고소 IMAGE SOURCE,NIHILANAND 입력 2022.5.13.BBC 원문 2019.2.7 [시사뷰타임즈] 27살된 인도의 한 남자가 자... 더보기

[ 세계-사회 이모 저모 ]

노부부, 6년째 손주 안 낳아 준다며 아들 고소 인도의 결혼식은, 하객이 수천 명이 되는 등, 흔히 낭비스런 일이 될 수도 있다.IMAGE SOURCE,GE... 더보기

[ 운동 및 관련소식]

올림픽 유망주→자전거치기 은행강도→9년 감방→그 이후? [BBC 제공 영상으로 보기] 입력 2022.4.25.BBC 원문 11시간 전 [시사뷰타임즈] 탐 쟈스티스가 1990... 더보기

[연예]

한국 연예계 큰 별이자 세계적 배우 강수연... 55세에 지다 사진=Wikipedia 입력 2022.5.8. [시사뷰타임즈] ‘미인박명’ -미인은 오래 살지 못한다- 이라고 ... 더보기

[ 주목받는 인물 ]

위키맄스 공동설립자 쥴리안 어싼즈, 옥중 결혼 영국 유행 디자이너 비비엔 웨슷웃이 고안한 결혼식 옷을 입고 있는 스텔라 모리스가 영국... 더보기

[ 인물 분석 ]

연방 판사: 기슬레인 맥스웰 사건, 재심 판결 (윗 비행기 그림) 소녀 성 밀매 사건을 맥스웰과 엡스틴이 벌인 일이지만, 이에는 빌 게이... 더보기

[ 각종 행사 ]

보도자료 한혜선 판소리연구소 / 싱싱국악배달부 보도자료 한혜선 판소리연구소 / 싱싱국악배달부보내는 날 : 2022년 4월 주소 : 서울시 성북... 더보기

[ 의료 · 의약 · 질병 ]

원두 (猿痘) 전염병: 세계보건기구, 확산-전염 예고 어느 환자의 상반신 모습, 그의 피부가 ‘원두’ 감염의 적극적 사례에서 비롯되는 병변을... 더보기

[ 과학 전자 ]

똑똑하진 않아도재빨라! 舊 휴대전회기의 귀환 노키아 3310 전화기는 늘 가장 많이 팔리는 수화기들 중 하나이며 1억2천6백만 대가 팔렸다 I... 더보기

[ 기재부 ]

기재부: 탄소중립·안전 등 ESG 경영에 공기업의 선도적 역할 강조 보도 일시 2022. 3. 28.(월) 16:00 배포 일시 2022. 3. 28.(월) 14:00 담당 부서 공공정책국 책임자 과 ... 더보기

[ 국방부 - 군 행정 ]

국방부: 국방분야 진입장벽 낮춘다 2022.02.08 방위사업청 ㅇ 국방기술진흥연구소(이하 국기연, 소장 임영일)와 국방부는 2월 7일... 더보기

[ 행안부 ]

행안부: 지방공무원 시험 합격자 종이서류 제출 사라진다..외 제목등록일공공 누리집에서 이용가능한 민간인증서 11종으로 확대2022.03.28.생활 속 불편한 ... 더보기

[ 국토교통 ]

국토교통부: 국토교통 혁신펀드로 중소벤처기업 성장 이끈다 외 919국토부, ’22.1월 아파트 붕괴사고 재발 방지를 위한「부실시공 근절 방안」 발표건설2022... 더보기

[ 법무부 ]

법무부: 외국인근로자의 체류 및 취업활동 기간 연장 보 도 자 료 보도일시: 배포 즉시 보도배포일시 2022. 3. 28.(월) 담당부서: 법무부 출입국·외... 더보기

[ 복지-교육 ]

청주소년원 검정고시 응시생에 ‘합격기원 꾸러미’ 보 도 자 료 배포일시 2022.4.4.(월)담당부서 전지부장 박경진 (차장 유신영 / 042-600-0537)배포... 더보기

[정치인 개관]

바이든의 V.P. 카말러 해리스: 꼭 알아야 할 5가지 캘러포녀 상원의원 카말러 해리스가 미시건 주 디트로잇에서 대통령 후보 조 바이든 지지... 더보기

[朴 탄핵 전후 족적]

2021.12.24. 문재인, 임기 몇달 남겨두고 박근혜 사면 한국의 전 대통령 박근혜는 징역 22년 향을 복역하고 있다가 사면을 받은 것이다. © Reuters /... 더보기