【AI】ディープフェイク動画の衝撃、AIで作られる「高品質なデマ」[02/10]

1: しじみ ★ 2019/02/15(金) 06:41:34.54 ID:CAP_USER

【2月10日 AFP】
もし、ある政治家が普段は絶対しそうにない発言をしたり、ハリウッドのスター女優が、あり得ないB級アダルトビデオに出演したりする映像を目にしたら、あなたは映像機器の問題を疑うかもしれない──。しかし、未来の「フェイクニュース」は、実はそのようなものになるのではとの考えがある。

近年の人工知能(AI)の進化で、実際の映像を巧みに加工する「ディープフェイク」動画のクオリティーは、より精巧になっている。そして、その影響から、新たな種類のデマや虚報が破滅的な結果をもたらす危険性も同様に高まりつつあるのだ。

「しっかりとした筋書きのディープフェイクをタイミング良く広めることができれば、選挙結果を覆したり、暴動寸前の都市で混乱生じさせたりすることが可能になる。また、敵対する相手の残虐行為を主張する反政府派の声を強化したり、社会の政治的分断を悪化させたりすることもできるだろう」

米シンクタンク「外交問題評議会(Council on Foreign Relations)」のブログでそう警告するのは、米テキサス大学(University of Texas)のロバート・チェスニー(Robert Chesney)教授と、メリーランド大学(University of Maryland)のダニエレ・シトロン(Danielle Citron)教授だ。

だが、AIと安全保障問題を専門とするシンクタンク、新米国安全保障センター(CNAS)の上級研究員、ポール・シャーラー(Paul Scharre)氏は、これからの選挙では対立候補を陥れたり、実際の映像をうそであると人々に思いこませたりするために、ディープフェイク動画が活用されることはほぼ防げないと指摘する。

見た目に信用できそうなフェイク動画が拡散すれば、「人々は自分が信じたい方、自分が求めている主張に合った方を選ぶことになる。これはひどく気がかりだ」とシャーラーは話す。

■チャップリンの復活は喜ばしいが…

動画の加工は数十年前から行われており、無害な遊びや、時にはエンターテインメントにもなる。映画業界では「チャーリー・チャップリン(Charlie Chaplin)のように死去した有名俳優をスクリーンに復活させることもできると期待が寄せられている」と、米カーネギーメロン大学(Carnegie Mellon University)の研究者、アーユシュ・バンサル(Aayush Bansal)氏は言う。

だが、「誰であろうと、なんでも言わせることができる。これほど恐ろしいことはない」と指摘するのは、ディープフェイクの検出を専門に研究するニューヨーク州立大学オールバニ校(University at Albany, State University of New York)コンピューターサイエンス学教授のシーウェイ・リュウ(Siwei Lyu)氏だ。

「そのようなことが可能になれば、真実とうその見分けがつかなくなってしまう。情報が本物かどうか信頼できないという状態は、情報が全くないのと同じくらいひどい状態だ」

米下院のアダム・シフ(Adam Schiff)氏と他2人の議員は最近、米政府のディープフェイク対策について調べるため、ダン・コーツ(Dan Coats)国家情報長官に質問状を送付した。

議員らはこの中で、「脅迫などの不正目的で個人を攻撃するために、偽造された動画や画像、音声が使用されることが考えられる」と述べ、さらに「国家の安全保障にとってより大きな懸念事項は、虚報を広めようとする国内外の何者かによってこうした映像が使われてしまう恐れがあることだ」と指摘した。

続きはソースで
no title

ディープフェイク動画の衝撃、AIで作られる「高品質なデマ」
【2月10日 AFP】もし、ある政治家が普段は絶対しそうにない発言をしたり、ハリウッドのスター女優が、あり得ないB級アダルトビデオに出演したりする映像を目にしたら、あなたは映像機器の問題を疑うかもしれない──。

2: ニュースソース検討中@自治議論スレ 2019/02/15(金) 06:48:20.72 ID:t7luIlv6
これもうかなりのレベルになってるらしいね
大衆を騙すだけなら簡単にできる、しかもネットじゃ一度ついたデマは永久に完全には消えない
それが望んだ内容ならなおさらな
恐ろしい時代になったもんだ

29: ニュースソース検討中@自治議論スレ 2019/02/15(金) 11:06:27.80 ID:KSlYPDbe
>>2
大衆はそんなにバカじゃないよ。
フェイクで騙すとバレたときにずっと攻撃される。
諸刃の刃。

43: ニュースソース検討中@自治議論スレ 2019/02/15(金) 22:13:35.14 ID:t7luIlv6
>>29
> 大衆はそんなにバカじゃないよ。
残念ながらバカだよ
そして選挙などでは手遅れな、実際それで選ばれてる大統領や政党もあるだろうよw

32: ニュースソース検討中@自治議論スレ 2019/02/15(金) 11:27:41.70 ID:t9N4LtkF
>>2
お、騙されそうなやつ筆頭がコメントしてくださったぞwww

44: ニュースソース検討中@自治議論スレ 2019/02/15(金) 22:14:26.47 ID:t7luIlv6
>>32
> お、騙されそうなやつ筆頭がコメントしてくださったぞwww
いちいち乗るなよアホw自己紹介かよw

3: ニュースソース検討中@自治議論スレ 2019/02/15(金) 06:54:28.27 ID:vysaFv56
プログラム制作と報道やSNSに投稿したら重犯罪にすればいい。
必要性がない。

26: ニュースソース検討中@自治議論スレ 2019/02/15(金) 11:01:14.03 ID:KSlYPDbe
>>3
発想が危険。
そんなに社会的に危険なものを予防的に禁止したいならパチンコの三店方式撲滅をまずやり玉に上げようぜ。

35: ニュースソース検討中@自治議論スレ 2019/02/15(金) 16:18:20.69 ID:vysaFv56
>>26
別に危険じゃないだろ。
先に犯罪にして注意を呼びかければ詐欺も脅迫も起こらない。
まず必要性のない技術

49: ニュースソース検討中@自治議論スレ 2019/02/16(土) 11:48:53.34 ID:w0cJa2ZJ
>>35
呼び掛けて詐欺が起きないなら振り込め詐欺はなぜ無くならない?

5: ニュースソース検討中@自治議論スレ 2019/02/15(金) 06:59:53.08 ID:vysaFv56

脅迫に使われるのはだめだよな。

与野党で喧嘩する暇があるならこういう危機を未然に防ぐとか話すことあるだろうに。
不正の追求じゃなくてさっさと留置所にぶち込めばいいんだよ。政治家は取り調べのプロじゃないんだから。

6: ニュースソース検討中@自治議論スレ 2019/02/15(金) 06:59:54.46 ID:m27qQHt7
これ去年の話題じゃん。
プーチンの捏造動画とか知らんの?

7: ニュースソース検討中@自治議論スレ 2019/02/15(金) 07:01:11.44 ID:m27qQHt7

>>1
つーか続きはソースとかってお前バカ?
日本語できないの?
気狂いなの?

そこにコピペする意味すらないだろ?

8: ニュースソース検討中@自治議論スレ 2019/02/15(金) 07:01:25.21 ID:gpTPZ3kj
こんなのなくてもマスゴミの神編集捏造動画ニュースが毎日放映されておりますが?

9: ニュースソース検討中@自治議論スレ 2019/02/15(金) 07:09:27.30 ID:1jJ2uRkk
ほらみろ!世界中が気づきはじめてる
情報というのは危険な物なんだ
ある意味では殺人兵器も同様な物
情報こそ、国がしっかりと管理しなければならない物なんだ
適当なマスコミなんかが安易な気持ちで扱っていてはならない代物なんだよ!

10: ニュースソース検討中@自治議論スレ 2019/02/15(金) 07:16:27.94 ID:m27qQHt7

>>9
マスコミに限った話じゃないんだよ。
メディアの映像を基にしたフェイク動画がいまでも出回ってる。
これらは個人の製作が殆どだ。
https://youtu.be/ttGUiwfTYvg

>>1
な?ようやくもしてない長文で全文ですらないのを読む奴なんていないだろ?

16: ニュースソース検討中@自治議論スレ 2019/02/15(金) 07:52:05.23 ID:1jJ2uRkk

>>10
マスコミに限ったつもりはないよ

情報を安易に扱うことは危険だと言ってる

しかも大規模に行えば、もっと危険だ

12: ニュースソース検討中@自治議論スレ 2019/02/15(金) 07:26:06.69 ID:gRM7+bsy
朝日が下手にやってきたことが上手にやられるわけだな。
スーパー朝日と呼ぼう。

13: ニュースソース検討中@自治議論スレ 2019/02/15(金) 07:40:30.19 ID:Fnnnknm8
そんな事しなくとも日本にはフェイク王朝日新聞があるw

31: ニュースソース検討中@自治議論スレ 2019/02/15(金) 11:15:16.54 ID:KSlYPDbe
>>13
厚生労働省もねw

18: 天一神 2019/02/15(金) 07:58:39.56 ID:PRSsWxA+
>>1
まず
アメリカ国民が国連加盟国の公正な信義を信頼しろ
社会はそれで革命できるだろう。

19: ニュースソース検討中@自治議論スレ 2019/02/15(金) 08:01:29.88 ID:Fnnnknm8
要するに良く出来たコラの事っしょ?w

23: ニュースソース検討中@自治議論スレ 2019/02/15(金) 10:32:38.76 ID:0piuImTb
AI「映像そのものの証拠能力がなくなる

24: ニュースソース検討中@自治議論スレ 2019/02/15(金) 10:35:21.64 ID:bBXyV8gG
そのデマを見破るAIを作ればいい

25: ニュースソース検討中@自治議論スレ 2019/02/15(金) 10:58:47.51 ID:r2Pupyoz
AIの起源はウリナラニダ

27: ニュースソース検討中@自治議論スレ 2019/02/15(金) 11:02:53.11 ID:KSlYPDbe
>>1
こんな手の込んだことしなくても統計偽装すりゃいいだけですよね。
(^o^)v
政治家なんか楽チンなもんだ。

28: ニュースソース検討中@自治議論スレ 2019/02/15(金) 11:05:12.00 ID:KSlYPDbe
技術そのもの規制するのはやめたほうがいい。
CDとか地デジとかみなよ。コピーガードコピーガードで業界そのもが活力なくなってしまった。

36: ニュースソース検討中@自治議論スレ 2019/02/15(金) 16:19:25.05 ID:vysaFv56
>>28
衰退したのはコンテンツのせいだろ

30: ニュースソース検討中@自治議論スレ 2019/02/15(金) 11:08:08.05 ID:KSlYPDbe
生身の女性から搾取しなくても理想のアダルトビデオが作れるな。
そのほうがみんなハッピー。

33: ニュースソース検討中@自治議論スレ 2019/02/15(金) 12:34:40.79 ID:PDyfvnru
>>1
一つの科学的手法が万能かのように錯覚し、情報を鵜呑みにする人々が
TV信者になり、ネット信者になり、DNA信者になり、AI信者になり、
その結果、誤情報が蔓延し、多くの人々を不幸に陥れた
その歴史を繰り返すだけ
情報を発信するパワーに負けないような、
受ける側を教育・啓発するパワフルな教育システムが必要

34: ニュースソース検討中@自治議論スレ 2019/02/15(金) 15:50:32.33 ID:GoNNO6Gf
ネットが既存のメディアが報道しないことを暴いてそれなりに評価された時代もそろそろ終わりだろう。
もはやネットの信頼性はかなり低い。
5ちゃんだって最近は韓国人工作員の嘘だらけの罵詈雑言ばかりで読むに耐えない。

37: ニュースソース検討中@自治議論スレ 2019/02/15(金) 16:20:37.21 ID:vysaFv56
>>34
特定ワードをNGにすればまだそこそこ使える

38: ニュースソース検討中@自治議論スレ 2019/02/15(金) 16:42:23.18 ID:k9B32X9z

タレントになりたい女が激減するだろ
首をすげ替えられてファック動画で晒されるんだからな

あっ、だからダウンロード禁止かw
秋元あたりが商売を続けたくて吹き込んだのかwww

39: ニュースソース検討中@自治議論スレ 2019/02/15(金) 16:53:41.25 ID:ONsYxLtP
>>1
既にそんなもの日本のマスコミがやらかしておるわ
もちろん選挙で前例があるので好きなだけ参考にしろwww

40: ニュースソース検討中@自治議論スレ 2019/02/15(金) 17:11:31.20 ID:eO3+KWjw
今でも普通にあるよ、英雄になる天安門のタンクマンとか、ケネディ暗殺車6人乗りとか、AIが冷戦政治に合わせて編集してるんじゃないの?

41: ニュースソース検討中@自治議論スレ 2019/02/15(金) 19:30:53.45 ID:QIneBvqS
アイドルのAV作るやついそう
高値で売れるし

45: ニュースソース検討中@自治議論スレ 2019/02/15(金) 22:28:39.78 ID:ex+miHvT
>>41
去年の今頃山ほど投稿されてたよ。
殆どが海外のタレントや歌手の顔だけど

42: ニュースソース検討中@自治議論スレ 2019/02/15(金) 22:03:13.17 ID:6yjxFEfu
映画のトータル・リコールをはじめて見たとき、3D CGやモーションキャプチャって凄いなって思った

46: ニュースソース検討中@自治議論スレ 2019/02/15(金) 22:37:44.55 ID:GlCCbU8H
映像にもはや価値はないんだから、新しい価値を探そうよ。

47: ニュースソース検討中@自治議論スレ 2019/02/15(金) 22:42:19.04 ID:kKHp2q31

マスメディアが嘘を撒いていた時代からネットのゲリラが嘘を撒く時代に変わるだけ

世の中、声が大きい嘘がまかり通るから、どうしようもない
アメリカでも日本でも欧州でも
嘘に騙されて虚飾の自称リベラル政権が生まれるのがその証左

48: ニュースソース検討中@自治議論スレ 2019/02/16(土) 07:40:53.46 ID:ijCkM0I6
どっちかというとリベラルよりトランプや南米みたいな右翼や極右政権のが最近の傾向と思うが
欧州でもその傾向あるしな

50: ニュースソース検討中@自治議論スレ 2019/02/16(土) 14:08:04.93 ID:UG2XLTtD
これ現実の人物じゃなくてアニメやゲームのキャラに対して使いたい

51: ニュースソース検討中@自治議論スレ 2019/02/16(土) 14:33:12.36 ID:oUc+eKGm
世界中ヒジャブ化必死

52: ニュースソース検討中@自治議論スレ 2019/02/16(土) 15:35:56.67 ID:oBvQVZJx
こういうことか?
no title

53: ニュースソース検討中@自治議論スレ 2019/02/17(日) 16:35:54.66 ID:Orjk6sbK
>>52
おもろいなw

56: ニュースソース検討中@自治議論スレ 2019/02/23(土) 11:24:51.76 ID:hJSiRdRH
AI「やはり人類がいなくなれば地球は平和になりますね」

引用元

管理人からひと言

すごいリアル

スポンサーリンク
スポンサーリンク
スポンサーリンク

シェアする

フォローする

スポンサーリンク
スポンサーリンク