“ディープフェイクポルノ”初摘発 AIで演者と芸能人の顔を差し替え公開した疑い 千葉県警

AIによって製作された動画は「ディープフェイク(deepfakes)」と呼ばれる。 データの捏造も見つけ出せる マルはGfycatにとって、ディープフェイク動画を見つける手段のひとつにすぎない。 Gfycatの立場を考えれば、これは納得がゆく。

10
一部だけセレブに似たまがい物のGIFを嗅ぎつけるだけで、ディープフェイク動画を止めることはできない。

“ディープフェイクポルノ”初摘発 AIで演者と芸能人の顔を差し替え公開した疑い 千葉県警

Gfycatが人間のモデレーターを雇っているのはそのためだ。 ニュースサイト「Motherboard」が、いま人々は(AI)を使ってフェイクポルノを製作している。

3
対象となるコンテンツはラベル付けあるいは削除される。 参考: 日本でもすでに被害が広まっている 日本でも、数件ではありますが、Twitter上では有名女優のフェイクポルノが確認されています。

「ディープフェイクは人権侵害」 精巧な偽動画、リベンジポルノ被害も|社会|地域のニュース|京都新聞

ディープフェイク動画は、本物か偽物か判断できないような動画が出回る未来の始まりを象徴しているのだ。

13
オンライン掲示板の「Reddit」やアダルトサイト「hub」などのコミュニティーは、フェイク対策に悪戦苦戦している。

「ディープフェイクは人権侵害」 精巧な偽動画、リベンジポルノ被害も|社会|地域のニュース|京都新聞

2016年の大統領選挙期間中、ロシアはTwitter上をフェイクボットでいっぱいにした。

ちなみに、人間の脳もフェイク動画に一役買っている。

「ディープフェイクは人権侵害」 精巧な偽動画、リベンジポルノ被害も|社会|地域のニュース|京都新聞

こうした戦いは今後ますます重要性を増してゆく。

19
コンピューターが勝手にディープフェイク動画を探してくれるなら、もはや人間の手はいらないのだ。

誹謗中傷対策マニュアル|誹謗中傷ドットネット

しかし、ディープフェイク動画の製作者たちが監視の目をすり抜ける方法を見つけるのも、時間の問題かもしれない。 こうしたAIの進化を、これからも自分たちの技術に取り入れていきたいと考えています」 フェイクポルノが示唆する「未来」 ディープフェイク動画を摘発する際、Gfycatの技術を使えないケースが少なくとも1つある。

11
米国のバージニア州などでは法律で規制する動きがある。 フェイク動画の製作自体を止めることはできませんが、(複数のプロトコルをインストールすることによって)製作を難しく、時間がかかるものにすることはできます」とファリドは言う。

人工知能が生んだ「フェイクポルノ」は、AIが摘発する──コンテンツ・モデレーションの最先端

例えば、誰かが異なる2人のセックステープをそれぞれ撮影し、顔だけを入れ替えたとしよう。

15
こういった努力は軽視されるべきではない。 この項目では、もしもフェイクポルノ被害に遭ってしまった場合の対処法についてご紹介します。