気持ちのサンドバッグ

気になったことを調べて、まとめたり意見を書いたりします。あくまで個人によるエッセイなので、事実関係の確認はご自身でお願いします。

【人工知能】画像生成によるフェイク写真 だまされないポイント

AI写真を悪用 静岡県の水害はデマだった

静岡県の水害の写真として、泥水に沈んだ街の画像が投稿された。

 

たしかに、静岡県は台風で大きな被害を受けた。

しかし、この画像は人工知能 (AI) が作成したフェイク画像だった。

 

不審な点を指摘する人もいるが、だまされてしまった人も多かった。

投稿者は反省どころか、だまされた人をあおる文を投稿している。

AI利用者のモラルが問われると同時に、見る側にも観察眼が求められている状況だ。

 

 

 

 

人工知能の絵と写真 簡単に作成可能

2022年になって、人工知能が絵や写真を作成するサービスが相次いで登場している。

 

  1. 利用者が書いた説明文に合わせて、画像を出力するもの。
  2. 提示された画像を学習して、それに類似した新たな画像を出力するもの。

おもに2種類のサービスがあるが、今回悪用されたのは前者である。

 

いずれも一般のネットユーザーが手軽に、簡単に利用できる。

LINEを使ったサービスもある。

後者の類似した画像を生み出すサービスは、著作権者以外の悪用が懸念されている。

 

絵は人間の補助で実用可能 写真は不自然

絵の作成に関しては、人間の手直しや補助があれば、実用できる段階に入っている。

AIが描いた絵をコンテストに投稿して、優勝したとする報道もある。

 

一方、写真は不自然な点が多く、修正にも限界があるのが現状だ。

  • 人物の顔や文字が崩れている
  • 構図が不自然である
  • 説明文と関係のないものが映り込む
  • 影がない、または存在しないはずの構造物の影がある

など。

 

写真はまだ不完全のため、ある程度の自衛が可能である。

デマにだまされないための着眼点をまとめたい。

 

AIのフェイク写真を見破るポイント

常識や物理法則を無視

「くまさんは2本足で歩かないのよ」

 

お絵描きの時間に保育士に言われたのを覚えている。

人間の子どもと同様、AIもまた常識を知らない

 

  • 一般的な陸上の哺乳類に4本の足があること (人間に腕と脚が2本ずつあること)
  • 光あるところに影があること
  • 相撲が1対1の戦いであること

 

人間が当たり前だと思う部分を間違えている。

そうした部分に着目すると、AIによる画像だと気付けるのではないか?

 

雰囲気で描写 概念は理解せず

人間は秩序付けられた知識を前提に、絵を描く。

だが、AIは雰囲気で絵・写真を描く。

そのため、ところどころ描画が混沌としている場合がある。

 

例えば、人の顔を描く場合を考えよう。

人間であれば、丸い輪郭を描き、そこに目・鼻・口・耳などを付け加える。

いま、自分が描いているものを、顔だと理解している。

 

一方、AIは顔という概念を理解していない

「顔」という言葉に関連する、たくさんの画像を学習する。

その画像を真似て、顔という雰囲気の絵・写真を描くのだ。


AIが描いた顔は、2つの目がきれいに並んでいない場合がある。

目・鼻・口がはっきりせず、ぐちゃぐちゃになっていることも多い。

知識が先行する人間の絵とは異なる。

 

実際に静岡のフェイク写真でも、建物風だが、側面の描写がはっきりしない構造物があった。

1色の灰色でベタ塗りされていたり、軽トラックと融合していたりする。


そのような構造物は、現実にはありえない。

よく見たら、現実の写真ではないと分かる人もいるだろう。

 

学習の弊害? 意図しないものを出力

学習によって、AIがステレオタイプを学んでしまうおそれがある。

 

例えば、

  • ある仕事をする人物が、どうしても男性・女性になってしまう
  • 犯罪者などの望ましくない人物が、特定の人種らしく描かれてしまう
  • 特定の人種を描く際、身体的特徴が強調されてしまう

などの問題が考えられる。

 

それ以外に、利用者が意図していないものが紛れ込む可能性もある。

特定の事物を擬人化したアニメキャラなどを、誤ってその事物として学習してしまうかもしれないのだ。

とあるワードに対して、某少年探偵のイラストを出力した事例 (いわゆるミーム汚染) もすでにある。

 

偏った絵を出力しないためにも、適切な指示や、開発者側の軌道修正が求められる。

 

調べることで自衛を

その写真の出処を調べる癖をつけよう。

静岡県の水害と言われたら、まずは静岡県の水害について調べよう。

Google画像検索では、画像を直接検索することも可能だ。

 

今回の台風で、静岡県の住宅が水没したとか、流されたという情報はない。

このフェイク写真はすでに、ネットニュースに取り上げられている。

リツイートする前に少し調べれば、ウソを広めずに済んだかもしれない。

 

とはいえ、静岡県では断水などの被害が発生している。

デマの打ち消しによって、かえって静岡に被害がなかったという誤解が広まる懸念もある。

ウソだったという事実だけでなく、災害の詳細についても知っておくべきだと考える。

 

AI悪用の防止と技術の発展

今回のフェイク写真の騒動を受けて、AI写真の悪用を防止すべきとの声が上がっている。

  • 透かしやウォーターマーク (テレビ画面の右上に半透明でNHKと表示されているようなもの) を入れるべきだ
  • 法律で厳しく規制すべきだ

など。

 

ただ、厳しいルールを設けることで、我が国におけるAIの発展が阻害される懸念もある。

我が国は「よくわからない先端技術」を規制したせいで、諸外国に遅れを取っているとの声も聞かれる。

「使わせない」ではなく、正しく使うための仕組みづくりが重要である。