AI写真を悪用 静岡県の水害はデマだった
静岡県の水害の写真として、泥水に沈んだ街の画像が投稿された。
たしかに、静岡県は台風で大きな被害を受けた。
しかし、この画像は人工知能 (AI) が作成したフェイク画像だった。
不審な点を指摘する人もいるが、だまされてしまった人も多かった。
投稿者は反省どころか、だまされた人をあおる文を投稿している。
AI利用者のモラルが問われると同時に、見る側にも観察眼が求められている状況だ。
人工知能の絵と写真 簡単に作成可能
2022年になって、人工知能が絵や写真を作成するサービスが相次いで登場している。
- 利用者が書いた説明文に合わせて、画像を出力するもの。
- 提示された画像を学習して、それに類似した新たな画像を出力するもの。
おもに2種類のサービスがあるが、今回悪用されたのは前者である。
いずれも一般のネットユーザーが手軽に、簡単に利用できる。
LINEを使ったサービスもある。
後者の類似した画像を生み出すサービスは、著作権者以外の悪用が懸念されている。
絵は人間の補助で実用可能 写真は不自然
絵の作成に関しては、人間の手直しや補助があれば、実用できる段階に入っている。
AIが描いた絵をコンテストに投稿して、優勝したとする報道もある。
一方、写真は不自然な点が多く、修正にも限界があるのが現状だ。
- 人物の顔や文字が崩れている
- 構図が不自然である
- 説明文と関係のないものが映り込む
- 影がない、または存在しないはずの構造物の影がある
など。
写真はまだ不完全のため、ある程度の自衛が可能である。
デマにだまされないための着眼点をまとめたい。
AIのフェイク写真を見破るポイント
常識や物理法則を無視
「くまさんは2本足で歩かないのよ」
お絵描きの時間に保育士に言われたのを覚えている。
人間の子どもと同様、AIもまた常識を知らない。
- 一般的な陸上の哺乳類に4本の足があること (人間に腕と脚が2本ずつあること)
- 光あるところに影があること
- 相撲が1対1の戦いであること
人間が当たり前だと思う部分を間違えている。
そうした部分に着目すると、AIによる画像だと気付けるのではないか？
雰囲気で描写 概念は理解せず
人間は秩序付けられた知識を前提に、絵を描く。
だが、AIは雰囲気で絵・写真を描く。
そのため、ところどころ描画が混沌としている場合がある。
例えば、人の顔を描く場合を考えよう。
人間であれば、丸い輪郭を描き、そこに目・鼻・口・耳などを付け加える。
いま、自分が描いているものを、顔だと理解している。
一方、AIは顔という概念を理解していない。
「顔」という言葉に関連する、たくさんの画像を学習する。
その画像を真似て、顔という雰囲気の絵・写真を描くのだ。
AIが描いた顔は、2つの目がきれいに並んでいない場合がある。
目・鼻・口がはっきりせず、ぐちゃぐちゃになっていることも多い。
知識が先行する人間の絵とは異なる。
実際に静岡のフェイク写真でも、建物風だが、側面の描写がはっきりしない構造物があった。
1色の灰色でベタ塗りされていたり、軽トラックと融合していたりする。
そのような構造物は、現実にはありえない。
よく見たら、現実の写真ではないと分かる人もいるだろう。
学習の弊害？ 意図しないものを出力
学習によって、AIがステレオタイプを学んでしまうおそれがある。
例えば、
- ある仕事をする人物が、どうしても男性・女性になってしまう
- 犯罪者などの望ましくない人物が、特定の人種らしく描かれてしまう
- 特定の人種を描く際、身体的特徴が強調されてしまう
などの問題が考えられる。
それ以外に、利用者が意図していないものが紛れ込む可能性もある。
特定の事物を擬人化したアニメキャラなどを、誤ってその事物として学習してしまうかもしれないのだ。
とあるワードに対して、某少年探偵のイラストを出力した事例 (いわゆるミーム汚染) もすでにある。
偏った絵を出力しないためにも、適切な指示や、開発者側の軌道修正が求められる。
調べることで自衛を
その写真の出処を調べる癖をつけよう。
静岡県の水害と言われたら、まずは静岡県の水害について調べよう。
Google画像検索では、画像を直接検索することも可能だ。
今回の台風で、静岡県の住宅が水没したとか、流されたという情報はない。
このフェイク写真はすでに、ネットニュースに取り上げられている。
リツイートする前に少し調べれば、ウソを広めずに済んだかもしれない。
とはいえ、静岡県では断水などの被害が発生している。
デマの打ち消しによって、かえって静岡に被害がなかったという誤解が広まる懸念もある。
ウソだったという事実だけでなく、災害の詳細についても知っておくべきだと考える。
AI悪用の防止と技術の発展
今回のフェイク写真の騒動を受けて、AI写真の悪用を防止すべきとの声が上がっている。
- 透かしやウォーターマーク (テレビ画面の右上に半透明でNHKと表示されているようなもの) を入れるべきだ
- 法律で厳しく規制すべきだ
など。
ただ、厳しいルールを設けることで、我が国におけるAIの発展が阻害される懸念もある。
我が国は「よくわからない先端技術」を規制したせいで、諸外国に遅れを取っているとの声も聞かれる。
「使わせない」ではなく、正しく使うための仕組みづくりが重要である。
