現状の画像生成AIについて、 「思考の題材としてはとても面白い」と書きましたが、誤解を招きそうな表現なので、補足の記事を追加しておきます。
この記事を公開した時点（2024年2月）で、私は現状の画像生成AI、というより、生成系AI全般について極めて否定的というか、かなり強い規制をかけるべきだと考えています。
現状の生成系AIは、率直に言って問題が多すぎると思っていますが、私にとって最大の懸念は
「社会の基盤である信用の破壊」
です。
現代社会は「独立した個人が、己の意思で行動を決め、相互に合意を作って社会を動かしていく」という形が、（少なくとも建前上は）基本であるはずですが、現状の生成系AIは、合意の価値を忘れさせ、信用に基づく社会を崩壊させる危険性を内包しているように思います。
以下は、現時点で私が生成系AIに対して抱いている印象と、そこからの考察です。
- 機械による無断学習の危険性
-
現状の生成系AIは他者の制作物を無断で学習することが前提となっており、私はこれを非常に悪い設計思想だと思っています。
本来の用途が機械学習ではない情報も学習素材に使われている上に、
「自分の作品、自分の身体を学習に使われたくない」
という意思を示している人に対してさえ、その意思を無視し、勝手に学習素材として扱う行為が見受けられます。そうした行為ができる時点で問題ですが、それ以前に、現状の生成系AIは、根本的な設計思想に「対話して同意を得る」という思考が欠けており、「良いと感じる結果を、手軽に早く出せるならば、人の意思を軽んじてよい」という思想で設計されているように見えます。
そのように設計された道具は、普及するほどに「同意」や「合意」を得るという行為の重要性を忘れさせ、人間相互の信用を破壊していく道具に成り下がっていくのではないか、と思っています。
そして、そうした道具に対する積極的肯定は、突き詰めて言えば他者軽視の推奨であり、「他者の意思を尊重する」という、社会形成の根本理念が揺らぐきっかけとなるように思えます。
それでもまだ、機械の性能が人間以下で、質の悪い情報が低速で少量作れる程度であれば、まだ問題の抑制はできたはずですが……。
- 偽情報が容易に作れる危険性
-
既に懸念されていた通り、生成系AIによって偽情報が大量に作られ、高速で拡散される状態になっています。
何が問題かと言えば、情報の信頼性が大きく毀損される、ということ。
人が行動を決める時、得られる情報とその正確性が、大きな影響を与えるわけで、情報の信頼性を損ねるという行為は、人の行動を、ひいては社会を大きく変える力があります。
偽情報を作るにしても、「頑張れば作れる」と「遊び感覚で作れる」では、問題の深刻さが全く変わります。
個人の遊び感覚で（つまり、無責任に）多くの人が行動を変えられてしまったら、社会は大混乱です。
現在の社会は情報技術の発達によって大きく発展しているのに、情報の信頼性を落とし、情報の流通を混乱させる行為は、率直に言えば、社会の退歩を推進しているようなものではないか、と思います。
- 実効性のある抑止力や安全装置が存在しない
-
「生成系AIはあくまで道具に過ぎず、問題は使用する人間が原因であって、道具そのものを否定すべきではない」という考え方もできます。
そういう考え方もあるとは思いますが、発生する被害の深刻さ、被害が拡大する速さが、もはや「人間の問題」という理屈で済ませている場合ではない、と私は思うようになっています。
対処方法を考えている間にも、悪意のある人は、機械の力で軽々と被害を拡大させていきます。
たとえ理論上は現行法で対処できるとしても、現状の各種規則や規制は実効性が全く足りず、現実には生成AI技術の悪用に対する抑止力になっていない、と感じます。
使用者の自主的な心理的抑制に期待できないのなら、もう仕組みそのものに安全装置を組み込むしかないのではないか、と思えてきます。
もちろん、生成系AIに対応した法規制を作ることも大切です。ただ、悪意ある人は常に「抜け穴」を探し、突いてきます。そのため、生成系AIという仕組み自体の内部にも、安全装置が必要ではないかと思っています。
率直に言えば、現状の生成系AIは、使用者の資質を審査し、使用方法を限定し、実効性のある規制を作ることで、かろうじて役に立つかもしれない道具、という程度ではないかと思います。
長々と書きましたが、正直に言って、まだまだ語り足りない（笑）。だからこそ 「思考の題材としてはとても面白い」と書いてしまったわけですが。
今回は社会との関わりを中心に書きましたが、「絵を描く」という行為と関連付けても、生成系AIは、色々と考えさせられる題材です。なので、今後もTwitterでは文字数の関係で書けなかった内容を、このブログで書いていくことになると思います。
