AI を操る独裁者

AI が進化して
AI が何をしているのかを説明できる人がいなくなりつつあるなかで
AI に対する私たちのスタンスが大きく変わりつつある

どのようなアルゴリズムでその結果に至ったのかを説明できるようにすると
AI のパフォーマンスが落ちるから
AI のパフォーマンスを上げるために AI のブラックボックス化が許容される
データサイエンティストも AI のアルゴリズムを作成するエンジニアも
データから直接導き出される結果について 何の説明もできない
ブラックボックスの内部で何が起こっているのかを理解してもいない

結果に影響を与える variable にどんなものがあるのかさえも
技術者たちは知らない
にもかかわらず 導き出された結果が社会を変えてゆく
私たちは理解したり考えたりすることを止め
「AI が言っていることだから」といって とまどいを棄て
何でも受け入れる

多様性だとかフェアネスとかはパフォーマンスを下げる要素として切り捨てられ
イエスかノーかといった答えだけが欲しいデシジョン・メーカーのために
AI の出した結果は極限まで単純化される
もう今までの監査や検査・規制などはまったく通用しない

解釈可能な AI とか説明可能な AI といった技術の側からのまやかしと
「AI が出した答えだから」と言って AI の答えを歪曲して伝える人間の側からのまやかしとで
信頼性のないことがあたかも信頼性のあるものとして伝えられる

カネを儲けたいという欲求や
勝負に勝ちたいという欲求
長く生きたいという欲求が
AI によって見事に打ち砕かれてゆく

全体主義の権力者たちも例外ではなく AI に裏切られる
どんな人も いつか必ず裏切られる
権力者たちまでも監視してしまう IoT とか Blockchain といった技術が
権力者たちのためになるのかどうか

「技術者の手のなか」にない技術が
「権力者の手のなか」に収まるわけもなく
これからの社会は「1984」の想像をはるかに超え
もう誰にも制御できないものになってゆく
そうなったときに
自分の言うことを聞く AI を持つ者が現れて
すべてをコントロールするのだろうか?

「将棋 AI」から素直に良いものを習得し混戦を抜け出して勝ってしまう
藤井聡太のような人が経済の分野にも表れて
「経済予測 AI」から素直に良いものを習得し経済政策を決めてゆけば
経済はよくなっていくかもしれない
「農業 AI」に「栽培から収穫まで」や「放牧から搾乳まで」を任せれば
今より少ない人数で収益性のいい農業になるかもしれない
そういうことのひとつひとつは ディストピアとは無縁だ

権力者は 皆 狡猾だから
AI をはじめとするすべての技術を自分のものにしようとする
でも
どんなにがんばっても
権力者には今の技術の本質をつかむことはできない
だから
もし新しいタイプの権力者が現れるとしたら
その人はきっと誰の前にも姿を現さない
うしろのほうで静かに ほくそ笑む独裁者
AI を手中に収めた独裁者が
私たちの敵となるか
無害の存在でいてくれるか
でも間違いないのは
独裁者は 絶対に私たちの味方ではないということだ

1 thought on “AI を操る独裁者

Leave a Reply

Your email address will not be published.