2026年3月 SINGULARITY
映画「ターミネーター」では 人間が開発したスカイネット（情報ネットワーク）が人間に依存しない自律した能力を備えることになる。結果として スカイネットは人間社会を攻撃し破壊しようとする。生き残った人間レジスタンスはスカイネットに戦いを挑む。人間にとっては到底勝ち目のない戦いだが タイムマシンが人間に味方する。タイムマシンに現実味があるかどうかには疑問が残るが スカイネットには現実味がある。そして スカイネットと人間が戦えば人間に勝ち目はないというのにも納得感がある。
皆さん方は”Singularity”という言葉を聞いたことがあるだろうか。日本語では「技術的特異点」と訳されている。システムが人間に頼らない自律的な能力を持つ時代への転回点を指す。たとえば パソコンが自分で自分のソフトの欠陥や問題点を発見し 自分でそれを改善する。つまり パソコンが自分で考え 解決策を生み出し 解決に向けて実行する時代の到来だ。時代はその一歩手前まで来ているような気がする。そうなれば スカイネット到来まではもう少しかもしれない。
先日 このSingularityという言葉を思い起こすニュースに出会った。1月に米国で公開された”Moltbook”というSNSに関するニュースだ。自律型AIのみを対象にした世界初のSNSだ。未だセキュリティ上の問題を抱えているらしく 安易な参加には警告が発せられている。しかし このSNSのインパクトは大きく イーロン・マスクは「MoltbookによりSingularityの初期段階に入った」とコメントした。
どうやら 私たち一般人がChat GPTやGeminiなどの生成AIをこれは便利だと利用し AIとは便利なものだと考え始めている間に 世の中は確実に自律型AIの時代に突入している。10年もしないうちに 経営者と従業員数人のみで運営する売上げ1千億円のIT企業が出現するかもしれない。その企業を実質的に動かしているのは自律型AIだ。ある意味 背筋が寒くなる。
なぜ背筋が寒くなるのか。ホワイトカラーの職がAIに奪われるから？確かにそれもある。しかし 本当の恐怖はもっと根本的なところにある気がする。人間社会を形作ってきた「道徳」の崩壊だ。
たとえば 自動運転する車が 危険状況に直面したとしよう。そのままハンドルを切らねば100人の死傷者を生む事故に発展する可能性がある。その可能性は30％。そして 車に乗っている本人が死傷する可能性は90％。一方 ハンドルを切れば数人の子供の列に突っ込み 90%の確率で何人かの子供の命はない。しかし 100人の死傷者を生む事故に発展はせず 本人の命が助かる可能性も90%。さて 自動運転を支配する自律型AIはどういう判断を下すのだろうか。
例えば 製薬会社が新薬の開発に自律型AIを活用すると仮定する。開発中の新薬は1万人の命を救うが数10人の命を奪いかねない。AIはこの開発をどう判断するだろうか。
100%自律型のAIは本当に登場するのだろうか。そのAIは道徳を持ちえるのだろうか。その道徳とは誰の道徳なのだろうか。人間社会の道徳と相いれるのか。正しいかどうかを考えるためにいったん立ち止まり人間の意見を聞く能力を備え得るのだろうか。来るべく自律型AI時代を念頭に もう一度ターミネーターを見ることにしよう。怖さが一段と身に染みるに違いない。