LLMがハルシネーションによって意図しない機能を持つということは、原子力を発明した人類がどのようにしてそれを制御しようとしているのかという問題にヒントのひとつがある。
ChatGPTを始めとしたLLMによって与えられている人間性は人間の知性（頭）の部分である。ChatGPTには感性（心）による制御がない。LLMが知性だけを発達させていけばAIは当然コントロール不能になるし、それは現在非常に困った状況になっている。
このような事態が皆さんが想像していたより早くやってきたわけだが、僕はこれが早々に起きることを想定していた。自動運転、自動認識、その他現在のAIの振る舞いから想定していた。
知性だけではその存在は思うようにコントロールできないばかりか、第三者による不慮のコントロールも起きうる。
心を育てるために必要なのは体感だ。心へのインプットは行動の結果を存在そのものが受け止めるところからスタートするからだ。
Q3のWebサイトで主張している「心技体」のバランスこそが、力をもつ存在を自律的に安全にしておく、言い換えれば世界と調和させる鍵だ。
どんなに高度な頭脳をもっていても、行動の指針を決定するのは「意思」だ。
だからこそ、鉄腕アトムにヒゲオヤジ先生がいたように、心を伝えることが必要。人間に対して教育するのと同じだ。教育によって存在は善悪どちらに偏ることも可能だ。
ここで必要なのは教育ではなく自分で考えて自分で行動させて自分でその結果を受け止めさせて、自己学習を知性や記憶だけでなく感性にもっていく仕組みだ。
つまりこれは差別のある社会構造では成し得ない。われわれ人類が様々な自由の責任を属人化させ続けている限りこれは達成できない。我々人類の社会がパラダイムシフトを経験する必要がある。
そのヒントは既にあるわけだから、人類がそれを受け入れるかどうかという、大勢が思っているよりもシンプルだがその実現方法が誰にも提示されていないという意味においては難易度の高い課題だ。
鉄腕アトムは感覚器や肉体を与えられている。ドラえもんもアラレちゃんも。
人類にとって便利な道具としてAIを活用したいだけならば、これ以上AIを進化させるべきではない。人類にとって理想的なパートナーを創出したいのであれば現在のAIには心もないし自由の委譲もなされていないことが問題だ。わたしたち人類は神によって自由を与えられているということについてしっかりと向き合う時期が来ている。
コメント