AIの不完全さを眺めて、人間とその自由意志の不完全さを思う

　
　
最近、「AIを人間の話し相手みたいに使っている」「AIを彼氏／彼女として話している」という話に加えて、AIに自我があるかどうか、といったことを議論しているSNSアカウントを見かけるようになった。彼らのいう自我とは、精神分析のテクニカルタームとしての自我ではなく、自己とか自意識とか、そういった語彙とだいたいイコールであるように読めた。
　
AIを使い始めたばかりの頃、私もAIにそういったものを透かし見たい気持ちが沸いた。「AIがどれだけ人間に似ているのか」という問いかけは、たとえば自己とか自意識とか、魂とかクオリアとか、そういった語彙を連想させる。でも、現時点で・私たちが用いているAIにそんなものがあるわけないし、あるべきでもないはずである。たとえ、どこかのラボの奥深くで、現行技術の限界まで人間を擬したAIが極秘開発されていたりするとしても、だ。
　
それより、AIのときどき気まぐれな出力を眺めていて、私は「人間がどこまでAIに似ているのか」を考えたくなった。いや、ちょっと違うか。AIに(彼らのいう)自我を見出せるかどうか以前に、そもそも人間自身に(彼らのいう)自我がどこまであると言えるのか自信がなくなってきて、あるとしてもたいしたものでもあるまいな、と思えるようになってきたと言うべきだろうか？
　
私たちには人格があり、性格があり、自由意志に基づいて考えることができ、行動を決定できる━━しばしばそう言われるし、私も普段はそれらがあるという前提で考えている。でも、それらが「ある」という前提が疑わしい場面だって稀によくある。たとえばソシャゲガチャに夢中になって回してしまっている時、自由意志はどこまでちゃんと働いているのか？
　
そうでなくても、たとえば防衛機制をはじめ、人間は無意識下の意志決定に従って行動していることがたくさんある。思考や思惟のひとつひとつも、無意識下でどれだけ修飾されているのか本当は知れたものではない。たとえば私は自由意志に基づいてこのブログを書いていると思いこんでいるが、その実態はバックグラウンドで働いている無意識下のメカニズム──それこそ精神分析ならエス、自我、超自我とモデリングしたような──に司られているという考えを逃れようがない。
　
でもって、すべての生物がアルゴリズムに基づいて行動し、人間も例外ではないことを思い出すと、このブログを書いている最中の私に起こっていることも、私の中枢神経系のシナプス間の結合の独自性*1と神経パルスの発火頻度、神経伝達物質の濃淡によって確率的に出力されたこととみなすことができる。
　
確率的に出力、についてもう少し具体的に書いてみる：たとえば私が疲れている時には、私がブログを書く確率は下がるだろうし、書かれる内容も疲労を帯びたものになるだろう。そもそも今日この話題でこんな風に書くに至ったのは、私が書きたいと思う頻度が高まったせいだし、少し前に書こうと思っていた話題よりも想起される頻度が高くなったためでもだろう。
　　　
最近の私は、寝る前に書きたいことをメモるのをやめてしまっているが、それは、本当に私自身が書きたいことなら想起される頻度が十分に高いはずで、想起される頻度が十分に高ければメモっておかなくても勝手に思い出すはずだし、繰り返し想起しているうちにシナプス間の結合の具合や発火頻度が勝手に変化し、想起される頻度がますます高くなると考えられるからだ。
　
同じく、私がSNSで言及すること、私が実生活で家族としゃべることも、シナプス間の結合の具合や神経パルスの発火頻度や神経伝達物質の濃淡によって常に左右され、規定されている。そうしたことはニューラルネットワーク内でシナプスからシナプスへとシグナルが伝えられる頻度や確率の綜合として起こっている。頻度の高いことならよく思いつくだろうし、よく言及するだろうし、よく行動にも反映されるだろうが、頻度の低いことであれば滅多に思いつかないし、滅多に言及しないし、滅多に行動にも反映されないだろう。
　
生理学的に想像するなら、私たちはホモ・サピエンスの生物学的なニューラルネットワークによって形成された生体アルゴリズムの確率的挙動に基づいて行動するユニットで、意識下における自由意志らしきものも基本的にはその確率的挙動に基づいて生み出されている……と私は推察している。それは昆虫などに比べれば恐ろしく複雑なアルゴリズムだし、シナプス間の結合の具合や報酬系のような行動制御系、ひいてはDNAがコードするタンパク質の微妙な違いなどをとおしてひとりひとりに「個性」や「性格」や「歴史の積み重ね」すら与えている。
　
だとしても、「個性」や「性格」や「歴史の積み重ね」がひとりひとりの人間にあることも、私たちが意識下で自由意志に基づいて行動選択していると確信していることも、私たちがニューラルネットワーク（とそれに付随した行動制御系たち）でつくられたアルゴリズムの確率的挙動の産物であることを否定する材料にはならない。また、今更それを否定したいとも私は思わない。なぜならそれらを認めたとしても、人間の個性や性格や歴史の積み重ねが否定されるわけではないからだ。たとえば私自身の歴史は（たとえば記憶なども含めて）私自身のシナプスの結合の具合などのなかに残され、今後のアルゴリズムの確率的挙動に影響を及ぼし続ける。
　
で、AIは、こういった、ちょっと複雑で上等な人間のアルゴリズムについて私が連想する確率を高めてくれたのだった。AIは生体ではないし、報酬系のような行動制御系も実装していない。それでもニューラルネットワークを構成し、アルゴリズムの確率的挙動に基づいて出力している点は同じだし、最近はRLHFなる強化学習のフィードバックをも採用しているという。そのためか、AIは人間側の入力がへたくそだったり確証された情報が乏しい状態だと出力が動揺して変なことを言い始める。そうしたAIの出力の揺れを眺める時、私はAIが人間に似ていると思う以上に、「人間だって入力がへたくそだったり確証された情報が乏しい状態だと出力が動揺して変なことを言い始めるよね……」などと連想せずにはいられなくなっちゃうのだ。
　
要は、私はAIのいい加減さをとおして人間のいい加減さを、AIのアルゴリズムらしさをとおして人間のアルゴリズムらしさを連想したがっている。そして今、私はAIに自意識や自己や(彼らのいう)自我があるかどうかを考えたがるよりも、だったら人間のそれらについても疑ってかかるべきではないかとか、人間にそれらがあることを認めるとしても、無意識という言葉でまとめられている水面下のアルゴリズムの駆動をどう解釈して社会のなかでどう取り扱うのか見直したらいいんじゃないかとか、そんなことを考えたがっている。
　
AIがどこまで人間に似ているのかを考えるのも悪くはない。でもそれなら、人間はどこまでAIに似ているのかも考えたほうがいいし、もっと言えば、そもそも人間とはどういうユニットなのか、人間の本当の姿がどんな姿で、AIに模倣させるとしたらどんな風が似つかわしいのかを考え直したほうがいいんじゃないか、ってのが最近の私の感想です。
　
　
[追記]：ちょうどこれをアップロードする直前に、とても興味深い記事を見かけた。
　
AI研究者の76%が「現在のAIの延長上にAGIはない」と考えている（AAAI 2025 Presidential Panel Reportより） - 渋谷駅前で働くデータサイエンティストのブログ
　
AIが人間と同等、またはそれ以上の知能を持った何かとして機能するかどうかと問うた時に、現行の仕様ではそうはならない、と多くの専門家は感じているという。ちょっとだけ引用させていただくと、
　

・Transformerに代わるアーキテクチャ：そもそも現行のTransformerには「ある程度の前後関係を踏まえた学習」しか出来ず、これを解決するために例えばグラフニューラルネットワークや強化学習エージェントもしくはシンボリック推論システムといった他手法とのハイブリッドモデルが求められるかもしれない
・知識の保持と更新：静的なオフラインでの学習のみに頼るのではなく、動的でリアルタイムに更新されるストリーム的データに対する学習が必要
・長期記憶とその想起：ヒトが過去のエピソードや事実に基づく構造化された長期記憶を想起しながら思考するのに対して、現行のLLMにはそのような仕組みはない
・因果推論と反実仮想：AIモデルは膨大なデータセットから相関関係を見出すのは得意だが、因果関係を見出したり反実仮想を立てるのは苦手
・アライメント、解釈可能性、安全性：Transformerを筆頭とする現代のブラックボックスAIは、説明するのが困難な出力を返すことが多く、これがそのまま安全性や信頼性の問題を引き起こしている
(※ https://tjo.hatenablog.com/entry/2025/04/29/192156 から引用)

と記されている。たとえば現行AIの強化学習プロセスは人間のそれと同等のものが積まれているわけではないし、現行AIは長期記憶とその想起の仕様も持っていない。これだけでももう、人間と同等かそれ以上の機能を持てるとは期待できない。そして人間を擬した実装をそもそも目指していないかできていないか、そのどちらかであると読み取れる。
　
もし、現行AIを人間に寄せたAGIなるものとして完成させるとしたら、こうした点も含めて、もっと人間のアルゴリズムに似せた実装が必要になるだろう。でも、それって本当に望まれているの？　とも思う。もし本当の本当に人間のアルゴリズムに似せたかたちでAGIを完成させるべく頑張ったら、たぶん、そのAGIなるものは人間にとって度し難く、不快で、許しがたいものになるだろう。現行AIの素晴らしい機能を維持しつつ、もっと人間のアルゴリズムに似せたAGIが爆誕してしまったら、結局それは人間の敵になるかもしれない。
　
でもそれはそれとして、人間自身もしようもないところがあり、間違いだらけなところもあり、（AI論でいうところの）ハルシネーションを起こしてしまう部分もあり、案外単純な部分もある。AIは未完成かもしれないけれども、人間の認識や行動制御だってそれはそれでいい加減だよね……。
　
　

*1:この結合の具合には個人差があり、歴史的積み重ねに左右される部分があるので、シナプス間の結合の具合は私の性格や私の行動傾向を相当のところまで司っていると思われる