「推論する生成AI」は実際には思考しているわけではなく、丸暗記した結果を返しているに過ぎない - 渋谷駅前で働くデータサイエンティストのブログ

テクノロジーカテゴリーの変更を依頼記事元:

tjo.hatenablog.com

355users がブックマークコメント

「推論する生成AI」は実際には思考しているわけではなく、丸暗記した結果を返しているに過ぎない - 渋谷駅前で働くデータサイエンティストのブログ

今回のテーマは以前からずっと言われ続けている話題なので特に目新しくも何ともないのですが、たまたま... 今回のテーマは以前からずっと言われ続けている話題なので特に目新しくも何ともないのですが、たまたま近い時期に2本の似通った内容の論文がarXivに出たので、まとめてダイジェスト的に紹介しようと思います。以下がそれらの論文です。1本目はApple、2本目はGoogle DeepMindによる研究です。どちらもSNSや技術メディアでは既報の内容であり、ご存知の方も多いのではないでしょうか。これらの論文は本質的には「『推論する生成AI』は実際には思考しているわけではなく、丸暗記した結果を返しているに過ぎない」と各種の実験結果から指摘するものであり、今後の推論生成AIの研究開発を行う上で新たに考慮されるべき指針を提案しています。そもそも「推論する生成AI」とは何なのか「推論する生成AI」は既知の複雑な課題は解けるが、その難易度をどんどん上げていくと解けなくなる逆に、「推論する生成AI」は既知

shields-pikes なぜこの程度の理解度で、この記事を書こうと思ったのが……。基礎の仕組みさえわかっていれば、LLMも人間の脳も事前学習＝記憶（丸暗記）ではなく、単なる重み付けでしかないことは理解できると思うんだけど……。

2025/07/23 リンク

htnmiki 推論できる人間はごく一部で、私を含むその他多くの人間は「丸暗記したパターンのマッチング」しかできない可能性は高い気がする。

2025/07/24 リンク

ledsun 「その場でパターン（ルール）を認識して別の問題に適用する」ができないんだよね。たぶんLLMでは無理で、別のブレークスルーが必要なのでしょう。

Tora2013 ダメだこりゃ、おっさんAI屋の芸風はもうバレてるからもう潮時だぜ　あとTransformer の仕組み位ブコメ共は言及しろやアテンションの仕組みなんてChatGPT が簡単に説明してくれて公開論文で裏とれるのに

henoheno7871 コレは、AIの能力の問題というより、未知の問題に対するアプローチの仕組みの話のような気がして、何某かのロジックなり手法が確立されると簡単に解決できそうな気はする。

dalmacija LLMの機構は文脈の検証であってもとより論理検証ではないし、丸暗記という準えもあまり適合的じゃないと思う。Reasoningが言い過ぎなのであって、日本語の「推論」の方がまだ実態のニュアンスに即している印象

myr だとしても数学オリンピックの金メダル取れるし、ほとんどの人間以上なわけで...日本人的には「まぁ人間そんなもんで猿よりちょっと良いだけ。」で納得できるけどクリスチャンの白人様は今後どう自我を保つんだろう

nisatta url読んでニュースに触れて日付とか認識してても、grokは「石破総理とありますが日本の総理大臣は岸田です」とかちょいちょいかましてくる。事前学習のウェイトが重すぎて、時と共に変わる事柄に弱すぎる

nakakzs これ、画像生成AIと言われるものは実は現状学習結果によってイチから構築して画像作成しているものはあまりなく、ほとんどがAIを標榜した既存画像のコラージュにしかなってないという現状と似たようなものかね。

2025/07/25 リンク

yojik AIに世界モデル(物理モデル)を持たせるのと同様に、論理的な思考や推論を座標にマッピングして扱う抽象思考空間モデルみたいなものも持たせる必要があると思ってる。(ジェフホーキンスの脳理論をなんとなく信じてる)

khtno73 まあ現実の人間もパターンマッチしてそれっぽいことを返してるだけの活動がほとんどだからなあ。本気で考えてなにか新しいことを創造してきた/いま創造している一握りの人類のはすごいという話でもある

kusomamma 電卓は人間より計算が速いが人間より賢いとは言わない。LLMが数学オリンピックの問題を解けたところで数学オリンピックの問題が解けるというだけたし、数学オリンピックの問題を解かねばならないタスクは日常にはない

misshiki 内容関係ないけど。“ LLMに対して、「推論する生成AI」は大規模推論モデル(Large Reasoning Models: LRM)と呼ばれるようで、今回紹介する論文中でもそれらの呼称が用いられています。”

sisopt なぜかブコメで叩かれてるけど自分には意義のある記事だった。AIって推論してなくね？って思ってる人は結構いるから、“推論”が嘘ですって論文も出てます、って広めてくれるの大事だと思う

golotan 丸暗記というより既知データからの帰納的推論に終始してると言った方が正しいと思う。演繹的に見える論理的な推論も連鎖的な帰納的推論でその近似解を出してるような感じ

satokunya 過学習と解釈できるってのが面白い。アブダクションみたいな学習機構を実装できたらこの辺の問題解決するんだろうか

kenjou 人間よりも持ってる知識量が圧倒的に多いので、知っている中から答えるだけでも十分に高い能力がある。それに最近は確認をしたり、疑問を抱いて修正するタイプのAIも出てきており、回答の正確性は向上している。

yoyusuyasan 『思考』の際に物事に纏わる記憶や経験、推察、そして自由意志が働かずパターンで応答する人間がこんなに多いんだな。さもありなんという世相だね()

pwatermark 仕組み的には人間の脳も同じようなもんだと思ってんだけどね人間の脳とLLMの違いは何なんだろう、って考えていくと、自分の頭の中が不思議になってきて面白いよ

maketexlsr 外挿が苦手なのは境界条件に外挿入れるのと同じ方法で結構簡単に解決するんじゃないかな…と思ってる。小規模な数値しか扱ったことないけど。あと合うかは知らんが。

BIFF 人間も論理的思考が苦手だよね。かなり多くの人が「バットとボールは合わせて110円です。バットはボールより100円高いです。ボールはいくらでしょう？」という問いに「10円」と答える。。

AI
思考

deep_one 知ってる。それだけで「思考しているように見える」ことから「我々は本当に思考しているのか？」という疑問が発生している。

Domino-R たぶんヒトも推論/思考などしておらず、単に行き当たりばったりで試行したもののうち適合的な結果が生き残って蓄積、を繰り返しているだけよ。

diabah_blue 丸暗記という入れ食いワードを出しているけど、適切な表現とは思えないな。一方で確かに広く使われている「推論」というワードも言い過ぎで適切とは思えない。まあ現状のLLMの推論でも実用上は十分役に立つ。

suka6411144 明らかに数値計算に弱いというのは肌感覚でも感じていて、そこらへんを補完するもっと別の仕組みが必要な気はしている

ookitasaburou “これらの論文は本質的には「『推論する生成AI』は実際には思考しているわけではなく、丸暗記した結果を返しているに過ぎない」と各種の実験結果から指摘するものであり、”

nemoba "既知の複雑な課題のルールを改変すると「どう見ても難易度が下がっている」のに解けなくなる"これねーこのせいで、課題を一般化する癖が人側につきそうｗ / 言ってるのは九九丸暗記で掛算理解できるのかつう良ある話

はてなブックマーク

「推論する生成AI」は実際には思考しているわけではなく、丸暗記した結果を返しているに過ぎない - 渋谷駅前で働くデータサイエンティストのブログ

記事へのコメント87件

関連記事