  |
はてなキーワード: 中国語の部屋とは
人間の心をAIで再現したとかやっていたがああいう試みは意識というものを非生物学的に作り出すためなのだろうか？
もしそうだとしたらアプローチが間違っていると思う。
意識というのは別に意識がある人間とかのような存在と同じ振る舞いをさせたらそこに自動的に宿るという種のものではないことは中国人の部屋の心をAIで再現したとかやっていたがああいう試みは意識というものを非生物学的に作り出すためなのだろうか？
もしそうだとしたらアプローチが間違っていると思う。
意識というのは別に意識がある人間とかのような存在と同じ振る舞いをさせたらそこに自動的に宿るという種のものではないことは中国語の部屋が提起している。
実際は本当にそれだけで宿るのかもしれない。しかしそれはわからない。
でも逆のことを我々はよく知っている。
我々が金縛りという夢の一種を体験しているとき、傍から見ればなんの反応もない、科学的に意識があるとは認められない状態だが、
実際は本人のなかでは確かにある種の苦痛や、それについて感じたり考える思考のフィードバッグ先としての自我(といっていいのか知らないが)がある。
今の科学的な定義ではこのようなものは意識にあてはまらないだろうが、我々が意識と言って指し示したいものにはこういったものも興味関心の範疇として含まれると思う。
「意識」と言う言葉を使って何を論じたいのかの目的論的な本質にかえって考えれば、そのように意識の定義が拡張されるか術語が定義されるべきこと当然である。
そのようなものひっくるめた意識を考えたら、意思疎通ができない状態の存在にすら意識があるのに、意思疎通できいぇいるような振る舞いをするAIを作ってなんで意識の本質に近づけると思えるのか？と思ってしまう。
そんなことを言い始めたらそこらへんの植物や石にすら認識能力はないが「五感を封じられた存在としての」意識はあるんじゃないか、とか極端に走ることになるかもしれないが、少なくとも寝ている人間にすらある種の意識があることは念頭に置くべきだと思う。
この手の概念は直観的に感じ取れる人には明白だが、なんのことを言っているのか万人が共有できるように記述することはとても難しい。
-----BEGIN PGP SIGNED MESSAGE----- Hash: SHA512 https://anond.hatelabo.jp/20250706141620# -----BEGIN PGP SIGNATURE----- iHUEARYKAB0WIQTEe8eLwpVRSViDKR5wMdsubs4+SAUCaGoGpQAKCRBwMdsubs4+ SAUPAP9vr645DB4+2AS0rpe2c5cF2bSPtC7Ef86H10IDHDgmPAEA+5ZbCTU1WU0f wqC+j9Zm33zkfmGy/nYSZHsiNjPFDQA= =pAgQ -----END PGP SIGNATURE-----
https://ja.wikipedia.org/wiki/%E4%B8%AD%E5%9B%BD%E8%AA%9E%E3%81%AE%E9%83%A8%E5%B1%8B
人を密室に閉じ込めて、外から中国語のテキストを与える。密室のなかにはそれを翻訳するための情報が十分にあり、人はそれをもとにテキストを英語に変換して外に返す。このやり取りで会話が成立したとして、そのとき中の人は中国語を理解していると言えるか? という話。
1980年の思考実験が現代になって議論の対象として復活するとは思わなかった。
今後経験の浅い連中がAIに書かせたコードを「私の成果です」って顔で持ってくるようになるんだけど、多分そいつはそのコードが正しく動くかも、どうして動くのかも理解していない。ベテランがその尻拭いをする世の中がまもなくやってくる。そしてベテランは「若いのを教育するより自分でAI使役したほうが早いわ」となって人を育てることを放棄してしまう。
もう受験生でもない自分が高校レベルの参考書や問題集をいつまでも解いたりするべきなのか分かりません。
解いたりするべきだと思う以下の持論を持っているのですが、この持論が正しいかどうか全く確信が持てません。
以下から持論です。
まず、高校で習うことを理解していなければ、大学以降のより専門的なことが理解できないことがあるというのは確かだと思います。
だから私を含めそういう専門的なことを理解したい人は、高校レベルのことの穴を埋めるべきだと思います。
それをせずに大学レベルのことの学習に手を付けても理解できることがある可能性はありますが、その理解したという感じに錯覚の場合が混ざるおそれがでてくると思います。
つまり理解してないのに知った気になる、いわば「何がわからないかわからない」状態に陥る可能性が出てくると思うのです。
そのうえで、そのような大学レベルのことを理解していないと理解できない、より高度な理論を学ぼうとすると、今度はわからないという自覚はあるが「なんでわからないのかわからない」という状態に陥ることになります。
つまりその高度な理論を理解するのに必要なそれに比べれば相対的に基礎的な理論や概念は複数あることも当然考えられ、そのどれを理解してないのかがわからない、特定できない、ということが考えられるわけです。
理解しなければならないこととしては当然高校レベルの部分に穴がある可能性もあるでしょう。
しかし学ぼうとするものを見ても、その理論等の全容を見て、具体的にどんな知識が必要か余すことなく把握することは意外に難しいでしょう。
単に用語の意味を知らないといったことなら、その用語をネット検索で、その用語を使っている理論のなかでもっとも基礎的なものが何かということを目星をつけて、そこから学ぶという方法がとれるでしょう。
しかし学術的文章が理解できない原因は必ずしも「単にこの言葉がわからないから」というような、わかりやすい輪郭を持ったものに由来しているとは限らないと思うわけです。
大学レベルの参考書(学術書)や論文を書く人は受験競争を経験した人なわけですが、受験勉強で得た「考え方のひな型」のようなものが、少なからずその後の思考やそれに基づく文章に影響を与えていると私は考えます。
それはもはや自覚的に認識できるものではない、無意識下にある思考の体系であるわけです。
その「枠組み」を共有していない人にとっては、より言葉を尽くさないとわからないことでも「既知の事項として」という感覚すら持たずに、その部分の言語化をせずに文章を書いている部分があると思います。
特に幾何学が絡む記述は、センス=ひな型・枠組みを持つ著者自身には空気のように当たり前のことであるために記述がシンプルになってる説明に対して、枠組みの無い人にはなんでそうなるのということがまるでわからないということが起こり得ます。
それは著者すれば「なんかこいつすごく察しが悪いな」としか思えないほど逆に理解しがたいことです。
これは大学と高校の話ではなく高校とそれ以下の話なのでたとえが悪いかもしれませんが、たとえば高校物理である部分の角度と別の部分の角度が同じという事実から式を導出することにおいて、なぜ角度が同じといえるかということの説明まではされてないみたいなことがあります。
これは、角度のことについてなら、中学受験の算数の難問を数多く解いてきたりその答に対する解説を見た経験が、まさに有機的に思考の枠組みとして血肉化した書き手自身には、条件反射的に当たり前のように角度が同じだと認識できるが、そうでない人には説明がないとわからない、という枠組みの有無による断絶ともいうべきことが生じているのだと考えられます。
しかし書き手にはすべての読者のレベルに対応することは不可能ですし、そもそも「枠組み」がある当人には1+1=2のレベルで当たり前のようにしか思えない角度の同じさを説明しようという発想すら起こらないから、こうしたことが起こると思うわけです。
そしてこの枠組みは「枠組みが足りてないから理解できないのではないか」という必要性の認識に応じて選択的に必要十分なものを特定して身に着けられる、という性質のものでないわけです。
上記は高校とそれ以下のレベルでの話ですが、大学とそれ以下のレベルという場合でも同じ構造的問題を共有していると思います。
因数分解や極限値を求めるための式変形の定石や、その他証明問題などに対して定石と呼べるような解法から定石ではない解法まで、その問題をこなしてきた人たちにとってはその経験が枠組み化しています。
なのでその人たち自身が見てきた高校レベルの参考書では途中過程として式変形など書かれていたものが、当人が研究者になって書く大学レベルの本ではその本人の主観的に自明性が強すぎてその途中過程を書くような発想すら存在しないわけです。
ですから、大学レベルの本を理解するには、およそ考えられるかぎりのあらゆる高校レベル以下の問題を解いて理解することを片っ端から行いその経験を積んで枠組みとする必要があると思うのです。
でなければ結局「何がわからないかわからない」「なんでわからないかわからない」という状況に陥ると思うわけです。
予備校講師の数学のアドバイスで「数3は数1Aと数2Bの知識がなければ理解できないというが、だからといって数1A・数2Bを完璧してから数3に取り掛かる必要はない。完璧は難しいのだから同時並行でよい」という趣旨のことを書いていたのを見たことがありますが、まずこれは受験勉強に関してのアドバイスであるということに注意するべきだと思います。
つまり点を取るためなら、完璧でない理解でも、ふわっとした理解でもパターンとそれへのあてはめとして、問題は解けてしまうということは十分考えられるからです。人口無能、あるいは中国語の部屋のようなものかもしれません。
一方で学問として理解するということにおいては、厳密に完璧に理解していなければ、ただの知ったかで、それは全く理解してないのと同じ価値しかないのではと思うわけです。まさに論理として理解しているのではなく「受験で点が取れる感覚」でパターン認識としてわかった気になっているだけだと思うからです。
また、大学以降のより専門的なことが理解できれば、高校で習うことはすべて理解できる、というわけでもないと思います。
先ほどの高校物理の例にあるように、高校レベルのことが当たり前になってる人が書いた大学レベルの文章には、高校レベルのことは書いてないことがあるわけです。
そして、どの大学レベルの理論を学ぼうとするかによっては、自分の持つ枠組みで十分にその理論が理解できるということはありえます。ありとあらゆる高校レベルの枠組みを網羅している必要はないわけです。
なので、大学レベルのことは理解してるが、その大学レベルの文章に高校レベルのことは書いてないかもしれないので、その後大学レベルのことにしか触れなかった場合、高校レベルだけど初見だと解けない問題が死ぬまで解けないままであるということが起こり得ると思うわけです。
たかが高校レベルだから、初歩的なんだから受験生じゃなくなっても真面目にとりくむほどではないと思うかもしれません。
しかしそのように単なる初歩的なこととされるかは、意義深いこととされるかは、時代次第の相対的なことではないでしょうか。
2000年以上前ならピタゴラスの定理を理解することも十分意義深いことだったでしょう。
時代が進むことによって、より高度な定理や理論が発見され、既存の定理はそれを理解するためのより初歩的なことと規定し直されるというだけです。
このような文脈での主語はあくまで「人類」です。言い換えれば、人類のうち誰かひとりでも知っていたり理解していたりするようなことを全て知っているような、仮想的な知性にとっての意味付けだと言えると思います。なかば無意識的にこのような仮想的な知性と自分を主語のうえで同化させてこのような「初歩的/意義深い」という価値判断をくだしているにすぎないのではないでしょうか。
あるいは「文明」を擬人化して主語においているとも言えるかもしれません。「文明」にとって、容易に理解できる初歩的なことかどうかということです。
一方実際に世界を経験する主体の単位は「個人」であり、わたしであり、あなたです。
ある時代にとって意義深いけれど今は初歩的なことを理解してない個人がいるならば、人類や文明が主語である場合、それが最先端の知識=未知であるか、または既知となって間もないか、で意義深いかどうかの価値が規定されていたのですから、個人を主語にした場合も同様に考えればよいのではないでしょうか。
つまりその個人が理解してないのなら、それはその個人にとって意義深いことなのだと思うのです。
大学レベルとか高校レベルとか関係なく、「自分が知らないという意味で意義深い」解ける問題を増やしていくことは、この世界や現象に対する理解の解像度をあげると思うのです。
だから大学レベルのことには書いてない高校レベルの問題の解法も赤本や難関大を意図した参考書には無数にあるので、それを解き続けることには、それを飛ばして大学のことを学び始めることを通じては経験できない意義深さがあると思うのです。
まとめれば、高校レベルのことが足りないために大学レベルのことが理解できないこともあれば、大学レベルのことでは身に着けられない高校レベルのこともあるので、結局この世の中をよりよく理解する手段として高校レベルのことも大学レベルのことも等しく有効なら、まずは高校レベルのことを完璧にしなければならないのではないか、と思うわけです。
ここまでが持論の全容です。ですが世の中の成果をあげている科学者の全てがこのようなことをしているとは到底思えないので、自分の考えが合っているなどという確信は全く持てないわけです。
なので、ぜひ、反論できるところがあったら教えてください。
正しさは数カ月後の司法が決めるとして
お前が納品したモノ、どういう機序でそれができてるか分かってるか？お前は中国語の部屋に閉じ込められた見世物だ。
手やら遠い背景とか細かいところが適当でもお出ししちゃうじゃん。それ、いいの？例えば記号としてのイラストだったらいらすとやがあるし…お前の作ってるものってなんなんだ？
俺も分からん。多分法律家の意見も割れる。初回ボーナスでグレーゾーン通り放題なので今のうちにイキってろ。
お前の作ってるものは再現性があるので、生成物が法的に認められた瞬間に量産体制に入る。「機織り機の使い方がうまいやつが財を成した」なんて話聞かないだろう。資本家が本気出せばお前の仕事はなくなる。
ナンバーディスプレイの番号通知を見ると国番号86から始まっており、中国からの国際電話だ。番号は毎回同じではないようだ。
いくつかパターンがあって、中国語を話しているので内容が分からないもの、片言の日本語で「○○ですか？」などと聞いてくるが返事をしても会話が成立しないもの、英語で「ハロー？」などと言うがやはり会話が成立しないもの。また通話口の背後で中国語の会話をしている時もある。人工音声っぽいところもあるが、かなり自然な発話をしていて、人間だと言われればそんな気もする。
それが一日に何度もかかってきたり、数日置いてまた再開するのがもう数ヶ月続いている。
ググると「在日中国人を狙った詐欺です」みたいな説明が出てくるが、同じ番号に繰り返しかけてくる頻度や日本語と英語のパターンを聞いていると、違うと思う。
中国側でどんな仕組みを使うにしてもいくらかの電話代がかかっている筈であり、なんのためにやっているのか、さっぱり分からない。
唯一考えられるのが、中国の企業が会話AIを育てているという仮説だ。
店舗の電話なのでそれなりに丁寧な応答をしているから、通話時間が長くなることを評価指標にして、機械学習をぶんぶん回しているのだ。最終的にはチューリングテストを通るようになる。まさに「中国語の部屋」だ。
本当に弱い人間にはなんの役にも立たない。
限界まで働かなくても生きていける暇人、他人の話を聞いている余裕のあるような奴らが、理解出来もしない痛みを受け止められると言い張り、結局受け止めきれずに説教を始める地獄の悪夢。
自分に想像すらできない生き辛さがあることを想像すらしていないから簡単にできると思いこむ。
本当の地獄の中で生きる人間達、その多くは言葉そのものが違う世界の中で中国語の部屋を増築し続けなんとか生き抜いている。
そんなものたちとの会話を、趣味だ自己実現だという甘い感情でやってまともに受け止められるはずがない。
感情を満たすために立ち向かい本当に共感を繰り返そうものなら、数多の尖鋭されきった社会不適合な価値観に心を引き裂かれ凶人となる他はあるまい。
金のために、ただ金のためだけにやっていると己に言い聞かせそれを足跡とする以外に、多様化しすぎた壊れた価値観に対して共感しているかのような態度を取り続けてから狂気の園より元の日常へと変えることなど不可能だ。
だが、いのちの電話は金を取らない。
本気で共感などしていない。
だから何度も電話を受け、何度も話を聞き、何度だって戻ってこれる。
本気で相手などしていないから、自分がここにいる理由を指し示す正気へのコンパスを握りしめなくても戻ってこれるレベルでしか相手にしていないから平気なのだ。
○朝食：にゅうめん
○昼食：レバニラ炒め定食（ご飯、たまごスープ、餃子、漬物、レバニラ炒め）
○調子
むきゅー。
今日は、久々に頓服薬を飲まなくても大丈夫な程度の辛さだった。
けど、耐え切れない頓服飲む！ とまではならなかったので、かなり治ってきているのかもしれない。
それがあまりにも嬉しくて、たらふく飯を食べた。
ご飯をたくさん食べると元気が湧くし、生きることに前向きになれる……
明日から一週間はじまります、とりあえず水曜日は通院の予定でおやすみするけど、ぼちぼちお仕事も頑張れるよう、むっきゅりするぞいや！
それで、今日は久々にご本を読む日にしてみた。
ワンシチュエーションものの短編連作と短編集の間みたいな作品。
謎解きのギリギリまで「そもそもこれは何を問うているミステリなのか？」がさっぱりわからないのだけど、
謎解きが始まった瞬間にその辺りがビシッとハマりだす、ある意味ホワットダニットものの一種なのかしら。
ネタを割ってしまえばxxxダニットなのだけど、謎を提示する段でそもそもこれがxxxダニットものだと気付かせない構成ってのは、面白かった。（前例的には倒叙と気付かせない倒叙というか信頼できない語り手の方向でありそうな気がするけども）
全体的に良い意味褒め言葉として「ミステリのお手本」のような、教科書的な楽しみができて、作者の地力の高さを強く感じた。
僕は、飛び道具よりも地に足をつけた格闘戦の方が好きなので、こういう作風は大歓迎。
この作者のノンシリーズものを読んだのは初めてだけど、確実にミステリ作家として今後も信頼できそうな出来なので、追いかけていこうと思う。
AI探偵ということで、フレーム問題やシンボルグラウンディング問題や不気味の谷や中国語の部屋など、ミステリでは後期クイーン問題を通じて馴染み深いものもある哲学的（数学的）な課題と絡めての謎解きが繰り広げられる。
僕は割と、というかかなり名探偵に対して甘い読者なので、かなり読み進めるまで、違和感に気づけなかった。
（だから僕、名探偵自身がトリックに絡む系の謎滅多に先読みできないんだよねえ。作者に麻耶雄嵩って書いといてくれれば、心構えの一つもするんだけどさあ）
なので思わず、すぐに読み返して逆転感を堪能できて楽しかった。
全体を通じて、ミステリのパロディ要素も強く、AIの技術的な部分も程よくわかりやすく噛み砕いてくれてるため、正誤はわかりもしないけど、この本を読むにあたっては苦労なく楽しめた。
SFはそもそも話の主題がどこにあるのか？ から読み解く必要があるから、技術的な部分をどこまで読みとかなければいかないのか？ がとても難しく、読み手が止まることが多いのだけど。
ミステリは今回何を推理すればいいか、は割と早い段階で明示されるから、そこに向けて技術的な話も理解しておけばいいので、スムーズに読めて楽しめた。
続編も出せそうな終わり方なので続きもきになる。
本格ミステリベスト10の近況報告によると書く予定はあるみたいなので、楽しみにしておこう。
○グラブル
ゼノウォフの武器は二つとも作った。
水の方は毎日コツコツやってくか……
GW明け、お土産を片手にオフィスを廻る人たちと談笑を楽しむ人たちと一言で終わる人たちがいる。
こっちは富山でも北海道でもそれを下地に話を膨らませる準備はできてるのに、話が続かない。
「こちらどれかお一つどうぞ。」
「ありがとうございます。どちら行かれたんですか？」
「北海道です。」
「この時期まだコートいるんじゃありませんか？」
の、ありがとうございますから続かない。脳内シミュレーターは完璧なのに。
聞き上手な人は陽キャと聞いて、中国語の部屋より受け答えを用意しているつもりが相手から乗ってくれない。
さばしおの美味しい、麹町のながおかは今日も休みだった。体調崩されて二週間ぐらい休まれてから不定期の週休が続いて、不安が募る。
やむなく別の店に入った。
