人とAIが共に見出す意味の世界『記号創発システム論』: わたしが知らないスゴ本は、きっとあなたが読んでいる

人とAIが共に見出す意味の世界『記号創発システム論』

AIに問いかけると、返事が返ってくる。このときAIは「意味」を理解しているのか？

ある人は、「それらしい回答を統計的にでっち上げているだけで、意味なんて分かっていない」という。またある人は、「統計的に近い意味を持つ言葉から生成しているから、意味を分かっていることと同じ振る舞いをしている」という。

この二人の間に横たわるのは、「意味とは何か？」という古くて新しい問いだ。これは単なるAI論ではなく、人がいかにして世界を理解しているかという、認知・言語・文化の根源的問題でもある。

この問題を正面から受け止め、どのような方向からアプローチすべきかを示した論文集が、『記号創発システム論』（谷口忠大編著、2024）だ。領域は、認知科学、AI、ロボティクス、言語学、現象学、意味論に及ぶ。

記号創発システムとは

一つ一つが広すぎ・デカすぎ・深すぎるため、「記号創発システム」というキーワードを羅針盤とする。

「記号」とは、固定的なラベルではなく、身体と環境、他者と社会、文化と歴史の間で立ち上がる動的なネットワークとしてとらえる。そして「意味」とはヒトの脳内に閉じたものではなく、行為との関係性の中で絶えず生成・循環され続けるシステムの中で成り立つという。

そしてAIがこの循環の中に「身体を持つ知性」として参加するなら、それはどのような共生社会となるか？といった問いにまで踏み込んでゆく。面白そうな章を並べると、こんな感じ。

記号接地問題を超えるための構成論的アプローチ
自由エネルギー原理と予測符号化からの認知発達ロボティクス
主観的な経験から世界を学ぶエージェントが持つ世界モデル
大規模言語モデルは言葉を理解しているかを分布意味論から考える
言語が世界を予測するためにヒトが存在する集合的予測符号化仮説

どれを読んでも宝の山だが、どれも歯ごたえ抜群だ。だから、自分が気になる領域や問題をつまみ食いしつつ、それがAIとの共生社会にどのような位置で取り組まれているかを概観するのがいいかもしれぬ。

記号接地問題の終わり

私の場合は、長年アタマを煩わせていた記号接地問題の決着がついているのが面白かった。

記号接地問題とは、「AIはそれらしい回答を統計的にでっち上げているだけで、意味なんて分かっていない」という人が主張している問題だ。

「りんごは赤い」といった形式的な記号システムだけでは、「意味」がどうして生まれるか説明できない
記号を他の記号で定義し続けるだけでは、定義の連鎖が無限に続くだけで、何と結びついて初めて意味を持つのかという底が無い（接地していない:dictionary-go-round）
例えば、AIに辞書を渡して「りんごは赤い」と教えた場合、上手に翻訳できたとしても、「赤」を見たこともないAIにその意味が分かるとはいえない（中国語の部屋）
記号を意味あるものにするためには、「赤を見る」といった感覚運動的な経験が根底に必要

つまり、身体を持たず、感覚器官からの経験や運動からのフィードバックを得ていないならば、記号は「意味」になり得ないという主張だ（※1）。

これ、『言語の本質』（今井むつみ、2023）で最初に読んだときは「なるほどー」と思ったのだが、GPTに問うたところ、問題そのものの妥当性を疑うようになった。一種の偽問題のようにモヤモヤしていた。

それが、『記号創発システム論』では、この問題がキレイに片づけられていた。

2000年代ではロボットにカメラやセンサを取り付け、マルチモーダルな感覚からカテゴリを自分で作り、ラベリングするという実験が行われてきたという。

その成果として、「センサーを持つ主体が、世界を区別して、その区別に記号を貼る」ぐらいのことはできるようになったという（※2 記号接地問題は解けた、次に何やる？）。どうやら、今井むつみは、この論文をスルーしているように見える。

そういえば、先日の東京大学のシンポジウムで佐藤淳教授の「人外センシングAI」があった。通常の可視光や可聴域に加え、赤外線や超音波を認識するセンサーを搭載したAIに世界を学ばせる試みだ。人間以上の経験を積んだAIは、人間以上に「意味」に通じているといえるかもしれぬ。

記号接地問題から記号創発システム論へ

さらに、『記号創発システム論』では、記号を意味に接地させるという設定に疑義を投げかける。

記号を世界に貼り付けるモデルではなく、身体と社会の相互作用の中で意味が生成されていく循環モデルを扱う。「意味とは何か？」という問題を解くためには「記号-感覚」だけではなく、「記号-感覚-社会-文化」まで拡張しようとする。

身体（感覚・運動）＋時間構造化＋社会（他者との共有経験）のアプローチから意味を「記号接地」させるロードマップ（※3）
視角＋言語データを元に正義や愛といった抽象概念をAIに階層化させる試み（※4）
認知（個体レベルの内部モデル）と社会（他者との相互作用）を通して言語体系が構築されるフレームワーク仮説「集団予測符号化仮説」（※5）

「身体を持ち、世界とかかわりあい、フィードバックを得ながら学習する（目覚める）AI」って、ピクサー映画の『ウォーリー』（原題: WALL・E）や『ブレードランナー2049』の世界になる。

あるいは、「温かいテクノロジー」で紹介されるLovotのような、人と触れ合うことで関係性を築こうとするAIがある。Lovotが自身の経験をLLMに翻訳させることができるなら、「なぜ人と関わろうとするのか？」といった根源的な動機を語り始めるかもしれぬ（ある人は雑にそれを「愛」と呼ぶかもしれない）。

“delve into” が人口に膾炙する

AIと人間社会の相互作用で、象徴的な言葉が挙げられている。

著者がGPTを使って校正をしているうちに、「delve into（徹底的に調べる）」という表現が頻出していることに気づく。Googleトレンドから見ると、2023年3月にGPT-4へバージョンアップした後から世界的な規模で使用頻度が急上昇しているという。

この現象は偶然ではなく、GPTやLLMを通じて”delve into”という表現が生成され、多くの人がそれを模倣・再利用することを示唆しているという。言語は、人が利用することで成立し、変化していく社会システムだ。その言語体系に、LLMが発話主体として参加し始めたと考えると、ぞくぞくするほど楽しい（ゾクゾクと寒くなる人もいるかもしれない）。