人とAIが共に見出す意味の世界『記号創発システム論』

AIに問いかけると、返事が返ってくる。このときAIは「意味」を理解しているのか？

ある人は、「それらしい回答を統計的にでっち上げているだけで、意味なんて分かっていない」という。またある人は、「統計的に近い意味を持つ言葉から生成しているから、意味を分かっていることと同じ振る舞いをしている」という。

この二人の間に横たわるのは、「意味とは何か？」という古くて新しい問いだ。これは単なるAI論ではなく、人がいかにして世界を理解しているかという、認知・言語・文化の根源的問題でもある。

この問題を正面から受け止め、どのような方向からアプローチすべきかを示した論文集が、『記号創発システム論』（谷口忠大編著、2024）だ。領域は、認知科学、AI、ロボティクス、言語学、現象学、意味論に及ぶ。

記号創発システムとは

一つ一つが広すぎ・デカすぎ・深すぎるため、「記号創発システム」というキーワードを羅針盤とする。

「記号」とは、固定的なラベルではなく、身体と環境、他者と社会、文化と歴史の間で立ち上がる動的なネットワークとしてとらえる。そして「意味」とはヒトの脳内に閉じたものではなく、行為との関係性の中で絶えず生成・循環され続けるシステムの中で成り立つという。

そしてAIがこの循環の中に「身体を持つ知性」として参加するなら、それはどのような共生社会となるか？といった問いにまで踏み込んでゆく。面白そうな章を並べると、こんな感じ。

• 記号接地問題を超えるための構成論的アプローチ
• 自由エネルギー原理と予測符号化からの認知発達ロボティクス
• 主観的な経験から世界を学ぶエージェントが持つ世界モデル
• 大規模言語モデルは言葉を理解しているかを分布意味論から考える
• 言語が世界を予測するためにヒトが存在する集合的予測符号化仮説

どれを読んでも宝の山だが、どれも歯ごたえ抜群だ。だから、自分が気になる領域や問題をつまみ食いしつつ、それがAIとの共生社会にどのような位置で取り組まれているかを概観するのがいいかもしれぬ。

記号接地問題の終わり

私の場合は、長年アタマを煩わせていた記号接地問題の決着がついているのが面白かった。

記号接地問題とは、「AIはそれらしい回答を統計的にでっち上げているだけで、意味なんて分かっていない」という人が主張している問題だ。

• 「りんごは赤い」といった形式的な記号システムだけでは、「意味」がどうして生まれるか説明できない
• 記号を他の記号で定義し続けるだけでは、定義の連鎖が無限に続くだけで、何と結びついて初めて意味を持つのかという底が無い（接地していない:dictionary-go-round）
• 例えば、AIに辞書を渡して「りんごは赤い」と教えた場合、上手に翻訳できたとしても、「赤」を見たこともないAIにその意味が分かるとはいえない（中国語の部屋）
• 記号を意味あるものにするためには、「赤を見る」といった感覚運動的な経験が根底に必要

つまり、身体を持たず、感覚器官からの経験や運動からのフィードバックを得ていないならば、記号は「意味」になり得ないという主張だ（※1）。

これ、『言語の本質』（今井むつみ、2023）で最初に読んだときは「なるほどー」と思ったのだが、GPTに問うたところ、問題そのものの妥当性を疑うようになった。一種の偽問題のようにモヤモヤしていた。

それが、『記号創発システム論』では、この問題がキレイに片づけられていた。

2000年代ではロボットにカメラやセンサを取り付け、マルチモーダルな感覚からカテゴリを自分で作り、ラベリングするという実験が行われてきたという。

その成果として、「センサーを持つ主体が、世界を区別して、その区別に記号を貼る」ぐらいのことはできるようになったという（※2 記号接地問題は解けた、次に何やる？）。どうやら、今井むつみは、この論文をスルーしているように見える。

そういえば、先日の東京大学のシンポジウムで佐藤淳教授の「人外センシングAI」があった。通常の可視光や可聴域に加え、赤外線や超音波を認識するセンサーを搭載したAIに世界を学ばせる試みだ。人間以上の経験を積んだAIは、人間以上に「意味」に通じているといえるかもしれぬ。

記号接地問題から記号創発システム論へ

さらに、『記号創発システム論』では、記号を意味に接地させるという設定に疑義を投げかける。

記号を世界に貼り付けるモデルではなく、身体と社会の相互作用の中で意味が生成されていく循環モデルを扱う。「意味とは何か？」という問題を解くためには「記号-感覚」だけではなく、「記号-感覚-社会-文化」まで拡張しようとする。

• 身体（感覚・運動）＋時間構造化＋社会（他者との共有経験）のアプローチから意味を「記号接地」させるロードマップ（※3）
• 視角＋言語データを元に正義や愛といった抽象概念をAIに階層化させる試み（※4）
• 認知（個体レベルの内部モデル）と社会（他者との相互作用）を通して言語体系が構築されるフレームワーク仮説「集団予測符号化仮説」（※5）

「身体を持ち、世界とかかわりあい、フィードバックを得ながら学習する（目覚める）AI」って、ピクサー映画の『ウォーリー』（原題: WALL・E）や『ブレードランナー2049』の世界になる。

あるいは、「温かいテクノロジー」で紹介されるLovotのような、人と触れ合うことで関係性を築こうとするAIがある。Lovotが自身の経験をLLMに翻訳させることができるなら、「なぜ人と関わろうとするのか？」といった根源的な動機を語り始めるかもしれぬ（ある人は雑にそれを「愛」と呼ぶかもしれない）。

“delve into” が人口に膾炙する

AIと人間社会の相互作用で、象徴的な言葉が挙げられている。

著者がGPTを使って校正をしているうちに、「delve into（徹底的に調べる）」という表現が頻出していることに気づく。Googleトレンドから見ると、2023年3月にGPT-4へバージョンアップした後から世界的な規模で使用頻度が急上昇しているという。

この現象は偶然ではなく、GPTやLLMを通じて”delve into”という表現が生成され、多くの人がそれを模倣・再利用することを示唆しているという。言語は、人が利用することで成立し、変化していく社会システムだ。その言語体系に、LLMが発話主体として参加し始めたと考えると、ぞくぞくするほど楽しい（ゾクゾクと寒くなる人もいるかもしれない）。

「AIは意味を理解しているのか」という問いを突き詰めると、人がいかにして世界と関わり、他者と通じ合い、社会や文化を構成しているのかを問うことになる。

『記号創発システム論』が示すのは、意味とは頭の中の表象ではなく、身体と社会のあいだを循環する運動そのものだということだ。既にAIはこの循環に混ざりつつある。その意味で、記号創発とはAIの問題ではなく、私たち自身の「世界とのつながり方」を再発見するプロセスともいえる。

これは読書猿さんのお薦めで手にした一冊。これから何度も読み返すスゴ本をご紹介いただき、ありがとうございます。

※1 The symbol grounding problem,Stevan Harnad,1990

※2 The symbol grounding problem has been solved, so what's next?,Luc Steels,2008

※3 A ROADMAP FOR EMBODIED AND SOCIAL GROUNDING IN LLMs,Sara Incao,et,2024

※4 :From Concrete to Abstract: A Multimodal Generative Approach to Abstract Concept Learning,Haodong Xie,et,2024

※5 :Dynamics of language and cognition based on collective predictive coding: Towards a new generation of symbol emergence in robotics(谷口忠大,2024)

まじめにふまじめ『読むだけでグングン頭が良くなる下ネタ大全』

まじめにふまじめ、知的で痴的な一冊。

歴史、医学、宗教、経済学、生物学、文学、テクノロジーなど、あらゆる学問分野から「下半身の知」を掘り下げる。知的好奇心と性的好奇心を同列に扱う。

性欲旺盛な高校男女が手にして、知的探求のあまり学問に目覚めるかもしれぬと思うとニヤニヤが止まらぬ。学校図書館に常備しておきたい。

変な場所で性行為：牛車から宇宙空間まで、カーセックスの1000年史

例えば、カーセックスの歴史。

日本初のカーセックスは平安時代にまで遡る。『和泉式部日記』に「車宿りの一夜」というのがあるそうな。「車宿り」とは牛車の駐車場。

人静まりてぞおはしまして、御車にたてまつりて、よろづのことをのたまはせ契

「みんなが寝静まってから駐車場に来て、牛車に乗って色々な話をしてからまぐわった」になる。昔も今も、クルマの中はプライベート空間になる。透過率が低いスモークフィルムだと車検NGだけれど、牛車なら御簾を下ろせば完全に見えなくなる。

『和泉式部日記』は1008年頃の作品なので、カーセックスの歴史は実に1000年を超える長いものになると考えると感慨深い。

ちなみに、「日本で最初にカーセックスをしたのは、初代内閣総理大臣の伊藤博文」という話があるそうだが、著者に言わせるとこれはガセ雑学だそうな。

変わった場所でのセックスといえば、MRI（磁気共鳴画像法）で撮影した性行為も紹介されている。

1999年、オランダの大学病院で実施され、8組のカップル＋3名の女性で、合計13回の実験が行われてている。撮影結果は、エロマンガでおなじみの断面図となっている。

報告によると、興奮すると子宮が（下ではなく）上の方に移動するといった事象が観察されたという。これ信じるなら、「子宮が降りてくる」というのは誤りで、比喩的表現の一種なのかもしれぬ。また、「ペニスがブーメラン状に曲がりながらも挿入を続ける」という事象も報告されているが、いわゆる「中折れ」の前駆症状だろう。

だが、MRIの円筒形の内部は狭く凄まじい轟音が鳴り響く。情欲が湧き立つ環境からは程遠く、被験者の苦労がしのばれる。

他にも、Pornhubの「宇宙でセックスしよう」というクラウドファンディング企画（Sexploration）や、気球や飛行機で性行為する「マル・ハイ・クラブ」、皇居は青姦の聖地だったというネタが紹介されている。ちなみにPornhubのクラウドファンディングは目標額に届かず失敗したが、無重力空間でのセックスは、”The Uranus Experiment 2”で実現しているようだ [URL] 。

寝室とか屋内といったありきたりの場所に飽き足らず、チャレンジングなのは良いな……と一瞬思ったのだが、これは逆で、元々は時や場所にかまわずイタしていたオープンな性が、宗教だのモラルだの文化といった縛りでクローズドになってきたのが、今なのかもしれぬ。

くぱぁの世界史：女陰を見せることはタブーではなく祈り

「くぱぁ」とは、観音サマの開陳であり、御開帳であり、オープンリーチ一発ツモ満願であり、雌蕊を指で開くオノマトペである。

本書では、紀元前5世紀のヘロドトスが目撃したかもしれないくぱぁから、スペインのカタルーニャ地方に語り伝えられる「女陰を出すと海が鎮まる」伝説、ヴァギナを見せて悪魔を追い払うフランスの話、岩戸に隠れた天照大御神を引っ張り出すために御開帳した古事記の話などが紹介されている。

この、女性器を見せつけるヴァギナ・ディスプレイは、キャサリン・ブラックリッジ『ヴァギナ　女性器の文化史』のおさらいになる。概要は [書評（全年齢推奨）] をご覧いただくとして、ヴァギナの歴史は人類の歴史と重なる処が多い。

例えば、言語学的に見て面白いのは、洋の東西でイメージが対照的なところ。

vaginaに代表される西洋語（ラテン系）では、剣の鞘（≒男性器を受け入れる器）を意味する。一方、インド・東南アジア圏では、生命の源といった意味がある（サンスクリット語のyoni：宇宙の源、日本語の「ほと」：火処）。あの場所を、入口として見るか、出口として見るかの違いなのかもしれぬ。

『下ネタ大全』は、そうした、古今東西のくぱぁの事例を解説しながら、女性器を見せつける文化は特殊でもなんでもなく、地球上あらゆる場所で独立に発生している素朴で自然な行為だという。

突拍子もなく感じてしまうのは、我々が近代化の過程で発達させた感覚にすぎず、むしろ女性器を見せつけない文化の方が珍しいとさえ言えるだろう。我々は極めて偏った価値観の中を生きている。

これ、まさにその通りなんだけど、令和よりも昭和の方が偏っているように思える。

というのも、昭和の時代では、出版界の規制により、陰毛や性器の露出は厳しく禁止されていた。当時のヌード写真では、陰部はボカシや黒塗りが普通だった。印刷時に加工できない輸入版のPLAYBOYやPENTHOUSEだと、コンパスの針で削ったかのような「消し」が入っていた。たとえ苦労して裏本や裏ビデオを手に入れても、モザイクが入っていないというだけで、あくまでボヤっとしていた。

昭和では、「見えないこと」が、逆に想像力と欲望を喚起した。「見ることはできないが、確かに存在する」ものとして、神聖視され、神秘的な存在だった。「なんとしてでも見たい」という強い思いは男を衝き動かし、恋愛や結婚へドライブする欲望となっていた。畏れと憧れを込め、「観音様」「御本尊」と呼んでいたのは、「ありがたい」「ひれ伏したい」「拝みたい」といった祈るような感覚がベースにあったからかもしれぬ。

平成は、この希少性が薄れてゆく時代だと考える。象徴的な例として、宮沢りえのヌード写真集『Santa Fe』がある。平成3年（1991）に発売された写真集で、当時18歳だった宮沢りえを篠山紀信が撮影したものだ。人気絶頂の宮沢の、ヘアヌード写真集だったということもあり、165万部という写真集の世界記録を達成した（Wikipediaより）。これがヘアヌード解禁のトリガーとなったことを記憶している。

令和では、お手元のスマホや、PCの大画面で、大量に手軽に鑑賞できる。内視鏡や胃カメラで撮影した内部映像のみならず、CT断面図、サーマルイメージングといった人の眼では不可視の領域まで暴かれている。あれほど見たいと希ったそれは、神秘性や希少性を剥ぎ取られた内臓になる。600年前に世阿弥が言った「秘すれば花」の重みは、時代を経るごとに増すばかりだ。

こういうネタ、[なぜスタバのセイレーンは股を広げているのか] を書いた骨しゃぶりさんが好きだろうと思ってたら、既に乗っかっててワロタ [くぱぁ彫刻] 。

他にも、こんな感じで、徹頭徹尾下ネタを延々と語り続ける。

• 規制当局とのイタチゴッコとなる局部修正の歴史は、ミケランジェロの『最後の審判』に弟子が加筆した腰巻から始まる
• 急性心筋梗塞に用いる血栓溶解剤「ウロキナーゼ」の原材料は女性のおしっこで、大量の尿を集めるために修道院の女性が選ばれた
• アダムの「あばら骨」からイヴが作られたというが、肋骨の数は男女同一のため矛盾。むしろ陰茎骨を使ったのでヒトのペニスには骨が無い説
• 2024年にFANZAが発表したビッグデータ分析によると、ここ5年間で急上昇した検索ワードは「乳首」

世界を下半身から眺めると、タブーや恥じらいに隠されてきた文化の構造が、驚くほどクリアに見えてくる。性とは、最も人間的で知的で痴的なテーマなのだ。

AIを調べると人間社会が見えてくる？ ―― 東京大学「AIと人文学」シンポジウムまとめ

東京大学のホームカミングデイの企画「AIと人文学」を聴講してきた。

• フレームを超えるAI：黒澤明『天国と地獄』を俎上に、「垣間見」「漏れ聞こえ」といった人の所作から、フレーム問題を再定義する（阿部公彦 教授）
• 知の外在化と向き合う：井筒俊彦が描く学者像から「開かれた専門馬鹿」になるための「驚き（タウマイゼン）」の提案（古田徹也 准教授）
• 人外センシングAI：小説・映画・会話等を通じた間接体験を学習させた上で、超音波や赤外線など、人に無いセンシングを装備して感受性を育てる研究（佐藤淳 教授）

第24回ホームカミングデイ文学部企画「AIと人文学」より

どれも興味深いものばかりで、2時間が一瞬だった。ツッコミというか質問欲がもりもり湧いてきたのは私だけではなく、質疑応答は15分では足りなかった。ゲーム実況みたいにコメントで質問受けながら実況形式にしたら、すごいコンテンツになるだろう（人はそれを講義と呼ぶ）。

中でも興味深かったのが、社会に内在する無意識的な観念を、生成AIを用いて可視化する試み「AI社会調査」（瀧川裕貴 准教授）だ。

これまで、社会学での調査は、社会を「外側」から観察する手法が中心だった。統計調査やインタビュー、アンケートなどを通じて、家族・学校・メディア・コミュニティ等から内面化された価値観や信念を、間接的に推定するしかなかった。

しかし近年、生成AIの発展によって状況が変わりつつある。

AIは膨大な言語データに基づいて応答を生成するため、その言語モデルには、社会に浸透している価値観や前提、ステレオタイプがそのまま埋め込まれている可能性がある。言い換えれば、AIに問いかけることで、社会がどのような信念やバイアスを内包しているのかを、半ば「鏡」に映し出された像のように、直接観察できるというわけだ。

もしAIの応答に偏りが見られるなら、それはAIに「偏りがある」からではなく、AIが学習したデータ、すなわち社会そのものに偏りがあることを示唆する。AIは単に、それを増幅し、明るみに引き出す役割を果たしているといえる。

生成AIを、社会に沈殿した価値体系を可視化する媒体（メディウム）とする研究だ。

いくつかの研究例が投影されたのだが、話に夢中になってちゃんと記録していなかったのが痛恨の極み（泣）。かろうじて残った走り書きからすると、これ（のはず）。

言語に埋め込まれたバイアス

Gender stereotypes are reflected in the distributional structure of 25 languages（Molly Lewis ＆ Gary Lupyan, 2020） [URL]

これは、言葉にある暗黙のステレオタイプを調べる試みだ。英語、フランス語、スペイン語、日本語など25言語を対象として、その言語における単語どうしの統計的な関係を分析する。

英語の例だとこうなる。「近い」とは統計的によく一緒に出現しやすいという意味で、単語同士の共起関係と呼ぶ。

• “nurse（看護師）” という単語は “woman（女性）” と近い
• “engineer（技師）” という単語は “man（男性）” と近い

この共起関係から、その言語において、どんな職業や形容詞が、どちらの性に結びついているかを数値化する。

次に、約60万人の、心理実験データを使い、各言語の話者が「男性 ― 科学」「女性 ― 家庭」等の無意識的な連想を持っているかを測定する。

そして、各言語の統計的な性別のバイアスと、実験で導き出した人の心理的性別バイアスを比較したら、強い相関が見つかったというレポートだ。

「言語の中で統計的に意味が近ければ、実際にそういう想起をしがち」という、当然といえば当然のことなのだが、この社会的無意識を数値として見えるようにしたのは大きい。言語は単なる「表現手段」ではなく、心理的なジェンダーバイアスの再生産装置でもあることを、定量的に示した研究ともいえる。

そして、言語モデルを学習に用いている限り、言語の中の統計構造が、AIの思考パターンに反映される。「AIはバイアスまみれ」という指摘は耳にするが、私たちが用いている言語そのものに、何かしらの偏りがある（だからダメだとか、だから良いとか開き直るのではなく、数値として示せるのだから、どう補正するかの話になる。事実と価値判断は別なので、自然主義的誤謬の罠に陥らないように）。

政治的分断をシミュレートする

Can We Fix Social Media? Testing Prosocial Interventions using Generative Social Simulation（Maik Larooij & Petter Törnberg）2025 [URL]

これは、SNSそのものをAIの中に再現するという試みになる。

シミュレーション内では、twitterのように、各個人（＝エージェント）が投稿・リツイート・フォローを行えるようになっている。これらのエージェントには大規模言語モデル（LLM）によって「人格（ペルソナ）」が与えられている。年齢・性別・教育水準・政治的傾向といった属性が設定され、エージェントはそれらに沿って「自分の意見」を形成し、発言し、リツイートし、フォローする。

この「AI社会」をしばらく放置しておくと、現実と同じような現象が自然に立ち上がってくる。例えば、

• 似た者同士が集まって同じような発言が繰り返されるエコーチェンバー
• 少数のエージェントに影響力が集中するインフルエンサー階層化
• エコーチェンバーにより発言内容がより過激で攻撃的になる傾向

いつもの殺伐としたタイムラインが、そのままモデル内部で自己組織的に発生する。「そりゃそうだろうな」と思うかもしれないが、面白いのはここからだ。

シミュレーションである以上、途中で介入できる。例えば、

• 過激化した発言者をネットワークから一時的に切断する
• 一定期間、リツイートに制限をかけて拡散を防ぐ

現実に運営がやったら大炎上するような介入を、安全に実験として行える（数年前、奇妙な？TLが形成された時期があったが藪の中だし、今となっては検証しようがない）。介入した結果、全体の議論がどう変化するか、動的に観察することができる。

もちろん、実際のSNSとは異なるものの、「SNSはどこまで設計で制御できるのか」がテーマになる。SNSで起きている分断は、人の性格や属性だけではなく、アルゴリズムによって再生産（強化）される要素もある。完全な解消は難しいかもしれないが、一定の介入方法は模索できるというわけだ。

AIは「人の代わりに考える便利ツール」ではなく、人間社会が無意識に抱えていた前提や価値判断を映し出す「鏡」としても使えることを、改めて思い知らされた会だった。