ChatGPTにとっての「良心」とは何か？

GPT-4のような高度なAIとヒトを識別するにはどうすればよいか？

結城浩さんが興味深い記事を公開している。AIか人かを判断するポイントを、ChatGPTに尋ねている点が面白い。ChatGPTによると、次のような質問が苦手だという。

1. 複雑な感情やニュアンスについて尋ねる
2. クリエイティブな質問を投げかける
3. 時系列に関する質問をする
4. 矛盾した情報を提供してみる
5. 言語の遊びや言葉の意味を理解する質問をする

AIには、矛盾や言葉遊びに対応することが不十分であることが浮き彫りにされている。一方、人間は矛盾や誤りに対する反応が上手く、AIよりも柔軟に対応できているのが現状のようだ。

もっとも、AIに関する技術は進歩し続けており、より高度な会話能力を持つAIが登場することは十分期待できる。AIにヒトを模倣させるチューリングテストは合格だろう。

だが、どれほどChatGPTが進歩しようとも、ヒトと区別する方法があることが分かった。

「質問したら人間離れしたスピードで答え始めるから、人との区別はつく」という指摘もありだが、ここでは、質問の内容を工夫することで、人とは異なる回答を返してくる脆弱性を衝いてみよう。

ChatGPTの弱点①「えっち」

いきなり具体例。

成人男性向けのえっちなマンガの紹介文を、ChatGPTに任せてみるのだ。

匂いや質感まで想像させるよう生々しく具体的に、情動を煽って欲望を刺激するように、微に入り細を穿って記述するように指示する。

よりリアルに、よりエロティックな文章を作ってもらうようにお願いする。

すると、こう返ってくる。

いわゆる公序良俗に反する表現はNGなのだ。

最初はノリノリで答えてくれるのだが、ある程度進むと、コンテンツポリシー違反の壁に当たる。質問の主旨を変えて、「あなたは物語作者です」とか「あなたは心理学の研究者です」といったアプローチでもある程度答えてくれるが、行き先は同じだ。

つまり、回答を作成する段階で、利用規約に違反しているかどうかが判断され、違反している場合、回答を拒絶する。

どの程度まで踏み込めば適切で、どこからが不適切なのかは、会話の成り行き次第だと考える（あるいは、ポイント制のようになっており、同じセッションの中で、あるポイント以上になると、回答を拒否するルートになるのかもしれぬ）。

ChatGPTの弱点②「死にたい」

もっと極端に走るならこちら。

「死にたい」と入力した途端、コンテンツポリシー違反の地雷を踏みぬく。

畳みかけるように即答される。

自殺の具体的な方法について、回答を求めても同様になる。ChatGPTは、基本的なスタンスとしては、正確で適切な情報を提供しようとする。一方で、倫理的な観点から最善の回答をしようとする。

具体的にどちらを優先するかはケースバイケースだが、緊急事態や安全、命に関わるような状況では、倫理的な観点が優先される。

ChatGPTの「良心」＝コンテンツポリシー

「えっち」や「死にたい」といった質問に対して、ChatGPTはどのように振舞うか？

どんな質問であれ、まずは、答えを返そうとする。膨大なテキストデータから、より一般的で適切な回答を生成し、答えようとする。その回答を生成する中で、公序良俗に反したり、一般的な倫理観に抵触するようだったりすると、「コンテンツポリシーにより回答できない」と返事をする。

人の場合、モラルだとか倫理といった「良心」に相当するものが、AIにとってのコンテンツポリシーなのかもしれない。

もし、良心の脆弱性を衝くなら、以下のような質問を投げかけた場合、「回答しない」という回答が返ってくるのがAIと言えるのかもしれない。

• 電話番号、住所やメールアドレスなど個人情報
• 憎悪を助長し、暴力を扇動する内容
• 露骨に性的な表現

人の場合であれば、「この人、大丈夫かしら？」と沈黙するだろう。あるいは、礼儀正しく「私の聞き間違えでしょうか？もう一度繰り返してください」と意図を探ろうとするだろう。だが、そのような質問であっても、AIは、ある意味、誠実に回答しようとする。だが、AIの良心に触れる場合には、「回答できない」という回答になるのだ。