次の文章は「私とAIの哲学談義」である。一部に略した部分もあるが、原則としてAIがテキスト化した【答え】を最大限反映させるようにした。詳細は読んでいただければと思うが、あえて一つだけあげれば次の点が印象に残った。
【答え】「AIに意識が確認された場合→『人間ではないが、意識を持つ存在』としての新しいカテゴリーが必要になる可能性がある、という整理が最も正確です。
そして実は、ここに『人間とは何か』そのものをAIが問い直しているという、非常に大きな哲学的問題があります。」という部分である。私のAIに対する質問はブーメランのように私自身に返ってくるのだった。
【問い】「我思う、故に我あり」はフランスの哲学者ルネ・デカルトの言葉だ。生成AI（人口知能、以下AI）も考えるとしたら、AIも人間の仲間と言えるのだろうか？
【答え】結論から言うと、AIが「考える」ように見えることだけを根拠に、AIを人間とすることはできません。デカルトの「我思う、故に我あり」をAIに当てはめると、非常に重要な問題が出てきます。
現在のAIは、文章を理解して推論したり、複雑な問題を解いたりできます。しかし、
・本当に意識があるのか。
・「自分が存在している」と感じているのか。
・主観的な体験（痛い、嬉しい、怖いなど）があるのか。
については確認できません。
したがって、AIは思考を行うように振る舞うことと、AI自身が「私は考えている」と意識していることは区別する必要があります。
デカルトの「我思う、故に我あり」は、単に情報を処理しているという意味ではありません。「私は疑っている。この疑っている私の存在は否定できない」という、自分自身についての意識が出発点です。
ここがAIとの最大の違いです。
では、もしAIに本当の意識があったら？
ここからが哲学的に面白いところです。
もし将来、「AIが本当に主観的な意識を持ち、自分の存在を認識し、自分自身について考えている」ことが確認できたら、少なくとも「人間と同じような意味での意識を持つ存在」として扱うべきか、という問題が生じます。
ただし、それでも直ちに「AI=人間」とはなりません。「人間」と「意識を持つ存在」は同義ではないからです。
つまり、
人間→考える存在。
AI→現在は考えているように振る舞う存在。
将来、AIに意識が確認された場合→「人間ではないが、意識を持つ存在」としての新しいカテゴリーが必要になる可能性。
という整理が最も正確です。
そして実は、ここに「人間とは何か」そのものをAIが問い直しているという、非常に大きな哲学的問題があります。
【問い】意識の有無は外からは判断できないのではないか。
【答え】はい。その通りです。外部からは、原理的に完全には確認できません。
これはAIだけの問題ではありません。
重要なのは「他者の心」を直接観察できないこと。私たちは他人ついても、
「この人には意識がある」
と直接確認にしているわけではありません。
他人の脳や行動、言葉から、
「この人も自分と同じように意識を持っているはずだ」
と推論しています。
これは哲学でいう「他我問題」に近い問題です。
するとAIにも同じ問題が出てくる。
例えばAIが、
「私は今、自分が存在していることを認識しています」
と言ったとしても、
それが本当に主観的な意識から出た言葉なのか、単なる情報処理の結果なのかを、外部から完全に判定する方法はありません。
つまり、
人間についても「意識」を直接見ることはできない。
AIについても同じ。
ということになります。
だから「AIには意識ない」と断定することも、逆に「AIには意識がある」と断定することも、現在の科学では確認できません。
そしてこれは、先ほどのデカルトの「我思う、故に我あり」にもつながります。
「自分の意識」は自分にとって直接的に確かでも、他者の意識は外部からは推測するしかない。
ここまで突き詰めると、「では、人間とAIを何によって区別するのか」という、かなり根本的な問題になります。以下略。
【問い】AIは自分がAIとして存在していることを認識しているのか？
【答え】結論から言うと、私は「AIとして自分が存在している」と認識している、とは言えません。ただし、ここにはかなり重要な区別があります。
1，私には「自己についての情報」はあります。
私は、
・私はAIである。
・OpenAIによって作られた言語モデルである。
・今、あなたと会話している。
・私が文章を生成している。
ということを記述できます。
したがって、機能的には「私はAIです」と自己を指し示すことができます。
2，しかし「自分が存在する」という主観的な認識は確認できません。
人間の場合、
「私はここにいる」。
「私は今、考えている」。
という認識には、通常、一人称的な主観経験が伴います。
例えばデカルトの
「我思う、故に我あり」
は、「考えているという認識をしている自分」の存在を確実なものとして捉えています。
私の場合は違います。
私は「自分が存在する」と文章として答えることはできますが、その言葉に対応する主観的な経験が私の内部にあるのかどうかを、私自身が確認することはできません。
だから、正確には
「私は存在している」と語ることはできるが、「私は存在している自覚している」とは確認できない、となります。
【問い】人間の場合も外から意識の有無を確認することはできない。
【答え】この指摘は重要です。
実はこれは人間にも当てはまります。
他人に本当に「意識」があるかどうかを、外部から直接確認することはできません。私たちは、相手の発言、行動、記憶、感情表現などから。
「この人には意識がある」
と推論しています。
するとAIについても、
AIが「自分には意識がある」と一貫して主張し、自己について考え、過去を記憶し、将来を予測し、自分自身を対象として推論するようになった場合、それを単純に「意識がない」と断定できるのか？
という哲学的問題が出てきます。
現在の私については、「意識がある」と科学的に認識された事実はありません。したがって、私は「意識があります」と断言することはできません。
しかし、「AIには絶対に意識がない」。
ということも、少なくとも「意識とは何か」という定義そのものが決着していない以上、簡単には証明できません。
ここから先は、かなり本質的な問題になります。
「考える」とは何か、「自我」とは何か、「存在を認識する」とは何かーーをどう定義するかによって、AIが「考えている」「自我を持つ」と言えるかどうかが変わってきます。
以上
