この記事の続編です。
前の記事で紹介した『意識はいつ生まれるのか 脳の謎に挑む統合情報理論』を読みましたが、私の理解力が乏しいせいか、どうして情報を統合できれば意識が生まれたと言えるのか、そもそも意識はなぜ生まれたのかについて、腑に落ちるような理解を得ることができませんでした。これに対して、かなり説得力があると感じたのは、マイケル・グラツィアーノの『意識はなぜ生まれたか その起源から人工意識まで』です。
そもそも意識とはいったいなんだろうか？ 同書によると、それは、今感じたり考えたりしている事柄が自分自身に固有の「主観的体験だという脳の主張」です（Graziano. M. S. ,2019, p.68）。
その一方で、感覚器官から脳に入ってくる情報の量は膨大であり、さらに、自然に沸き起こってくる情動、自ら思考する情報、過去の記憶などもこれに加わります。ここで、「限りある脳の処理資源を、その時々で少数のものにだけあて、より深く処理する能力」が「注意」です（Graziano. M. S. ,2019, p.19）。
ただし、注意が向かう対象は意識的・無意識的に刻々と変化するので、注意を制御するためには、注意をモニターする内的モデルが必要です。内部モデルは機械工学的には、「制御対象や環境の振る舞いを、制御器の内部でシミュレーションしたもの」と定義できます。
グラツィアーノは、注意に関する内的モデルのことを「注意スキーマ」と呼んでいて、これは「自身の内的プロセスを単純化した漫画のような記述」であるといいます。注意スキーマは自分の注意の履歴（ストーリー）を保持しているがゆえに、これにアクセスすると「自分が意識という自分だけのとらえどころのない内的特性を持っていると教えられる」のです（Graziano. M. S. ,2019, p.135）。まさにこれこそが、「主観的体験だという脳の主張」の正体でしょう！
注意スキーマ理論は、前述の統合情報理論で私が感じた「どうして情報を統合できれば意識が生まれたと言えるのか」という疑問にも答えてくれます。バラバラの情報を結びつけて統合するためには、粘性のある接着剤のようなものが必要ですが、注意スキーマに記述された注意の情報は、まさに接着剤（＝万能コネクタ）として機能します（Graziano. M. S. ,2019, p.168）。それゆえ、統合の状態（＝φ）が高まると意識が生まれるのです。
意識を持った人工知能（AI）の可能性を考える時、注意スキーマが生物学的というよりも工学的視点に立ったモデルである点が力強いと感じます。さらに最新の生成AIはかなり高次の志向姿勢を持ち、質問者の意図をしっかり読み取ってそれに即した回答をしています。意識を持つためにあと足りないのは、AIが志向姿勢を自分自身にも向けることでしょう。ということは、内部モデルである注意スキーマをAIに組み込めば、意識を持ったAIができるかもしれません。
ただ、それほど簡単には前に進まないようです。同書の第8章「意識をもつ機械」では、機械が意識を持つための４つの構成要素を提示しています（Graziano. M. S. ,2019, p.182）。
- 人工注意…ひとつの対象にそのリソースを集中させて深く処理し、その焦点を対象から対象へ切り替える能力
- 注意スキーマ…注意をおおまかに記述する内的モデル
- 適切な範囲の内容…豊かで多様な意識内容を機械に持たせるのはひじょうに困難。最初の試みとして視覚的意識だけを持つ機械なら作れるかもしれない
- 高度な検索エンジン…自らの内部モデルにアクセス可能で、それについて語ることができる検索エンジン
このなかでいちばんハードルが低いのは、２.の注意スキーマで、それ以外はまだまだ高いハードルがそびえたっているようです。
さらに付け加えれば、上記のような工学的課題だけなく、経済的（コスト・パフォーマンスの）課題や倫理的・道徳的課題も残っています。
コメント