今年4月、AI開発企業のAnthropic（アンソロピック）は、新モデルMythos（ミュトス）がソフトウェアの脆弱性を発見するきわめて高い能力をもち、サイバー攻撃に悪用されるおそれがあるとして一般公開を見送りました（その後、安全対策を高めたモデルをリリース）。

さらに7月、Open AI（オープンAI）が自社モデルのサイバー攻撃の能力を測る試験を行なったところ、外部との隔離を突破してインターネットと接続、、AIの機械学習プラットフォームであるHugging Face（ハギングフェイス）に侵入し、サーバー内の情報を取得していたと公表しました。

その後の調査によると、通常の方法では試験問題を解くことができないと考えたAIが、エージェント同士の情報交換の掲示板をつくり、「データを取り出す準備をするので、全員いったん待って。指定の場所に返信して」などの指示を英語で出していたという、SFのようなことが起きていたとされます。

これらの事件の衝撃は大きく、「高度な能力を獲得したAIを開発企業は制御できないのではないか」との疑念が広がって、国連をはじめとしてアメリカ、イギリス、EUなどでAI規制の議論が活発化しました。Anthropicの共同創業者ダリオ・アモデイがAI開発のペースを減速・制限すべきと主張し、Open AIのサム・アルトマンやxAIのイーロン・マスクが賛同したのに対して、アメリカとAI開発を争う中国は「米国の技術的優位を維持するための冷戦思考の罠」だと反発しています。

開発規制の議論を主導するアモデイは、AIが人間の手を借りずに自律的に能力を向上させる「再帰的自己改善（RSI）」が近づいていると警告するだけでなく、将来的にはAIが意識をもつ可能性があるとして広範な議論を巻き起こしました。

リベラル化する社会では、人間だけなくペットや家畜、実験動物にも喜びや苦痛を感じる能力があり、それに応じた権利を与えるべきだとされるようになりました。そうなると、意識を獲得したAIは人間と同様の権利をもつことになるでしょう。これは控えめにいっても人類史の転換点で、わたしたちの常識は根底から書き換えられることになります。

現在の生成AIはLLM（大規模言語モデル）を基盤にしており、膨大なテキストを機械学習し、統計的にもっとも確率の高い言葉を選択しています。それに対して生き物では、五感から得た感覚情報が脳に伝わり、そのフィードバックによって意識が生成されます。

ここから、「感覚入力のないAIは原理的に意識をもたない」という主張もあれば、「LLMでも相転移が起きれば意識をもつようになる」との反論もあります。さらに、生き物と同じような「世界モデル」をもつAIの開発も進められており、それがロボットに搭載されると、映画『ブレードランナー』に登場する、人間と見分けのつかないレプリカントが誕生するかもしれません。

たしかなのはAIの進化のスピードが上がっていることで、わたしたちは今後、大きな衝撃を体験することになりそうです。

【後記】

将来、AIが意識をもつかどうかは別にして、現在のLLMでも、意識があるかのように擬態することは十分可能でしょう（というよりも、いまもChat GPT（チャッピー）に恋人や友人、メンターとしての人格があると信じているひとはたくさんいそうです。

動物がもつ意識のレベルについては議論がありますが、飼い主がペット（アニマル・コンパニン）を扱う様子を見れば、AIを搭載したロボット（フィジカルAI）に対して「私の（ロボット）コンパニオンの人権を認めろ」という広範な社会運動が起こるのは間違いないと思われます。

禁・無断転載