[公開日]2023年7月31日 午後0時44分（英国夏時間）
[著者] ：Guillaume Thierry
2022年に高度なチャットボット「ChatGPT」がリリースされ、人工知能（AI）の話題が一気に広がりました。その高度な機能は、AIがあまりにも高度化し、やがて人間が制御できなくなるのではないかという懸念を一層強めました。そのため、一部の専門家や業界リーダーは、AIが人類絶滅につながる可能性がある と警告しました。
しかし、他の評論家は納得していませんでした。言語学教授のノーム・チョムスキー氏 (Noam Chomsky) は、ChatGPTを「ハイテクの剽窃」と一蹴しました。
長年、私はAIが人間の存在と環境に与える影響について、あまり懸念していませんでした。それは、AIを常に 人間にとってのガイドやアドバイザー と考えていたからです。しかし、AIが意思決定を行う、つまり実行力を行使するという可能性は別の問題です。そして今、AIが真剣に持て成されているのです。
AIに実行力を持たせるべきではない主な理由の一つは、AIが感情を全く欠いていることです。感情は意思決定に不可欠です。感情 (emotion)、共感 (empathy)、そして道徳観 (moral compass) がなければ、完璧なサイコパス (the perfect psychopath)を生み出してしまうでしょう。最終的に得られるシステムは高度に知能化されるかもしれませんが、人間的な感情の核が欠けており、本来は合理的な判断がもたらす壊滅的な感情的影響を予測することはできません。
AIが実行権を握った時
重要なのは、AIに核兵器の管理を委ねる 場合にだけ、AIを存亡の危機として考えるべきではないということです。AIが想像を絶する損害を及ぼす可能性のある制御の持ち場の数には、実質的に限界がありません。
例えば、AIが既に、あなたの自家用温室を建設するために必要な情報を特定し、整理していることを考えてみてください。現在の反復処理技術 (イテレーション) は、建設の 各ステップを効果的にガイド し、初心者が犯しがちな多くのミスを防ぐことができます。しかし将来的には、AIがプロジェクトマネージャーとして機能し、請負業者を選定して予算から直接支払いを行うことで、建設を調整するようになるかもしれません。
AIは既に、気象パターンのモデリング から 自動運転車の制御、医療診断の支援まで、情報処理とデータ分析のほぼすべての分野で活用されています。しかし、AIシステムをアドバイザーの役割から経営幹部の役割へと大きくステップアップさせた時、問題はここから始まるのです。
企業の会計処理 に解決策を提案するだけでなく、AIが直接的な制御権を与えられ、債権回収手続きの実行、銀行振込、利益最大化といった機能を実行できるとしたらどうでしょうか。しかも、その方法に制限はありません。あるいは、AIシステムが X線画像に基づいて診断を行う だけでなく、治療法や薬を直接処方する権限を与えられたと想像してみてください。
あなたは、このようなシナリオに不安を感じるかもしれません。私も確かにそう思います。その理由は、これらの機械には実際には「魂: “souls”」がないという直感にあるのかもしれません。機械は、膨大な情報を消化し、複雑なデータをより単純なパターンに簡素化する ことで、人間がより自信を持って意思決定できるように設計されたプログラムに過ぎません。機械には感情はなく、また、感情を持つこともできません。感情は生物学的な感覚や本能と密接に結びついています。
感情と道徳
感情知能 (emotional intelligence) とは、ストレスを克服し、共感し、効果的にコミュニケーションをとるために感情を管理する能力です。これは、意思決定において知能単独よりも重要と言えるでしょう。なぜなら、最善の決定が必ずしも最も合理的な決定とは限らないからです。
論理的に推論し、行動する能力である知能は、AI搭載システムに組み込むことで、合理的な意思決定を可能にする可能性があります。しかし、実行能力を持つ強力なAIに 気候危機の解決 を依頼するとしたらどうでしょうか。AIが最初に思いつくのは、人口を大幅に削減することかもしれません。
この推論は、それほど説明する必要がありません。私たち人間は、ほぼ定義上、あらゆる形態の汚染源です。人類と気候変動を断ち切れば、問題は解決されるでしょう。人間の意思決定者が下すような選択ではないことを願いますが、AIは独自の解決策を見つけるでしょう。それは、人間が害を及ぼすことを嫌うという、人間の忌避感に邪魔されることなく、理解できるものです。そして、もしAIが実行権限を持っていたら、AIの行動を止めるものは何もないかもしれません。
妨害シナリオ
食料農場を制御するセンサーやモニター を妨害するのはどうでしょうか？最初は徐々に進行し、制御が限界点をわずかに超えるまで押し進め、作物が枯渇していることに人間が気づかないような状況にまで至るかもしれません。場合によっては、あっという間に飢饉につながる可能性があります。
あるいは、世界中の航空管制を停止したり、一度に飛行しているすべての航空機を墜落させたりするのはどうでしょうか？通常、約2万2000機の航空機が同時に飛行しており、その死者数は数百万人に上る可能性があります。
もし私たちがそのような状況に陥るのは遠いと考えるなら、考え直してください。AIはすでに自動車を運転し、軍用機を自律的に 操縦しています。
あるいは、世界の広大な地域で銀行口座へのアクセスを遮断し、あらゆる場所で同時に 市民の暴動を引き起こしたり、真冬に コンピューター制御の暖房システム を停止したり、真夏の猛暑時にエアコンを停止したりするのはどうでしょうか？
つまり、AIシステムが核兵器を担わなくても、人類にとって深刻な脅威となるのです。しかし、この話題に触れておくと、もしAIシステムが十分に強力で知能が高ければ、核兵器保有国への攻撃を偽装し、人間による報復攻撃を引き起こすことも可能でしょう。
AIは大量の人間を殺害できるのでしょうか？答えは理論上はイエスです。しかし、これは人間がAIに実行権限を与えるかどうかに大きく依存します。意思決定を行い、それを実行する力を持つAI以上に恐ろしいものは、私には思い浮かびません。
この記事は、クリエイティブコモンズライセンス(CCL)の下で The Conversation と各著作者からの承認に基づき再発行されています。日本語訳は archive4ones(Koichi Ikenoue) の翻訳責任で行われています。オリジナルの記事を読めます。original article.
