AI界をリードする起業家の一人であるムスタファ・スレイマンが贈る『The Coming Wave (来るべき波)』は、AIと合成生物学の波がいかに世界を変貌させ、新たなリスクをもたらし、国家を脅かし、人類を破局やディストピアへと導くかについての緊急警告である。ムスタファ・スレイマンは、現代の実存的ジレンマを明らかにし、「封じ込め」だけがいかに私たちを救えるかを説く。
この動画では、AIと合成生物学に焦点を当てた新しいテクノロジーの波が私たちの周りで起こりつつあることを説明しています。この波は知性と生命そのものの力を解き放っており、驚異的な医療の進歩やクリーンエネルギーの突破口などを提供し、新しいビジネスや産業を生み出し、ほぼすべての分野で生活の質を向上させる可能性があります。
しかし、その急速な普及は様々な悪意ある行為者による混乱、不安定さ、さらには災害をもたらす可能性もあります。この波は「封じ込めの問題」と呼ばれる、新しいテクノロジーの意図しない影響を制御する難しい課題をもたらしています。
また、この波は過去のものとは異なり、非常に速く進化し、不均衡な影響をもたらし、あらゆる社会領域で作用し、自律性の兆候を示し、人類の潜在能力に変革をもたらします。しかし、同時に悪意ある行為者に新しいツールを提供し、情報の誤情報を拡散させ、雇用を奪う可能性があり、国家の存亡にさえ影響を及ぼす可能性があることも指摘されています。
このテクノロジーの波を制御し、封じ込める方法を見つけることは、21世紀の中心にある重要な課題であり、開放性と封鎖性のバランスを取る必要があります。
ポイント
– AIと合成生物学に焦点を当てた新しいテクノロジーの波が現れている。
– この波は医療の進歩やクリーンエネルギーの突破口などを提供し、新しいビジネスや産業を生み出す可能性があるが、悪意ある行為者による混乱と不安定さも引き起こす可能性がある。
– テクノロジーの封じ込め（制御）問題は、急速なテクノロジーの進化、不均衡な影響、あらゆる社会領域での作用、自律性の兆候によって複雑化している。
– この波は人類の潜在能力を大きく変革させ、力の急増をもたらす。
– 同時に、悪意ある行為者に新しいツールを提供し、社会の脆弱性を増大させ、国家の存亡にさえ影響を及ぼす可能性がある。
– テクノロジーの波を制御し、封じ込める方法を見つけることは、21世紀の中心にある課題であり、開放性と封鎖性のバランスを取る必要がある。
AIと合成生物学に焦点を当てた新しいテクノロジーの波が現れている
AIと合成生物学を中心に、知性と生命そのものの力を解き放つテクノロジーの新たな波が、私たちの周囲に押し寄せ始めている。私はムスタファ・スレイマン、ディープマインドとインフレクションAIの共同設立者であり、新しいテクノロジーの構築に専念するAI起業家である。過去10年半の間、私はAI革命が研究者たちの間の縁の下の力持ち的な議論から、社会的な大きな力へと変貌を遂げるのを目の当たりにしてきた。
そして今、拙著『The Coming Wave』（邦題『来るべき波』）で、21世紀のテクノロジーを語り、そのポジティブな影響を確実にする方法を提案することを目指している。来るべき波は人類に新たな夜明けを約束し、かつてない富、余剰、医学の進歩、クリーンエネルギーの躍進、新しいビジネス、産業、生活の質の向上をもたらす。
AIの急速な普及がもたらす負の側面
しかし、その急速な普及はリスクももたらし、悪意ある行為者に力を与え、不安定性、混乱、そして潜在的な大災害を引き起こす。私たちの未来はこれらのテクノロジーに依存しているが、同時にテクノロジーによって脅かされているのである。
歴史的に、テクノロジーに対する挑戦は、その力を創造し、解き放つことであった。この新しい波によって、その課題は、解き放たれたパワーを封じ込め、それが私たちと地球のために役立ち続けるようにすることへとシフトした。
封じ込め問題
これは私が「封じ込め問題」と呼んでいるもので、予期せぬ結果を防ぐためにテクノロジーを監視し、制御し、制限し、場合によっては停止させるという課題である。
歴史が示すように、テクノロジーは一般的に、大量に普及し、大量に消費される。私たちはそれに抵抗するかもしれないが、テクノロジーは常に広く普及し、進歩の避けられない進化的性質を定義している。大規模な言語モデルは首尾一貫したテキストを生成し、コードを書き、画像を生成し、音楽を作曲し、交通を管理し、倉庫を運営し、稀な状態を診断する。
わずか数年の間に、AIモデルは数億から数兆のパラメーターへと成長し、より小さく、より効率的になっている。AIモデルは、これまでで最も急速に普及した消費者向けテクノロジーであり、業界の専門家が追跡したり予測したりするよりも早く進歩している。
AIと合成生物学は大規模な経済ブームを巻き起こそうとしている
この指数関数的な変化は、今やバイオテクノロジー、ロボット工学、量子コンピューティング、新エネルギー源をも包含している。DNAの塩基配列を決定するコストは劇的に低下し、まったく新しい有機生命体を合成・創造する能力を高めている。米国と中国が主導する地政学的な覇権争いが進行中であり、AIと合成生物学は大規模な経済ブームを巻き起こそうとしている。
これらの技術はまた、差し迫った世界的な課題に対処するものでもあり、来るべき波は避けられないものとなっている。しかし、この波がこれまでの波と異なるのは、封じ込めをとりわけ困難にする4つの重要な特徴、すなわち、急速な進化、大規模な非対称的影響の可能性、社会全体への一般的な適用可能性、自律性の新たな兆候のためである。これらが相まって、制御という課題を悪化させている。
“来るべき波” は、国家にとって存亡の危機となる可能性さえある
これらのテクノロジーは、人間の可能性を一段階変化させるものである。インターネットがすべての人に放送する能力を与えたように、新しい波は前例のない規模の行動を可能にし、パワーの急激な拡散をもたらす。莫大な恩恵があるにもかかわらず、私たちは、悪意ある行為者に力を与え、誤った情報に拍車をかけ、雇用を奪うなど、インターネットがもたらす課題への備えができていない。
また、社会の脆弱性を増幅させ、国家にとって存亡の危機となる可能性さえある。これは、現在の政治秩序を崩壊させたり、覆したりしかねないほどの深刻なリスクをもたらす。これらのテクノロジーは、AIを駆使したサイバー攻撃、自動化された戦争、人工的なパンデミック、説明不可能だが一見全能の力に翻弄される世界への道を開く。
それぞれのシナリオの可能性は小さいかもしれないが、起こりうる結果は計り知れない。そのような結果になる可能性はわずかであっても、真剣に注意を払う必要がある。
人々はしばしば悲観主義嫌悪を示し、こうした評価を大げさな脅し文句として片付けてしまう。しかし、これが現実なのだ。自由と進歩を犠牲にしてリスクを抑圧する監視国家か、暴走する開発から生まれる最終的な大災害か。このジレンマが21世紀の核心にある。課題は、開放と閉鎖の間のバランスを見つけることであり、気候危機への対応と同様に緊急の注意が必要である。
10層の同心円状に作用する封じ込めプログラム
では、何から始めるべきか？私が提案するのは、10層の同心円状に作用する封じ込めプログラムである。これは完全な解決策ではなく、さらなる議論を促すためのアウトラインである。ステップには以下が含まれる：
1. 安全な結果を確実にするため、ツールに直接組み込まれた技術的な安全対策。
2. 透明性と説明責任のための監査メカニズム。
3. 必要であれば、規制当局と防御技術に、より大きな力と行動する時間を与えるために、台湾の単一工場に集中した高度なチップの生産など、エコシステム全体にチョークポイントを採用する。
4. 誰がテクノロジーを構築するかが重要である。責任感があり、献身的なメーカーが必要なのだ。テクノロジーの最大の批評家は、外から見ているだけでなく、実際にテクノロジーを作ることに投資することが重要である。
5. 企業レベルでは、適切なインセンティブを確立することが、困難ではあるが極めて重要である。単なる商業競争を超えて、封じ込め技術を提供するための企業構造を形成することが不可欠である。
6. 規制は絶対に不可欠である。政府はこれらの技術を認可し、その創造と展開のあらゆる段階に関与する必要がある。
7. 各国政府を仲介する新たなグローバル機関を含む国際条約は必須である。
8. 技術を取り巻く正しい文化を育てることが必要である。予防原則をエコシステム全体に根付かせることは譲れない。
9. 社会運動は常に、広範な変革の一翼を担ってきた。いまや誰もが、より良いテクノロジーのために幅広い連合を構築し、私たちが望む未来を推進することに貢献できる。
10. これらの施策はすべて、包括的で統合されたプログラムとしてまとまる必要がある。
これは容易なことではないが、それを達成することで、安全で繁栄する人類の未来への狭い道が切り開かれることになる。かつては何世紀、何千年もかかった技術革新が、今では数年、数カ月で起こっている。その影響は数時間から数秒で世界中に波及する。封じ込めとは、この指数関数的な変化の時代に、人間と社会がテクノロジーをコントロールし続けるための、相互にリンクし、相互に強化し合う一連のメカニズムである。
封じ込めなしには、倫理的な欠点や潜在的な利益についての議論も含め、テクノロジーの他のあらゆる側面は取るに足らないものとなってしまう。来るべき波をどのように制御し、封じ込めることができるのか、そして民主的な国民国家のセーフガードをどのように守るのか、私たちは緊急に水密な答えを必要としている。テクノロジーの歴史と来るべき波のパワーを見れば、封じ込めは不可能に思えるかもしれないが、私たちの未来のためには、封じ込めは可能でなければならないことは明らかである。
