Google の DeepMind の共同創業者である Mustafa Suleyman (ムスタファ・スレイマン) が、AIの発展について警鐘を鳴らす、今の時代を生きる人に必読の書『The Coming Wave: the ground-breaking book from the ultimate AI insider (来るべき波 : 究極のAIインサイダーによる画期的な本)』が2023年9月7日に出版されました。
あのローリー・スチュワートが「AI革命のまさに中心にいる人物による驚くべき本」、ダニエル・カーネマンが「必読書」 と述べる本書についてご紹介します。
AI、合成生物学、量子コンピューティング …
AI、合成生物学、量子コンピューティング、すべてが変わろうとしている。この新しい世界を理解するために必要な本はこれしかない。究極のAIインサイダー、Google (グーグル) 傘下 DeepMind (ディープマインド) の共同創設者、ムスタファ・スレイマンが贈る。
魅力的で、よく書けていて、重要だ – ユヴァル・ノア・ハラリ 『サピエンス』著者
深く読み応えがあり、一貫して驚かされる – スティーブン・フライ
前例のない時代を乗り切るための優れたガイド – ビル・ゲイツ
間もなく、あなたはAIに囲まれて暮らすようになる。彼らはあなたの生活を組織し、ビジネスを運営し、政府の中核サービスを運営する。DNAプリンターと量子コンピューター、人工病原体と自律型兵器、ロボットアシスタントと豊富なエネルギー。
私たちの誰も準備ができていない。Google 傘下の先駆的AI企業 DeepMind の共同設立者として、ムスタファ・スレイマンはこの革命の中心にいる。
スレイマンは『The Coming Wave (来るべき波)』の中で、これらの力がいかに巨大な繁栄をもたらすか、同時に世界秩序の基盤である国民国家をいかに脅かすかを示している。
脆弱な政府が悪夢のような災厄へと歩を進めるなか、われわれは実存的なジレンマに直面している。一方では前例のない被害が、他方では威圧的な監視の脅威が待ち受けている。
破局とディストピアの狭間で、われわれは細い道を切り開くことができるのか？究極のAIインサイダーによるこの画期的な本は、「封じ込め問題」、すなわち強力なテクノロジーをコントロールし続けるという課題を、現代の本質的な課題として確立している。
倫理的で安全な方法で AGI を構築すること
私たちの種を前進させてきた知性を、簡単に拡大・複製・共有できるアルゴリズムやソフトウェアに抽出することが長期的に与える影響は、不安定さや混乱を引き起こす可能性が高いと思われるものだったと思います。
2010年に会社を立ち上げたときから、私はこのことに早くから気づいていた。私たちの目標は、倫理的で安全な方法で AGI (Artificial General Intelligence) を構築することでした。このことは、2010年の夏に初めてシリコンバレーを訪れたときの事業計画でも強調されていた。
興味深いことに、私たちの最初の出会いはピーター・ティールとのものでした。彼は信用に値するほど先見の明があり、シンギュラリティの概念に強い関心を持っていました。
AIは社会の脆弱性を増幅させ、国家の存続にも影響を与える可能性がある
ムスタファ・スレイマンは、AIが人類の歴史における最大の力の拡散を表すとし、これは今日の社会で大きく見落とされている特徴だと述べています。
AIは世界の仕組みを変え、これまでの反応では不十分だと彼は考えています。多くの利点がありますが、これらのテクノロジーが悪意ある行為者に新たなツールキットを提供し、情報の洪水を引き起こし、仕事を奪う可能性があることは秘密ではありません。
これらは莫大な利益をもたらす一方で、社会の脆弱性を増幅させ、国家自体に対する存続の脅威をもたらす可能性さえあります。
ムスタファ・スレイマンは人々に、前方に広がる挑戦の大きさと、それが肯定的な結果と負の結果の間でどれほど微妙なバランスが取れているかを知って欲しいと考えており、新興テクノロジーを見て、現在何が起こっているのかとその理由を即座に把握してほしいと望んでいます。
AIが労働に取って代わるのか、それとも労働を補強するのか？
AIが労働に取って代わるのか、それとも労働を補強するのか、またその他の倫理的な検討事項など、AIがもたらすであろう影響を理解するのに役立つはずだ。
こうした議論は最近でこそ一般的になったが、2010年から2016年にかけては、話題にするのも気まずいものだった。私はこれを「悲観主義回避の罠」と呼んでいる。難しい議論を避けるあまり、公共の利益のために技術開発に介入し、舵を切る機会を逃してしまう危険性である。
このような基本的な軌跡を論じる前に、なぜこの技術を構築する必要があるのかを明らかにしたい。今後30年間で、世界は気候変動と、食糧、教育、医療に対する今後50億人の要求によって根本的な影響を受けるだろう。
より多く、より安く、より良い商品やサービスを求める需要の大きなうねりがあり、何十億もの人々が自分たちにはその権利があると信じている。そこで問題となるのは、持続可能な方法でこの需要に応えるにはどうすればいいのかということだ。
スーパーインテリジェンス (超絶知能)
本書でスレイマンは、AIによってもたらされるプラスの面ではなく、マイナスの面に焦点を当てています。スレイマンは、スーパーインテリジェンスに対する誤解について次のように述べています。
この5年間、私が最もイライラさせられたことのひとつは、スーパーインテリジェンス (超絶知能) に対する大げさなまでの執着です。一度AIを作れば、それはすぐに人工知能になり、スーパーインテリジェンスになるという考え方だ。
自分自身をより賢くし、より多くの能力を追加するために、再帰的に自己改良し、更新し、自分自身のコードを改良してきたものだ。当然、そのようなシステムは、何らかの方法で箱から抜け出し、封じ込めを破り、より多くの資源を獲得し、人々を説得し、人々に影響を与え、キルスイッチが作動するのを防ぐだろう。
そうなれば、知性の爆発と呼ばれるような、再帰的に自己改良を繰り返すシステムになる。私は、ターミネーターというフレーミングが、私たちの思考全体を支配していると思う。
まるで、画像の中の猫をかろうじて認識できるモデルから、突然、伝統的なフレーミングで言えば、すべてをクリップに変えてしまうようなスーパーインテリジェンスが現れるかのような二元的な流れになっている。
それは偶然にも危険な目的を持っていて、すべての人をこのようなマイナーな機能的なものに貶めてしまう。それは完全に間違っていて、起きていることのもっと平凡で漸進的な本質を見逃していることになると思います。
本書に贈られた賛辞
興味深い事実、目を見張る議論、説得力のある観察に富んでおり、必読書である – ダニエル・カーネマン（『シンキング・ファスト・アンド・スロウ』著者）
並外れた、必要な本 …。今生きていることに活力と興奮を覚える – アラン・ド・ボットン（作家、哲学者）
AI革命のまさに中心にいる人物による衝撃的な一冊 – 現実的で、強靭な精神を持ち、（そして）AIの破局とディストピアの間に有意義な道筋を描いている – ローリー・スチュワート
並外れた. …..まったく見逃せない – エリック・シュミット（グーグル元CEO、『AIの時代』著者 ）
この重要な本は刺激的で恐ろしい。私たちはこの本を読み、この本に基づいて行動する必要がある – デイヴィッド・ミリバンド（元英国外相）
こうした技術のペースと規模を理解するために、この不可欠な本を読もう – イアン・ブレマー（ユーラシア・グループ創設者、『危機の力』著者）
深く研究され、非常に適切である – アル・ゴア、元米国副大統領
スレイマンは、各国政府が今取るべき行動の緊急アジェンダを提案する – グレアム・アリソン、ハーバード大学教授
冷静で、現実的で、深い倫理観がある…… 夢中にさせる読み物である – アンジェラ・ケイン、元国連事務次長
新しいテクノロジーに支配される前に、それをコントロールすることは可能か？ムスタファ・スレイマンは、この重大な問題に対する理想的なガイドである – ジェフリー・D・サックス、コロンビア大学教授、国連持続可能な開発ソリューション・ネットワーク会長
鋭く、思いやりがあり、妥協を許さない – チー・ルー（ミラクルプラスCEO、元バイドゥCOO、元マイクロソフトBing副社長）
スレイマンは、新たなテクノロジーが人類のために使われるようにするために何をすべきかについて深く考察している。必読書 – メーガン・L・オサリバン（ハーバード大学ディレクター）
説得力を持って論じられた力作 – ヌリエル・ルビーニ（『巨大な脅威』著者）
現在のテクノロジーの苦境について、驚くほど明晰で、すがすがしいほどバランスの取れた説明 – ケビン・エスヴェルト（マサチューセッツ工科大学准教授）。
現実的で、深い情報に基づき、非常にわかりやすい – ジャック・ゴールドスミス、ハーバード大学教授
Mustafa Suleyman (ムスタファ・スレイマン) について
Inflection AI の共同設立者兼CEO。それ以前は、世界有数のAI企業である DeepMind を共同設立。DeepMind に10年間在籍した後、Google のAI製品管理およびAI政策担当副社長に就任。オックスフォード大学在学中に中退し、非営利の電話カウンセリング・サービスを立ち上げた。カリフォルニア州パロアルト在住。