D/ACC:1年後の振り返りと展望

昨年、私は技術楽観主義に関する記事を書き、技術に対する私の情熱とそれがもたらす可能性のある巨大な利益を説明しましたが、特定の問題に対する慎重な態度、特にスーパーインテリジェントAIがもたらすリスクについても表現しました。

この記事の核心的な見解は、分散化された民主的かつ多様な防御的加速の概念を提唱することです。技術の発展を加速させるだけでなく、防御能力を高めることに焦点を当てる技術に特化し、権力の分散を目指し、権力が少数のエリートに集中することを避けることに尽力しています。

一年が過ぎ、これらの考えは顕著な発展と成熟を遂げました。私は「80,000時間」プラットフォームでこれらの考えを共有し、多くのフィードバックを受け取りましたが、大半はポジティブで、もちろんいくつかの批判もありました。

この作業は継続的に進展し、実質的な成果を上げています：検証可能なオープンソースワクチン分野での進展、人々の健康的な室内空気の価値に対する認識の深化、「コミュニティノート」が引き続き積極的な役割を果たしていること、予測市場が情報ツールとして画期的な年を迎えたこと、ゼロ知識証明が政府の身分認識やソーシャルメディア分野で応用されていること、オープンソースのイメージングツールが医学や脳-コンピュータインターフェース分野で利用されていることなど。

昨年の秋、私たちは最初の重要なd/accイベント「d/acc発見日」を開催しました。このイベントは、d/accの各分野からの(生物学、物理学、ネットワーク、情報防衛、神経技術)の講演者を集めました。これらの技術に長年取り組んできた人々は、お互いの仕事をよりよく理解し、外部の人々もこのより大きなビジョン、すなわちイーサリアムと暗号通貨の発展の価値観がより広い世界に広がる可能性をますます意識するようになりました。

! [Vitalikの新しい記事:分散型アクセラレーションが暗号通貨とAIにどのようにアプローチするか?] ](https://img-cdn.gateio.im/webp-social/moments-160f74295ba6e4b4e0353b0c4e25a386.webp)

D/ACCの含意と拡張

d/accの核心思想は明確でシンプルです: 非中央集権、民主的かつ差別化された防御的加速。攻防のバランスを防御に傾ける技術を構築し、実施プロセスにおいて中央権威機関にさらなる権力を委譲することに依存しません。この二つの側面の間には内在する密接な関係が存在します: いかなる非中央集権、民主的または自由な政治構造も、防御が簡単に実施できる場合には繁栄する傾向にあり、防御が困難に直面する場合には厳しい挑戦に直面します。

分散化、防御性、加速性の重要な意味を同時に理解し実現しようとする一つの方法は、これらの3つの側面のいずれかを放棄した場合に生じる理念と比較することです。

分散化を加速させるが、「差別化防御」の部分を無視することは、効果的な加速主義者(e/acc)になることに似ているが、同時に分散化を追求する。この方法は、特定の集団が世界の人類に対して独裁的な支配を行うリスクを回避できるかもしれないが、潜在的な構造的問題を解決していない: 攻撃に有利な環境では、常に災害が発生する継続的なリスクが存在し、ある者は自らを守護者として位置付け、永続的に支配的な地位を占めることになる。

差異化防御を加速させるが、「非中央集権と民主」を無視し、安全目標を達成するために中央集権的なコントロールを受け入れることは、一部の人々にとって常に一定の魅力を持つ。しかし、中央集権的コントロールには程度の問題がある。通常は無視されがちだが、依然として有害な比較的穏やかな中央集権的コントロールの形態は、バイオテクノロジー分野における公共の監視への抵抗、およびその抵抗行為を挑戦なしに許可するクローズドソースの規範に現れている。

去中心化防御、しかし加速を排除することは、本質的に技術進歩を遅らせたり、経済の衰退を促進しようとする試みです。この戦略は二重の課題に直面しています。第一に、全体として、技術と経済の成長は人類にとって非常に有益であり、その遅延は計り知れないコストをもたらすでしょう。第二に、非権威主義の世界では停滞は不安定であり、「不正行為」をすることが最も多い人やグループが、合理的に見える方法で発展を続けることができるため、有利になります。

d/accを通じて、私たちは以下の目標を達成することに努めています:

• 今日の世界がますます部族化している中で、原則を守り、単に盲目的にさまざまなものを構築するだけではありません。
• 指数的な技術進歩を認識することは、世界が非常に特異なものになることを意味し、人類の宇宙における全体的な「足跡」は必然的に増加し続けることになります。私たちが脆弱な動植物や人々を危害から守る能力は継続的に向上しなければならず、唯一の道は前進し続けることです。
• 私たちの技術を実際に保護することができるものを構築し、「良い人(や良いAI)がすべてを掌握する」という仮定に基づかないようにします。私たちは、破壊のために使うよりも構築や保護のために使う際に自然により効果的なツールを構築することによって、この目標を達成します。

d/accについての別の視点は、21世紀の2000年代末におけるヨーロッパの海賊党運動のフレームワークに戻ることです: エンパワーメント。我々の目標は、人間の能動性を保持できる世界を構築し、消極的自由、すなわち他者が我々の運命を形作る能力に積極的に干渉することを避けることを実現し、同時に積極的自由を実現し、すなわちこの能力を行使するための知識と資源を持つことを保証することです。

! [Vitalikの新しい記事:分散型アクセラレーションが暗号通貨とAIにどのようにアプローチするか?] ](https://img-cdn.gateio.im/webp-social/moments-e42a1dcd075fe6d525b3fa2ccbe6aa27.webp)

#第三の次元:生存と繁栄の相乗的な発展

昨年の記事では、d/accは特に防御技術に焦点を当てました:物理的防御、生物的防御、ネットワーク防御、情報防御。しかし、単なる非中央集権的防御だけでは素晴らしい世界を築くには不十分です:私たちはまた、新しい非中央集権性と安全性を得た後に人類がどのような目標を達成できるかを明確にする先見的な積極的ビジョンが必要です。

さまざまな分野に共通するパターンがあります。それは、私たちが特定の分野で「生き残る」ために役立つ科学、思想、ツールと、私たちが「繁栄」するために役立つ科学、思想、ツールが密接に関連しているということです。以下はいくつかの具体例です:

• 最近の多くの新型コロナウイルスに関する研究は、体内でのウイルスの持続的存在に焦点を当てており、これは長期的なコロナの問題の重要なメカニズムと見なされています。最近、ウイルスの持続的存在がアルツハイマー病の病因である可能性を示す兆候もあります。
• 低コストおよびマイクロイメージングツールは、微小血栓、ウイルスの持続、癌などの治療において強力な潜在能力を持ち、同時に脳-機械インターフェースの分野にも応用できる。
• 高度対抗的な環境に適した社会的ツールを構築するという理念は、合理的な協力環境の社会的ツールの理念と非常に似ています。
• 予測市場は、高い協力と高い対立の環境においても重要な価値を持っています。
• ゼロ知識証明および類似技術は、プライバシーを保護しながらデータを計算することにより、科学研究などの有益な作業に利用できるデータ量を増加させると同時に、プライバシー保護を強化します。
• 太陽光発電とバッテリーは、次のクリーン経済成長を推進する上で非常に重要であり、また、分散型と物理的な弾力性の面でも優れた性能を示しています。

それに加えて、異なる学問分野の間には重要な相互依存関係が存在します。

• 脳-機械インターフェースは、私たちの思考や意図をより精密に伝えることができるため、情報防御と協力技術として重要です。
• 多くのバイオテクノロジーは情報共有に依存しており、多くの場合、人々は情報が特定の用途にのみ使用されることを確信しているときにのみ共有することを望みます。これはプライバシー技術に依存しています。
• 協力技術は、他の任意の技術分野への資金提供を調整するために使用できます。

! [Vitalikの新しい記事:分散型アクセラレーションが暗号通貨とAIにどのようにアプローチするか?] ](https://img-cdn.gateio.im/webp-social/moments-cf3127f9a06cb15023ddeba35b9b2ad9.webp)

難題:AIの安全性、緊急のタイムラインと規制のジレンマ

昨年、私の論文に対する最も説得力のある反対意見はAI安全コミュニティから寄せられました。その主張は次のとおりです。「私たちは強いAIを開発するために50年の時間を持っていますが、私たちはこれらすべての有益なものを構築することに集中できます。しかし実際には、私たちは一般的なAIを発展させるためにおそらくわずか3年しか持っておらず、その後3年で超知能に発展することになると思われます。したがって、もし私たちが世界を破滅させたり、他の方法で取り返しのつかない困難に陥れたくないのであれば、私たちは単に有益な技術の開発を加速するだけではなく、有害な技術の発展を遅らせる必要があります。これは、権力者を怒らせる可能性のある強力な規制措置を必要とすることを意味します。」

新しい規制に対して慎重な態度を持つ理由:

昨年、主要なAI規制提案はカリフォルニア州のSB-1047法案でした。SB-1047は、最も強力なモデルの開発者に対して、リリース前に一連の安全テスト措置を講じることを要求しています。さらに、AIモデルの開発者が十分に慎重でない場合、責任を問われることになります。多くの批評家はこの法案が「オープンソースに対する脅威」であると考えていますが、私はこれに異議を唱えます。なぜなら、コストの閾値があるため、最も強力なモデルにのみ影響を及ぼすからです。しかし、過去を振り返ると、この法案にはより深刻な問題があると思います。ほとんどの規制措置と同様に、現在の状況に過度に適応しているのです。

AIスーパーインテリジェンスの破壊的シナリオに最も関与する可能性が高い行為者：

実際、AI超知能の破壊シナリオに最も関与する可能性が高い行為者は軍隊です。過去50年間の生物安全において見られたように、軍隊は恐ろしい行動をとる意欲があり、間違いを犯しやすいです。現在、AIの軍事分野での応用は急速に進展しています。そして、どの政府が通過させる安全規制措置も、原則として自国の軍隊および軍隊と密接に協力している企業を免除します。

対処戦略:

それにもかかわらず、これらの議論は私たちを手詰まりにする理由ではありません。むしろ、私たちはそれらを指針として、これらの懸念を最小限に抑えるルールを策定することを試みることができます。

戦略1:説明責任

誰かの行動が何らかの方法で法的に責任を問われる損害を引き起こした場合、彼らは訴えられる可能性があります。これは軍隊やその他の「法律を超越する」行為者からのリスクの問題を解決するものではありませんが、これは過剰適合を避けるための非常に一般的なアプローチであり、そのため自由意志主義的な経済学者は通常この方法を支持します。

これまでに考慮された主要な責任目標は以下の通りです:

• ユーザー: AIを使用する人。
• デプロイヤー: ユーザーにAIサービスを提供する仲介者。
• 開発者: AI を構築する人。

ユーザーに責任を帰属させることは、インセンティブメカニズムに最も適しているようです。モデルの開発方法と最終的な使用方法との関連はしばしば明確ではありませんが、ユーザーがAIの具体的な使用方法を決定します。ユーザーに責任を問うことは、AIを正しい方法で使用するように人々に強いプレッシャーをかけます：人間の思考のための機械のセットを構築することに焦点を当て、新しい自己維持型の知的生命形式を創造することではありません。

戦略2：産業規模のハードウェアにおけるグローバル「ソフト停止」ボタン

もし私が責任ルールよりも"強力な"措置が必要だと確信しているなら、この戦略を選びます。目標は、重要な時期に世界中の利用可能な計算能力を約90%-99%削減する能力を1-2年間維持し、人類により多くの準備時間を稼ぐことです。1-2年の価値は過大評価されるべきではありません：自惚れの状況下での一年の"戦時モード"は、通常の作業の百年に匹敵することが容易にあります。

より進んだ方法は、巧妙な暗号技術手段を使用することです。例えば、産業規模(ですが、消費者向けではない)AIハードウェアには、信頼できるハードウェアチップが搭載されており、主要な国際機関からの3/3の署名を毎週取得した場合にのみ、運転を続行することが許可されます。これらの署名はデバイスに依存しないため、全てまたは全くないということになります：他のすべてのデバイスを認可せずに、あるデバイスを運転し続けるための実際の方法はありません。

! [Vitalikの新しい記事:分散型アクセラレーションが暗号通貨とAIにどのようにアプローチするか?] ](https://img-cdn.gateio.im/webp-social/moments-7ebae4f7e715feb6063c7ff4e321b245.webp)

d/acc技術がAIリスクにおける役割:

この2つの戦略(責任とハードウェアの一時停止ボタン)には脆弱性があり、明らかにそれらは単なる一時的な対策です。したがって、私たちは時間を稼ぐためにより安定した手段を必要としています。ここでは多くのd/acc技術が関連しています。d/acc技術の役割を次のように考えることができます: AIが世界を支配する場合、どのようにそれを行うのでしょうか?

• それは私たちのコンピュータに侵入します→ネットワーク防御