ビタリックの最新投稿で、何かすごいことについて読んだばかりだ - 犬コインのミームが偶然にも10億ドル規模のAI政策ファンドになったという話だ。そして正直なところ、これはかなり興味深くて(警鐘を鳴らす)物語だ。

だから2021年に、シバイヌチームは許可なく大量のSHIBトークンをビタリックのウォレットに送った。彼らの狙いは明白だった：「ビタリックが我々の供給量の半分を所有している」とマーケティングに書き込み、その盛り上がりに乗ることだ。実際、それは効果的だった。あのシバイヌトークンは価値が爆発し—紙上の富で10億ドル超に達した。

ビタリックはそれに関わりたくなかった。彼は撤退の過程をかなり混乱したものだと表現し、カナダにいる継母に電話して、クローゼットから78桁の数字を読み上げさせてプライベートキーにアクセスしたと語った。彼はETHに一部を売却し、GiveWellに100万ドルを寄付したが、それでも山のように残ったSHIBがあった。

彼は残りを分割した。一方はCryptoReliefに渡され、インドの医療インフラ整備や自身の研究に使われた。もう一方はFuture of Life Instituteに渡った。これはAIやバイオテクノロジーからの存在論的リスクに焦点を当てた組織だ。FLIは当時のシバイヌの流動性の薄さを考慮して、約1000万〜2500万ドルを現金化できると見込んでいた。ところが実際には？約100万ドルを売却した。誰も真剣に受け止めていなかったミームコインが、たった一つの慈善イベントを10億ドル規模にしたのだ。

しかし、ここからが面白い。FLIはどうやら最初のロードマップから大きく方向転換したらしい。ビタリックが支持していた広範な存在論的リスクアプローチの代わりに、彼らは政治的・文化的行動に重点を置き始めた。その理由は、AGIが急速に近づいているため、大手AI企業のロビー活動予算に対して積極的に動く必要があると考えたからだ。

しかし、ビタリックは今やこの展開に公に不安を感じている。彼は、大規模な資金を動かした協調的な政治行動は逆効果になり、予期しない結果を招くことが多いと懸念している。彼は、FLIのバイオセーフティアプローチ—AIモデルにガードレールを埋め込むこと—は脆弱だと指摘した。なぜなら、ジャイルブレイクや微調整の回避策によって、その制限を簡単に突破できてしまうからだ。その論理は、「オープンソースAIを禁止しよう」から「良いAI企業を支援して世界を支配させよう」へとつながると彼は述べた。その種の中央集権化は、世界全体を敵に回すことになりかねない。

また、彼が指摘した構造的な問題もある。政府が危険な技術を制限するとき、国家安全保障機関は免除される。そして、その同じ組織自体がしばしば問題の一端を担っている。

それでも、ビタリックは最近のFLIの活動をいくつか称賛している—特に、「人間中心のAI宣言」だ。これは、保守派、進歩派、リバタリアンを地理的に超えて結びつけているらしい。しかし、核心的なメッセージは明白だった。彼が本来寄付するつもりのなかった資金、彼が望まなかったシバイヌトークンから資金提供された組織が、彼が今疑問を抱く方向へ動き出しているということだ。彼は公にする前に、私的に懸念を表明していた。

これは、暗号通貨の予測不可能性が現実世界に大きな影響を及ぼす可能性を示す奇妙なリマインダーだ—良い方向にも悪い方向にも。時にはミームコインの冗談が、10億ドル規模の政策のレバーになることもある。問題は、それが賢明に操られているかどうかだ。