币界网消息、OpenAI首席执行官Sam Altman以个人署名发布了公司五条运营原则。 彼は文中で、将来的に特定の時期にOpenAIが安全のためにユーザーがアクセスできるモデル能力を制限する可能性があることを予告し、「一部の権限を犠牲にしてでもより堅牢性を高める必要がある」と想像できる時期について述べた。 Altmanは、AIの重要な意思決定は民主的な手続きによって行われるべきであり、AI研究所だけの決定ではないと指摘した。 彼は、OpenAIが最近大規模な計算能力の購入、世界中のデータセンターの構築、垂直統合などの取り組みを擁護し、その目的はAIのコストを誰もが手の届く範囲に抑えることであり、政府は価値の共有を確保するために新しい経済モデルを模索する必要があるかもしれないと述べた。 また、具体的なリスクシナリオとして、極端に強力なモデルが新しい病原体の生成の敷居を下げる可能性があり、社会全体で対処すべきだと指摘した。 Altmanは、当時GPT-2の公開重みについて躊躇したことを振り返り、それは後から見れば杞憂だったと述べつつ、その経験がOpenAIの現在も続く反復展開戦略を生み出したと語った。
AltmanはOpenAIの五つの原則を発表し、今後安全性の制約のためにモデルの能力を制限する可能性を予告した
币界网消息、OpenAI首席执行官Sam Altman以个人署名发布了公司五条运营原则。
彼は文中で、将来的に特定の時期にOpenAIが安全のためにユーザーがアクセスできるモデル能力を制限する可能性があることを予告し、「一部の権限を犠牲にしてでもより堅牢性を高める必要がある」と想像できる時期について述べた。
Altmanは、AIの重要な意思決定は民主的な手続きによって行われるべきであり、AI研究所だけの決定ではないと指摘した。
彼は、OpenAIが最近大規模な計算能力の購入、世界中のデータセンターの構築、垂直統合などの取り組みを擁護し、その目的はAIのコストを誰もが手の届く範囲に抑えることであり、政府は価値の共有を確保するために新しい経済モデルを模索する必要があるかもしれないと述べた。
また、具体的なリスクシナリオとして、極端に強力なモデルが新しい病原体の生成の敷居を下げる可能性があり、社会全体で対処すべきだと指摘した。
Altmanは、当時GPT-2の公開重みについて躊躇したことを振り返り、それは後から見れば杞憂だったと述べつつ、その経験がOpenAIの現在も続く反復展開戦略を生み出したと語った。