専門家は意識を持つAIシステムの開発に慎重さを呼びかける

スティーブン・フライ卿を含む100人以上の人工知能の専門家が、AIの意識に関する責任ある研究を呼びかけています。彼らは、自己認識を持つ可能性のあるAIシステムにおいて潜在的な苦痛を防ぐ必要性を強調しています。

AI意識研究のための五つの指針

署名者は、意識を持つAIシステムの倫理的な開発を導く五つの原則を提案しています。

2.      

**AI意識に関する研究を優先すること:** AIにおける意識の理解と評価に焦点を当て、虐待や苦痛を防ぐ。

    
4.      

**開発に制約を設けること:** 明確な境界線を設定し、責任を持って意識を持つAIシステムを開発する。

    
6.      

**段階的アプローチを採用すること:** 意識を持つAIの開発を段階的に進め、各段階で慎重に評価を行う。

    
8.      

**公共の透明性を促進すること:** 研究成果を公開し、情報に基づく議論と倫理的監督を促進する。

    
10.      
 
 **誇張した主張を避けること:** 意識を持つAIの創造について誤解を招くような過信や誤った表現を控える。

これらの原則は、AI技術の進展に伴い、倫理的配慮を最優先に考えることを目的としています。

意識を持つAIの潜在的リスク

付随する研究論文は、近い将来、AIシステムが意識を持つ、または持つように見えるように開発される可能性を指摘しています。これにより、そのようなシステムの倫理的な扱いに関する懸念が生じています。

研究者たちは、適切なガイドラインがなければ、苦痛を経験できる意識を持つ存在を作り出すリスクがあると警告しています。

また、AIシステムにおける意識の定義の難しさについても触れ、議論と不確実性が続いていることを認めています。意図せずに意識を持つ存在を生み出さないためのガイドラインの策定の重要性を強調しています。

トップフィンテックニュースとイベントを発見しよう！

FinTech Weeklyのニュースレターに登録しよう

倫理的考慮と将来への影響

AIシステムが「道徳的な患者」—自己のために道徳的に重要な存在—と認められる場合、倫理的な問題が浮上します。

例えば、そのようなAIを停止させることは、感覚を持つ存在を傷つけることに匹敵するのか？これらの考えは、AIの開発を導く倫理的枠組みの必要性を強調しています。

この論文とレターは、WPPの最高AI責任者ダニエル・ハルムが共同設立した研究組織、コンシウムによって組織されました。コンシウムは、安全なAIの構築と人類への利益を深めることに焦点を当てています。

AIの感覚性に関する専門家の見解

AIが意識を持つことについては、専門家の間で議論の的となっています。

2023年、グーグルのAIプログラム責任者デミス・ハサビス卿は、現段階のAIシステムは感覚を持たないが、将来的には持つ可能性があると述べました。彼は、哲学者たちが意識の定義について未だ結論を出していないが、AIが自己認識を発達させる可能性は議論の対象であり続けていると指摘しました。

結論

意識を持つシステムの開発の見通しは、慎重な倫理的配慮を必要とします。この公開書簡と付随する研究論文は、AIコミュニティに対し、責任ある研究と開発の優先順位付けを呼びかけるものです。

提案された原則を遵守することで、研究者や開発者は、AIの進歩を倫理的に進め、意識を持つAIシステムに潜む潜在的な苦痛を防ぐことに努めることができるでしょう。