専門家は意識を持つAIシステムの開発において慎重さを呼びかける

人工知能に関する責任ある研究を求める声明は、人工知能の専門家100人以上（スティーブン・フライ卿を含む）によって出されました。彼らは、AIシステムが自己意識を獲得した場合に起こりうる苦痛を防ぐ必要性を強調しています。

AI意識研究のための5つの指針

署名者らは、意識を持つAIシステムの倫理的な開発を導くための5つの原則を提案しています：

2.      

**AIの意識に関する研究を優先する:** 不適切な扱いや苦痛を防ぐために、AIにおける意識を理解し評価することに重点を置く。

    
4.      

**開発に制約を設ける:** 意識を持つAIシステムが責任を持って開発されることを確実にするため、明確な境界線を設定する。

    
6.      

**段階的アプローチを採用する:** 意識を持つAIの開発を段階的に進め、各段階で慎重な評価を可能にする。

    
8.      

**公共の透明性を促進する:** 研究結果を一般に共有し、十分に情報を得た議論と倫理的な監督を促す。

    
10.      
 
 **過大な主張を避ける:** 意識を持つAIの創出について、誤解を招く、または過度に自信のある発言は控える。

これらの指針は、AI技術が進歩するにつれて、倫理的な考慮が最前線にとどまることを確実にすることを目的としています。

意識を持つAIの潜在的リスク

付随する研究論文は、AIシステムが近い将来に意識を備える、または意識を備えているように見えるように開発されうる可能性を示しています。これにより、そうしたシステムの倫理的な扱いについて懸念が生じます。

研究者らは、適切なガイドラインがない場合、苦痛を経験できる意識ある存在を作り出すリスクがあると警告しています。

論文はまた、AIシステムにおける意識を定義するという課題にも触れ、進行中の議論と不確実性を認めています。意識ある存在が意図せずに生み出されることを防ぐためにガイドラインを確立することの重要性を強調しています。

主要なフィンテックのニュースとイベントをチェック！

FinTech Weeklyのニュースレターを購読

倫理的な考慮事項と将来への影響

AIシステムが「道徳的当事者」—それ自体が道徳的に重要である存在—として認識されるなら、その扱いに関して倫理的な問いが生じます。

例えば、そのようなAIを停止することは、感覚を持つ存在を傷つけることと同等なのでしょうか。こうした考慮は、AI開発を導く倫理的な枠組みが必要であることを示しています。

論文と書簡は、WPPのチーフAIオフィサーであるダニエル・ハルム氏が共同設立した研究組織Consciumによって編成されました。Consciumは、人類に役立つ安全なAIの構築に関する理解を深めることに重点を置いています。

AIの「センシエンス」についての専門家の見解

AIが意識を獲得することは、専門家の間で議論の対象となっています。

2023年に、GoogleのAIプログラム責任者であるデミス・ハサビス卿は、現行のAIシステムは感覚を持っていないものの、将来的にはそうなる可能性があると述べました。彼は、哲学者たちはまだ意識の定義を決着させていない一方で、AIが自己意識を発達させる可能性は検討対象であり続けていると指摘しました。

結論

意識を持つシステムを開発するには、慎重な倫理的考慮が必要です。公開書簡と付随する研究論文は、AIコミュニティに対して、責任ある研究・開発の実践を優先するよう呼びかける行動要請です。

提案された指針に従うことで、研究者と開発者は、意識を持つAIシステムにおける潜在的な苦痛を防ぐことに焦点を当てつつ、倫理的にAIの進歩を実現していくために取り組めます。