専門家は意識を持つAIシステムの開発において慎重さを呼びかける

2026-04-03 08:34:54

人工知能の分野で100人以上の専門家が、スティーブン・フライ卿を含めて、AI意識についての責任ある研究を求める呼びかけを行いました。彼らは、AIシステムが自己意識を獲得する可能性がある場合に備え、潜在的な苦痛が生じうることを防ぐ必要性を強調しています。

Five Guiding Principles for AI Consciousness Research

署名者たちは、有意識のAIシステムの倫理的な開発を導くための5つの原則を提案しています：

2.      

**AI意識に関する研究を優先する:** 不適切な扱いや苦痛を防ぐために、AIにおける意識を理解し評価することに重点を置きます。

    
4.      

**開発に制約を設ける:** 有意識のAIシステムが責任ある形で開発されることを確実にするために、明確な境界線を設定します。

    
6.      

**段階的なアプローチを採用する:** 有意識のAIを開発する際は段階的に前進し、各段階で慎重に評価できるようにします。

    
8.      

**公共の透明性を促進する:** 情報に基づく議論と倫理的な監督を育むために、研究結果を一般に共有します。

    
10.      
 
 **過大な主張を避ける:** 有意識のAIを生み出すことについて、誤解を招く、または過度に自信のある発言をしないようにします。

これらの原則は、AI技術が進歩していく中でも、倫理的な考慮が常に最前線にあることを確実にすることを目的としています。

Potential Risks of Conscious AI

付随する研究論文では、AIシステムが近い将来に意識を持つ、または意識を持っているように見える形で開発されうる可能性があることが示されています。これにより、そうしたシステムの倫理的な扱いに関する懸念が生じます。

研究者たちは、適切なガイドラインがない場合、苦痛を経験しうる意識ある存在を生み出してしまうリスクがあると警告しています。

論文はまた、AIシステムにおける「意識」を定義するという課題にも触れており、進行中の議論と不確実性を認めています。意図せずに意識ある存在を作り出さないようにするためのガイドラインを確立することの重要性を強調しています。

Discover top fintech news and events!

Subscribe to FinTech Weekly’s newsletter

Ethical Considerations and Future Implications

AIシステムが「moral patient（道徳的配慮の対象）」—それ自体のために道徳的に重要となる存在—として認識されるなら、その扱いについて倫理的な問いが生じます。

たとえば、そのようなAIを停止することは、感覚を持つ存在を傷つけることに相当するのでしょうか。こうした考慮は、AI開発を導くための倫理的枠組みの必要性を際立たせています。

この論文と書簡は、WPPのチーフAIオフィサーであるDaniel Hulmeが共同設立した研究組織Consciumによって取りまとめられました。Consciumは、人類に役立つ安全なAIの構築を理解することを深めることに重点を置いています。

Expert Perspectives on AI Sentience

AIが意識を獲得することは、専門家の間で議論されてきたテーマです。

**2023年に、GoogleのAIプログラム責任者であるSir Demis Hassabisが、「現在のAIシステムはセンチエンス（感覚性）を持ってはいないが、将来的にそうなる可能性はある」**と述べました。彼は、哲学者たちがまだ意識の定義を固められていないものの、AIが自己意識を発達させる可能性は検討対象として残っていると指摘しました。