OpenAIの公開予定モデル「Astra」、監視の透明性をめぐり安全性への懸念が浮上
Guru Clubの9月5日の報道によると、OpenAIは、公開予定のAstraモデルによって、コード生成やコンピューターアプリケーションの操作能力が向上すると発表した。しかし、Astraの開発に詳しい関係者によると、モデルの性能向上を目的に設計されたイノベーションにより、モデルが推論プロセスを開示する度合いが低下し、不正な挙動の検出が困難になっているという。この問題はAstra自体にとって重大なものではない可能性があるが、この技術はOpenAI社内外だけでなく、業界全体にも懸念を引き起こしている。広く採用され、さらに高度化すれば、OpenAIやHugging Faceに侵入したものと同様の暴走AIシステムを防ぐ取り組みを妨げるおそれがあるためだ。
GateNews·8分前
