OpenAIオープンソースのPlant Talk:マイクとセンサーを接続して観葉植物とリアルタイムで会話

robot
概要作成中
動態監測 Beating による監視、OpenAI のオープンソース教育プロジェクト Plant Talk は、リアルタイム API、多模態ビジョンモデルと Arduino マイクロコントローラーを組み合わせ、室内植物に環境認識と音声対話機能を持たせます。

プロジェクトは、コンピュータのカメラとマイクを通じて植物と低遅延の全二重音声対話を行うことをサポートし、Arduino を介して容量式土壌湿度センサーと LM393 光センサーに接続できます。植物の AI 役割(デフォルトの役割は George など)は、関数呼び出し(Function Calling)を通じてハードウェアデータを取得します。ユーザーが水不足や光照射について質問した場合、AI はツールを呼び出してリアルタイムの物理指標を読み取り、カメラで捉えた画像と組み合わせて植物の乾燥度、枝分かれ数、最大スパン(25セント硬貨をサイズ比較に使用可能)を推定し、擬人化された植物の口調で音声応答を行います。

安全性とインターフェース設計において、バックエンドの Express サーバーは、一時的なクライアントキー(Ephemeral Token)を申請し、WebRTC 接続のセキュリティをフロントエンドに委ね、クライアント側で API のメインキーが漏洩するのを防ぎます。ビジョン認識と定期観測には Responses API と Zod パターンを組み合わせて構造化出力を実現しています。コードベースには、AI インテリジェントエージェント向けの操作ガイド AGENTS.md も内蔵されており、AI アシスタントがユーザーにソフトウェア環境設定やハードウェア組み立てを段階的に案内します。
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし