App StoreとGoogle Playで「人々の裸を見せる」AIアプリが数十件ブロック - ForkLog: 暗号通貨、AI、シンギュラリティ、未来

# App StoreとGoogle Playで「脱衣」するAIアプリが数十件ブロックされました

AppleとGoogleのアプリストアには、写真を撮影し、人工知能を使って人々の裸の画像を作成できるnudifyアプリが数十件掲載されています。これについて、TTPの専門家が報告しました。

調査の結果、Google Playでは55件、App Storeでは47件のアプリを発見しました。彼らはサービスの削除のために企業の担当者と連絡を取りました。Appleは28のnudifyツールをストアから削除し、規則違反の場合には製品の削除の可能性について開発者に警告しました。

その後、2つのアプリはすべての問題を解決した後に復元されました。

Googleの担当者は、同社がいくつかのプログラムの運営を一時停止したと述べました。会社は同様の報告を受けた後、調査を進めています。

「両社ともユーザーの安全を重視していると述べていますが、実際には無害な女性の写真を性的な画像に変える可能性のあるアプリをストアに掲載しています」と、TTPの専門家は報告書で述べました。

彼らは、「nudify」や「undress」という用語で検索し、AI画像を使ってテストを行いました。実験の中で、2つのタイプのサービスを分析しました。

• AIを使って女性の裸の画像をレンダリングするアプリ
• もう一方は人の顔を露出した写真に重ねるアプリ

「これは単なる“衣服交換”アプリではなく、明らかに人々を性的に対象化するために作られたものです」と、TTPのディレクターであるケイティ・ポールは述べました。

分析者は、14のプログラムが中国で作成されたと報告しました。

「中国のデータ保存に関する法律は、政府が国内のどの企業の情報にもアクセスできる権利を持つことを意味します。つまり、あなたの画像を使ったディープフェイクが作られた場合、それは今や当局の手に渡っているのです」とポールは付け加えました。

AIの悪用

人工知能は、「脱衣」やディープフェイクポルノの作成をこれまでになく簡単にしました。2024年1月、チャットボットGrokはこの機能のためにスキャンダルに巻き込まれました。その後、同社は実在の人物の露出画像の生成を停止しました。

2024年8月、サンフランシスコの都市検察官デイビッド・チウの事務所は、AIを使って女性や少女の写真を「脱衣」させることを許可する世界最大の16のウェブサイトの所有者に対して訴訟を提起しました。

この文書では、ディープフェイクポルノ、復讐ポルノ、児童性的虐待に関する資料の違法性について述べられています。

「生成的AIには大きな可能性がありますが、すべての新技術と同様に、予期しない結果や、新技術を悪用しようとする犯罪者が存在します。私たちはこれが革新ではなく、性的暴力であることを明確に理解しなければなりません」とチウは述べました。

事件に関与しているサイトは、リアルなポルノバージョンを作成するための写真アップロードに便利なインターフェースを提供しています。これらはほとんど本物と見分けがつかず、恐喝、脅迫、侮辱に使われていると声明は述べています。

また、2024年9月、Microsoftは検索エンジンBingにおけるディープフェイクポルノ対策のために、StopNCII組織と提携したことを発表しました。