欧州におけるAI：AI法が意味するかもしれないこと

Photo by Maico Amorim on Unsplash

AI Actはまだ草案にすぎませんが、欧州連合（EU）では投資家や事業者が、起こりうる結果にすでに不安を抱えています。

それは、EUがグローバルの場で価値ある競争相手であり続けることを妨げるのでしょうか？

規制当局によれば、そのようなことはありません。ですが、実際に何が起きているのか見ていきましょう。

The AI Act and Risk assessment

AI Actは、人工知能によってもたらされるリスクを複数のリスク区分に分けていますが、その前に人工知能の定義を絞り込み、機械学習と論理に基づくシステムに限定しています。

これは、AIシステムをより単純なソフトウェアと区別する目的だけでなく、EUがなぜリスクを分類したいのかを理解する助けにもなります。

AIのさまざまな用途は、容認できないリスク、高リスク、そして
低い、または最小のリスク に分類されます。容認できないリスク区分に該当する行為は、禁止とみなされます。

この種の行為には以下が含まれます：

*   人の意識の外で機能する技術を用いる行為、 
*   人口の脆弱な部分を悪用しようとする行為、 
*   個人の属性や行動にもとづいて人を分類するための、AIベースのシステムを導入すること、
*   公共の場でバイオメトリクスによる本人識別を行うAIベースのシステム。 

禁止される活動に含まれる行為の一部と同様に考えるべきユースケースがあり、それらは「高リスク」な行為の区分に入ります。

これには、労働者を採用するため、あるいは個人の信用力（そしてこれはフィンテックにとって危険になり得ます）を評価・分析するために使われるシステムが含まれます。これらの場合、この種のシステムを作成または利用するすべての事業者は、システムがどのように機能するのか、そして人々のためのリスクを回避するために取られる措置について、できるだけ透明性を高くするための詳細な報告書を作成しなければなりません。

すべてが明確で正しいように見えますが、規制当局が対処すべき問題がいくつかあります。

The Act looks too generic

事業者や投資家の多くが最も不安視しているのは、特定のAI分野への配慮が欠けていることです。

例えば、汎用目的でAIベースのシステムを作り、使う企業は、ハイリスクのユースケースに人工知能を用いる企業としてみなされる可能性があります。

つまり、時間とお金のかかる詳細な報告書を作成しなければならないということです。SME（中小企業）は例外ではなく、しかも欧州の経済の大部分を占めるため、時間の経過とともに競争力が低下していく恐れがあります。

そして、米国と欧州のAI企業の違いこそが大きな懸念を生んでいます。実際、EUには米国のような巨大なAI企業がありません。EUでのAI環境は主にSMEとスタートアップによって作られているためです。

appliedAIが実施した調査によると、大多数の投資家は、分類の複雑さゆえに正確に「高リスク」とラベル付けされたスタートアップへの投資を避けるでしょう。

ChatGPT changed EU's plans

EUの規制当局は4月19日までに文書を閉じるはずでしたが、AIベースのシステムの定義やユースケースに関する議論が、最終草案の提出を遅らせました。

さらに、テック企業は、文書の現行版に全員が同意しているわけではないことを示しました。

最も遅れの原因になっているのは、ファウンデーションモデルと汎用AIを区別する点です。

AIのファウンデーションモデルの例として、OpenAIのChatGPTがあります。これらのシステムは大量のデータを用いて訓練され、あらゆる種類の出力を生成できます。

汎用AIには、さまざまなユースケースや業界に適応できるシステムが含まれます。

EUの規制当局は、ファウンデーションモデルを厳格に規制したいと考えています。それらはより大きなリスクをもたらし、人々の生活に悪影響を与えかねないためです。

How the US and China are regulating AI

EUの規制当局がAIをどのように扱っているかを見ると、際立って見える点があります。規制当局が協力に消極的に見えるということです。

例えば米国では、Biden政権が、あり得る規制枠組みを設計する前に、ChatGPTのようなシステムの安全性についてのパブリックコメントを求めました。

中国では、政府が長年にわたってAIとデータ収集を規制しており、主な関心は社会の安定にあります。

現時点でAI規制の面でうまく位置づけられているように見えるのは英国で、同国は「軽い」アプローチを好みました。しかし、英国がAIとフィンテック導入のリーダーになりたいと思っていることは公然の秘密ではありません。

Fintech and the AI Act

金融サービスを提供する企業やスタートアップの話になると、状況はさらに複雑になります。

実際、法が現行のバージョンのままなら、フィンテックは現在の金融規制に加えて、この新しい規制枠組みにも結び付けられる必要があります。

信用力評価が高リスクのユースケースとしてラベル付けされ得るという事実は、フィンテック企業が背負うべき負担の一例にすぎません。これにより、これまでのように柔軟でなくなり、投資を集めたり競争力を保ったりすることが難しくなる可能性があります。

Conclusion

Silo AIのCEOであるPeter Sarlinが指摘したように、問題は規制そのものではなく、悪い規制です。

あまりにも一般的すぎると、AIベースの製品・サービスの製造、流通、利用に関わるすべての企業のイノベーションを損なう恐れがあります。

もしEUの投資家が、「高リスク」カテゴリーに該当するスタートアップや企業であると示すラベルがもたらす潜在的なリスクを懸念するなら、EUのAI環境は悪影響を受ける可能性があります。一方で米国は技術改善のためのパブリックコメントを求めており、中国はすでに人工知能を規制する方法について明確な見解を持っています。

Apherisの共同創業者であるRobin Röhmによると、起こりうるシナリオの一つとして、スタートアップが米国へ移転するというものがあります。米国はブロックチェーンや暗号資産の面では失うものが多いかもしれませんが、AIレースで勝てる可能性もあります。

フィンテックについてもっと知り、フィンテックのニュース、イベント、意見を見つけたいなら、FTW Newsletterに登録してください！