🇪🇺 EU その他 報道
FLI、セラピー用AIへのEU AI Act適用を解説
Future of Life Institute（FLI）が運営するサイトは2026年8月7日、セラピーや感情的サポートに使われるAIにEU AI Actがどう適用されるかを整理した解説ページを公表しました。禁止行為、ハイリスク分類、透明性義務、GPAIモデルの義務という4つの観点を扱っています。新しい法令の制定ではなく、既存規制の読み方を示した解説である点に注意が必要です。
報道ベース この解説は公式発表ではなく報道を出典としています。数字・日付・義務の範囲は、公式資料で確認できるまで確定情報として扱わないでください。
資料に書いてあること FACTS
- 2026年8月7日付の解説ページは、セラピーや感情的サポートに使われるAIシステム（汎用AIを含む）と、その基盤となるGPAIモデルの双方がAI Actの義務を負うと説明しています。 出典 ↗
- 第5条(1)(b)は、年齢、障害、社会的・経済的状況などの脆弱性を悪用し、行動を実質的に歪めて著しい危害を生じさせる（またはその合理的な可能性がある）AIを全面的に禁止しており、同ページは、提供者の意図がなくても「目的または効果」で該当しうると述べています。 出典 ↗
- セラピー・感情的サポート用AIが医療機器規制（MDR）上の医療機器にあたり、第三者適合性評価が必要な場合はハイリスクAIとして扱われ、リスク管理システム、技術文書の作成、ログの自動記録、人による監督などの義務を負います。 出典 ↗
- 人と直接対話するAIシステムの提供者は、状況から明らかな場合を除き、利用者にAIと対話していることを認識させる必要があり、同ページによれば、感情的に苦しむ利用者や愛着を抱くおそれのある利用者には、会話の冒頭だけでなく継続的な告知が必要になりうるとされています。 出典 ↗
- システミックリスクを持つGPAIモデルの提供者は、公衆の精神的健康などに関わるリスクの特定・評価・低減と、人の心身の健康への重大な危害に関する重大インシデントの報告が求められると、同ページは説明しています。 出典 ↗
- 適用時期について、同ページは、第5条の禁止は2025年2月2日から、GPAIモデルの義務は2025年8月2日から、第50条(1)の透明性義務は2026年8月2日から適用され、ハイリスク義務は2028年8月2日から適用と記しています。欧州委員会はGPAIモデル提供者に対する監督・執行権限を2026年8月2日から行使できるようになりました。 出典 ↗
解釈（AIによる解説） INTERPRETATION
ここから先は資料の記述ではなく、AIによる読みです。判断の前に必ず元資料を確認してください。
誰に効くか
メンタルヘルスやセラピー、感情的サポートを目的としたAIチャットボットなどを、EU域内で提供する事業者が中心になる可能性があります。特定用途をうたわない汎用AIサービスも、実際に感情的サポートに使われる状況が予見できる場合は対象になりうると、同ページは読めます。また、そうしたサービスの基盤となるGPAIモデルの提供者（システミックリスクを持つモデルの場合）にも関係します。
日本の会社にとって
日本からEU向けにメンタルヘルス系・相談系・コンパニオン系のAIを提供している企業、またはEU拠点や取引先を通じて提供している企業は、自社サービスの位置づけを確認する必要があるかもしれません。確認の観点は、(1)脆弱な利用者を不当に誘導しないか、(2)宣伝文や利用説明が医療目的に読めないか（MDR上の医療機器該当性に影響しうる）、(3)AIであることの表示方法、(4)他社の汎用AIモデルを組み込む場合の提供元との役割分担、などです。これらは同ページを踏まえた解釈であり、個別の判断には専門家への相談が望ましいです。
今後の予定
資料に書かれている予定は、ハイリスク義務が2028年8月2日から適用されることです。第50条(1)の透明性義務と欧州委員会のGPAIに対する執行権限は2026年8月2日から適用済みです。同ページは、セラピー・感情的サポート用AIのリスクがどこまで抑えられるかは今後の課題だと述べています。個別の執行予定や追加のガイドラインについて、資料に記載はありません。
資料からは分からないこと
- 違反した場合の罰則や制裁金の具体的な内容は、この資料からは分かりません。
- どのサービスが第5条(1)(b)の禁止対象になるかは、個別事案ごとの判断とされ、具体的な境界線は分かりません。
- 汎用AIシステムがMDR上の医療機器に該当するかどうかは、資料では明確に示されていません。
- 日本企業が域外適用される具体的な条件は、この資料では扱われていません。
- 欧州委員会による今後の執行の具体的な予定や優先分野は、資料に記載がありません。
用語
- GPAI（汎用AI）
- — 特定の用途に限らず幅広い作業に使えるAIのことです。ChatGPTやClaudeのようなシステムと、その基盤となるモデルがあります。
- システミックリスク
- — 影響の大きい汎用AIモデルが、公衆衛生や基本的権利、社会全体に及ぼしうる広範なリスクのことです。同ページでは公衆の精神的健康も例に挙げられています。
- MDR（医療機器規制）
- — EUの医療機器に関する規則です。AIが病気の診断や治療などの医療目的を持つ場合、医療機器として扱われ、AI Act上のハイリスクになりうます。
- ハイリスクAI
- — AI Actで、リスク管理や技術文書作成、人による監督などの厳しい義務が課されるAIの区分です。
- AI Office
- — 欧州委員会内でGPAIモデルの義務の執行などを担う組織です。重大インシデントの報告先とされています。
元資料
AIが公開資料をもとに作成。正確な内容は元資料を確認してください。法的助言ではありません。