禁止されるAI 実務ガイド

共通の読み方

どの号も、条文の条件をいくつも組み合わせたものです。欧州委員会のガイドラインは、各号の条件がすべて同時に満たされたときに禁止が適用されるとしています。罰則が最も重いので、禁止の範囲は狭く解釈すべきだともしています（段落57・61など）。禁止は、提供者（市場に出す側）と導入者（使う側）の両方に、それぞれの役割の範囲でかかります。特定の用途のAIだけでなく、さまざまな用途に使える汎用AIシステムにもかかります（段落39）。

高リスクAIとの関係

ガイドラインによると、禁止の例外に当たるAIの多くは高リスクAIになります。たとえば、禁止に当たらない感情認識システムは附属書III 1(c) の高リスクAIです。逆に、附属書III の用途でも第6条3項で高リスクから外れたAIは、第5条の禁止の対象からは外れません（段落37〜38）。

そもそもAI法の対象外になる場面

• 軍事・防衛・国家安全保障の目的だけに使うAI（第2条3項）
• 科学的な研究開発だけを目的に開発・使用開始されたAI（第2条6項）
• 市場に出す・使用を開始する前の研究・試験・開発（実環境での試験は除外されない。第2条8項）
• 個人が純粋に私的で職業外の活動として使う場合の、導入者の義務（第2条10項）
• 無料・オープンソースのライセンスで公開されたAIシステム。ただし、第5条に当たるAIシステムや高リスクAIなどとして市場に出す・使用を開始する場合は除外されない（第2条12項）

何が禁止か

次の4つがそろうと禁止です。(1) AIシステムを市場に出す・使用を開始する・使う。(2) 意識の外で働くサブリミナル手法、意図的に操作的な手法、欺瞞的な手法のどれかを使う。(3) その目的または効果として、人の情報に基づく判断の力を大きく損ない、そうでなければしなかった判断をさせて、行動を大きくゆがめる。(4) その結果、本人・他人・集団に重大な害を生む（または生むおそれが高い）。ガイドラインは、手法・行動のゆがみ・害の間にもっともらしい因果関係が必要だとしています（段落60〜61）。

意図は要らない・害は「重大」であること

「目的」だけでなく「効果」も対象なので、提供者や導入者に行動をゆがめる意図がなくても当たる場合があります。重大な害を生む意図も要りません（前文29）。一方で、AIの外の要因によるゆがみで、提供者や導入者が予見できず手の打ちようがないものまでは問われないとされています（前文29、ガイドライン段落96）。重大な害の目安としてガイドラインが挙げるのは、害の重さ・状況と積み重なり・規模・影響を受ける人の弱さ（子ども・高齢者・障害のある人など）・続く期間と元に戻せるかです（段落92）。

広告・パーソナライズはどうか

前文29は、適用法に従った広告などの一般的で正当な商行為は、それだけで有害な操作とみなすべきではないとしています。ガイドラインも、好みに基づく広告のパーソナライズは、原則として本質的に操作的ではないとしています。ただし、サブリミナル・操作的・欺瞞的な手法を使わず、弱みに有害な形でつけ込まない場合に限ります。GDPR・消費者法・デジタルサービス法（DSA）を守ることがリスクを下げる、ともしています（段落133）。

透明性義務（第50条）との関係

チャットボットであることの通知やディープフェイクの表示は、欺瞞のリスクを下げる手段です（第50条）。ガイドラインによると、第5条1項(a) の範囲は第50条よりずっと狭いものです。たとえば、表示がないままチャットボットや生成コンテンツが虚偽・誤解を招く情報で人をだまし、行動をゆがめる場合が対象になる可能性があります（段落71〜72）。

何が禁止か

年齢・障害・特定の社会的または経済的な状況による弱みにつけ込むAIが対象です。その目的または効果として行動を大きくゆがめ、本人や他人に重大な害を生む（生むおそれが高い）場合に、市場への提供・使用開始・使用が禁止されます。ガイドラインによると、(a) と違って「判断の力を大きく損なう」ことは条件になっていません（段落113）。重大な害の考え方は (a) と同じです（段落114）。

対象になる弱み

対象になる弱みは、年齢（子どもと高齢者の両方）・障害・特定の社会的または経済的な状況に限られます。社会的・経済的な状況について、前文29は、極度の貧困の中で暮らす人や、民族的・宗教的少数者を例に挙げています。ガイドラインは、一時的な失業・多重債務・移民としての地位も含まれる場合があるとしています。一方、孤独など誰にでも起こる状況は、(b) ではなく (a) で扱われる場合があるとしています（段落104・109）。

何が禁止か

次の3つがそろうと禁止です。(1) AIシステムを市場に出す・使用を開始する・使う。(2) 社会的なふるまい、または既知・推定・予測された個人や性格の特徴に基づいて、人や集団を一定期間にわたって評価・分類する。(3) そのスコアが、次の (i)(ii) のどちらか（または両方）の不利な扱いにつながる。(i) データが生まれた・集められた場面と無関係な場面での不利な扱い。(ii) ふるまいやその重さに比べて不当・不釣り合いな不利な扱い。公的機関か民間かは問いません（ガイドライン段落149・170）。

読み方のポイント

ガイドラインによると、スコアは数値・順位・ラベルなど、どんな形でもかまいません（段落151）。また、一回きりの評価ではなく、一定期間のデータに基づくことが前提です（段落155）。AIのスコアが不利な扱いの唯一の原因である必要はありませんが、最終判断で十分に重要な役割を果たしていることが必要です（段落161）。対象は人で、法人の評価は原則として対象外です（段落173）。

高リスクAIとの関係

禁止に当たらない信用評価や、生命・医療保険のリスク評価・価格設定のAIは、附属書III 5(b)・(c) の高リスクAIになります（ガイドライン段落37）。ガイドラインによると、当局の確認の際には、提供者と導入者がそれぞれの役割の範囲で次のことを示すことになります。使うデータの種類と出所、スコアを使う場面と関係するデータだけを使っていること、不利な扱いが正当で釣り合っていることです（段落171）。

何が禁止か

人が罪を犯すリスクを評価・予測するAIのうち、プロファイリング、または性格特性・特徴の評価「だけ」に基づくものが禁止です。前文42は、そうした特徴の例として国籍・出生地・居住地・子どもの数・借金の額・車の種類を挙げています。犯罪への関与について客観的で検証できる事実に基づく人の評価がすでにあり、AIがそれを支えるだけなら、禁止の対象外です（第5条1項(d)）。ガイドラインによると、この対象外のAIを法執行機関（またはその代わりの者）が使う場合は、附属書III 6(d) の高リスクAIになります（段落185・204）。

民間企業も対象になるか

ガイドラインによると、法執行機関以外も対象になる場合があります。法律で公権力を任された民間の者、法執行機関に頼まれて個人の犯罪リスクを予測する民間企業、マネーロンダリング対策などの法的義務で犯罪リスクを評価する事業者です。一方、通常の事業や自社の利益を守るために顧客を評価し、犯罪との関係がたまたま付随するにすぎない場合は対象外としています（例: 財務上の不正の検知。段落207〜211）。

何が禁止か

インターネットや防犯カメラ（CCTV）の映像から顔画像を無差別に集めて、顔認識データベースを作る・広げるAIは禁止です。禁止されるのは、市場への提供・この目的での使用開始・使用です。ガイドラインは、(1) 顔認識に使えるデータベースを作る・広げる目的、(2) 無差別な収集（スクレイピング）、(3) 画像の出所がインターネットかCCTV、という条件を挙げています（段落224）。データベースは顔認識「だけ」に使うものでなくてもよく、顔認識に使えれば足りるとされています（段落226）。

「無差別」とは

ガイドラインは「無差別」を、特定の人や集団に絞らず、掃除機のようにできるだけ多く吸い上げるやり方としています。robots.txt などのオプトアウトを守っても、無差別であることは変わりません（段落228）。本人がSNSに自分の顔写真を載せていても、顔認識データベースに入れることに同意したことにはならないとしています（段落232）。

何が禁止か

職場と教育機関で人の感情を推定するAIの、市場への提供・この目的での使用開始・使用が禁止です。医療・安全上の理由のために導入・提供されるものは除かれます（第5条1項(f)）。ガイドラインは、この禁止を生体データ（顔の表情・声・しぐさ・キーストロークなど）に基づく推定に限ると解釈しています。「感情認識システム」の定義（第3条39号）に合わせた解釈です（段落245・250〜251）。

何が「感情」か

前文18は、感情・意図の例として、喜び・悲しみ・怒り・驚き・嫌悪・当惑・興奮・恥・軽蔑・満足・面白さを挙げています。痛みや疲労などの身体の状態は含まれません。笑顔やしかめ面、手の動き、声の大きさなどの見て分かる表情・動作を検出するだけなら、感情認識ではありません。ただし、それを感情の推定に使えば当たります（前文18）。

職場・教育機関の範囲

ガイドラインは「職場」を広く捉え、オフィス・工場・店舗・屋外・車などの働く場所すべてと、採用選考中の候補者も含むとしています（段落254）。「教育機関」は公立・私立を問わず、すべての段階（職業学校や継続教育を含む）とオンラインを含みます。入学の選考中の候補者にも及ぶとしています（段落255）。

医療・安全の例外

ガイドラインは、医療・安全の例外を狭く解釈すべきだとしています。治療目的の使用は、CEマークの付いた医療機器の使用を指すとしています。職場での一般的なストレスの監視や、燃え尽き（バーンアウト）・うつの検出は、例外に当たらないとしています。安全上の理由は命と健康を守るためのものに限られ、盗難や不正から財産を守る目的は含まれないとしています（段落256〜258）。危険な機械や化学物質を扱う場面で、ストレスや集中力の低下が具体的な危険になる場合は、例外になる場合があるとしています。ただし、そのデータを業績評価など他の目的に使ってはならないとしています（段落263）。

何が禁止か

生体データで個人を一人ずつ分類して、人種・政治的意見・労働組合への加入・宗教や思想信条・性生活や性的指向を推定・推論する生体分類システムは禁止です。禁止されるのは、市場への提供・この目的での使用開始・使用です。適法に取得した生体データセット（画像など）のラベル付けやフィルタリングは、法執行の分野を含めて対象外です（第5条1項(g)、前文30）。

「生体分類システム」の範囲

「生体分類システム」の定義からは、別の商用サービスに付随し、客観的な技術上の理由で厳格に必要なものが外れています（第3条40号）。前文16は、ネット通販の試着プレビューや、SNSの写真加工フィルターをその例に挙げています。ガイドラインは、服装やアクセサリー（スカーフや十字架など）、SNSでの活動による分類は生体分類に当たらないとしています（段落277）。

何が禁止か

法執行のために、公共の場所で「リアルタイム」の遠隔生体識別システムを「使う」ことが禁止です。(h) が禁止するのは使用だけです。こうしたシステムを市場に出すことや、ほかの遠隔生体識別は禁止されず、附属書III 1(a) の高リスクAIの規制がかかります（ガイドライン段落291）。事後の（リアルタイムでない）遠隔生体識別を法執行で使うことも、禁止ではありません。ただし、追加の安全策がかかります（第26条10項、段落292）。

言葉の意味

• 遠隔生体識別: 本人が能動的に関わらずに、ふつうは離れた場所から、生体データをデータベースと照合して人を識別する（第3条41号）
• リアルタイム: 生体データの取得・照合・識別が大きな遅れなく行われる。回避を防ぐため、短い遅れも含む（第3条42号）
• 公共の場所: 不特定多数の人が入れる物理的な場所。所有者が公か私かを問わない（第3条44号）。前文19は、店舗・飲食店・駅・競技場なども含む一方、従業員だけが入る会社や工場の敷地、オンライン空間は含まないとしています

例外の3つの目的（厳格に必要な場合だけ）

• 誘拐・人身取引・性的搾取の特定の被害者の捜索と、行方不明者の捜索
• 人の生命・身体の安全への具体的・重大・差し迫った脅威、またはテロ攻撃の現実の差し迫った（予見できる）脅威の防止
• 附属書II の犯罪で、その加盟国で上限4年以上の拘禁刑等が科されるものの容疑者の所在の特定・識別（捜査・訴追・刑の執行のため）

本人確認の顔認証との違い

本人であることを確かめるだけの生体認証（1対1の照合。スマートフォンのロック解除や入館の顔認証など）は、遠隔生体識別に当たりません（第3条36号、前文15・17）。また (h) は法執行の目的に限った禁止で、法執行以外の目的での遠隔生体識別は (h) の対象ではありません。ただし、その場合も附属書III 1(a) の高リスクAIです。生体データの処理は GDPR で原則として禁止され、例外は限られています（GDPR 第9条1項、前文38・39）。

何が禁止か

改正規則 (EU) 2026/1744 で、次の2つが第5条1項に加わりました。(ba) 特定できる実在の人の性的な部位や、性的行為をしている姿の、本物らしい画像・映像・音声などを、その人の自由で具体的な、情報を得たうえでの明確な同意なく生成・加工するAI。(bb) 指令 2011/93/EU 第2条(c)・(e) の意味の素材・実演（児童性的虐待素材）を生成・加工するAI（国内法の「without right」の抗弁が適用される場合を除く）。どちらも、市場への提供・使用開始・使用が対象で、2026年12月2日から適用されます。

提供者に禁止される2つの場合

提供者が市場に出す・使用を開始することが禁止されるのは、次のどちらかの場合だけです。(i) 生成・加工がそのAIの意図された目的である。(ii) 設計・学習・構造・能力・利用者向け機能から、大きな技術的改変なしに、合理的に予見でき再現できる結果として生成・加工が起きる。しかも、合理的で十分な技術的安全策などがない。ここでの安全策は、合理的に予見できる誤用を考えて生成・加工を確実に防ぎ、見つかった・報告された誤用を正すためのものを指す（第5条1a項(a)）。

導入者（使う側）の場合

導入者（使う側）の使用が禁止されるのは、その素材を生成・加工する目的でAIを使う場合だけです（第5条1a項(b)）。前文12によると、安全策のない製品を誤用する場合や、安全策を回避する場合もこれに含まれます。一方、適法な目的での使用や、偶然に生成されてしまった場合は含まないとしています。

前文12が挙げる安全策の例

• データのクリーニング、拒否の学習（refusal training）
• 安全なプロンプト設計と出力の制御、実行時のプロンプトのガードレール
• コンテンツの分類・フィルタリング、利用の制限
• 悪用の検知、通知と対応（notice and action）の仕組み

対象になるとき

EUの外の会社でも、次の立場なら AI法がかかります。EUでAIシステムを市場に出す・使用を開始する提供者と、AIの出力がEUで使われる提供者・導入者です（第2条1項(a)・(c)）。EU内の現地法人などがAIを導入者として使う場合も対象です（第2条1項(b)）。第5条の禁止も同じです。

罰金の額は、違反の性質・重さ・期間、企業の規模、協力の度合いなどを考えて決めます（第99条7項）。罰則の章（第XII章。第101条を除く）は2025年8月2日から適用されています（第113条(b)）。改正で、中堅企業（SMC）にも罰金の「低い方」ルールが加わりました。対象は第99条4項・5項の罰金で、第5条違反（3項）は含まれていません（第99条6a項）。

禁止の執行は、各加盟国が指定する市場監視当局が行います。EUの機関については、欧州データ保護監察機関（EDPS）が市場監視当局になります（第70条・第74条9項、ガイドライン段落53）。違反だと考える人は、誰でも市場監視当局に苦情を申し立てられます（第85条）。複数の国にまたがる場合は、委員会が判断するEUのセーフガード手続きがあります（第81条、ガイドライン段落54）。改正後は、一部のAIシステムを欧州委員会の AI Office が監督します（詳しくは本体の10章）。