透明性の義務 実務ガイド

複数の項が重なる

ガイドラインは、1つのAIシステムに複数の項が重なってかかる場合があるとしています。たとえば、人とやりとりしながら画像を作るシステムがあるとします（段落8）。提供者には、1項と2項の両方がかかる場合があります。そのシステムでディープフェイクや公共の関心事の文章を作って出す導入者には、4項もかかる場合があります。

提供者と導入者

提供者は、AIシステムを開発し（または開発させ）自分の名前・商標で市場に出す・使用を開始する人や組織です（第3条3号）。導入者は、自分の権限のもとでAIシステムを使う人や組織です。純粋に私的で職業外の利用は除かれます（第3条4号）。ガイドラインによると、会社が導入者のとき、その指示で作業する従業員は別の導入者になりません。外注先やフリーランスに作業させても、会社が導入者のままです（段落14）。広告会社に広告を発注するだけで、AIを使うかどうか・どう使うかを決めていない会社は、導入者ではないとされます（段落14）。

EUの外の会社

EUの外の提供者は、EUで市場に出す・使用を開始する場合に対象です。AIシステムの出力がEUで使われる場合も対象です（第2条1項(a)(c)）。ガイドラインは、EUで市場に出していない第三国（EUの外の国）の提供者について、次のようにしています。偶発的・予見できない・許可していない下流での利用だけでは、義務はかかりません（段落10）。EUの外の導入者は、自分でEUでの流通・利用を予見している場合に対象になります。世界中から見られるネットに載せる場合も含みます。予見できず、管理外の経路でEUに届いた場合は対象外とされます（段落13）。

第50条の義務がかからない主な場面

• 個人が純粋に私的で職業外の活動としてAIを使う場合の、導入者の義務（第2条10項）。ただし提供者の2項の義務は残る。ガイドラインは、私的なクリスマスカード用のディープフェイクでも、提供者は機械可読な表示を付けるべきとしている（段落19〜20）
• 科学的な研究開発だけを目的に開発・使用開始されたAIシステムとその出力（第2条6項、ガイドライン段落21）
• 市場に出す・使用を開始する前の研究・試験・開発（実環境での試験は除外されない。第2条8項、段落22）
• 軍事・防衛・国家安全保障の目的だけに使うAI（第2条3項）

提供者は、人と直接やりとりするAIシステムを、相手の人がAIとやりとりしていると知らされるように設計・開発しなければなりません。状況と使われ方からAIだと明らかな場合は、不要です。明らかかどうかは、適度に情報を持ち、注意深く慎重な人から見て判断します。法律で認められた犯罪の検知・防止・捜査・訴追用のAIシステムも対象外です。ただし、一般の人が犯罪を通報するために使えるものは対象です（第50条1項）。前文132は、年齢や障害で弱い立場にある人とやりとりする場合は、その特徴も考えるべきとしています。

対象になる4つの条件

ガイドラインは、次の4つがそろうと1項の対象になるとしています（段落30）。(i) AIシステムであること、(ii) やりとりを意図していること（双方向で、会話・応答の性質があること）、(iii) 直接であること、(iv) 相手が人であること、です。自動の不在通知やルールベースの定型返信は、AIシステムに当たりません。顔認証の入退室管理のように、受け身でデータを集めるだけのものは、やりとりに当たりません（段落30）。オペレーターがAIの補助ツールを使って顧客と話す場合のように、人が間に入るものは、直接のやりとりではないとされます。ただし、人が手直しできるというだけでは、告知は免除されません。AIの返答と人の返答が混ざるサービスでは、AIの返答について告知が必要とされます。人が確認して自分の言葉として送るものは除きます（段落30）。

AIエージェント

人と直接やりとりできるAIエージェントも対象です。ガイドラインは、AIエージェントは、AIであることと誰のために動いているかの両方を明らかにするよう設計すべきとしています。人とやりとりするかを事前に見通せない場合は、人とやりとりしそうなあらゆる場面で名乗るよう設計すべきとしています（段落31）。

「明らかな場合」の例外

ガイドラインは、この例外を狭く解釈すべきだとしています。明らかかどうかは、想定される相手と合理的に予見できる相手の、平均的な人を基準に判断します。一般の人や、子ども・高齢者・障害のある人が使う可能性があるシステムでは、この例外に頼れないとしています（段落42〜45）。

告知のしかた（ガイドラインの例）

• 文字: 会話の最初に「AIを使ったシステムです」と伝える、入力欄の近くに分かりやすいラベルやバナーを置く（段落36〜37）
• 音声: 電話や音声アシスタントでは、最初に「AIのアシスタントです」と言う。長いやりとりでは、中断や役割が変わるときに繰り返す。効果音だけでは足りない（段落37）
• 視覚: 常に見えるアイコン・枠・「AI」の記号などで文字の告知を補う（段落37）
• AIエージェントが送るメールの冒頭にAIのラベルを付ける（段落36）
• 多くの場合、最初のやりとりの前に1回はっきり告知すれば足りる。ただし、次の場合は定期的な再告知が必要になる場合がある。子ども・高齢者が相手の場合、感情的なつながりができやすいAIコンパニオン、金融・保険・法律・健康の助言など。AIかと聞かれたときは必ず答えられるように設計する（段落40）

それだけでは足りないとされる告知（段落38）

• 利用規約・URL・説明書の中だけの告知
• 利用者にその場で見えない、メタデータや透かしなどの機械可読な表示だけ
• 「アシスタント」のようなあいまいな呼び方や、人と誤解させる見た目
• 「このサイトのサービスはAIを使っています」のような、どのやりとりか分からない一般的な告知
• 「LLMを使っています」のような技術の説明だけ

生成AIの提供者は、出力が機械可読な形で表示され、AIで生成・加工されたものとして検出できるようにしなければなりません。対象は、音声・画像・映像・文章を生成するAIシステム（汎用AIシステムを含む）の提供者です。技術的な解決策は、技術的に可能な範囲で、効果的・相互運用可能・堅牢・信頼できるものにします。その際、コンテンツの種類ごとの特性と限界、実装のコスト、一般に認められた最新の技術水準を考えます（第50条2項）。

表示の方法

前文133は、表示の方法の例として、電子透かし・メタデータ・来歴や真正性を証明する暗号的な方法・ログ・フィンガープリントなどと、その組み合わせを挙げています。表示は、AIシステムの段階でも、汎用AIモデルを含むモデルの段階でも実装できるとしています。ガイドラインによると、提供者は上流のモデル提供者や第三者の表示の仕組みに頼ってもかまいません。ただし、2項を守っていることを示す責任は、提供者に残ります（段落74）。

表示と検出の両方が必要

ガイドラインは、2項には「表示（マーキング）」と「検出」の2つがあり、片方だけでは足りないとしています（段落69〜70）。提供者は、コンテンツにさらされる人が検出の手段を使えるようにし、検出結果は人が読める形で示すべきとされます（段落75・77）。「技術的に可能」は客観的な概念で、個々の提供者の資源や能力には左右されないとされます。まだ開発・市販されていない技術を使う義務はないとされます（段落81）。

既存の生成AIの猶予

2026年8月2日より前に市場に出した生成AIシステム（汎用AIシステムを含む）には、猶予があります。その提供者は、2項を2026年12月2日までに守ればよいとされています（改正で加わった第111条4項）。改正規則の前文38は、すでに市場に出している提供者に4か月の移行期間を設ける趣旨だと説明しています。ガイドラインによると、対話と生成の両方をするシステムでも、猶予は2項の表示だけです。1項の告知は2026年8月2日から必要です（段落153）。

感情認識システムや生体分類システムの導入者は、そのシステムにさらされる人に作動を知らせなければなりません。個人データは、GDPR などに沿って扱わなければなりません。法律で認められた犯罪の検知・防止・捜査用で、適切な保護措置がある場合は対象外です（第50条3項）。

対象のシステム

感情認識システムは、生体データから人の感情や意図を特定・推定するためのAIシステムです（第3条39号）。生体分類システムは、生体データで人を特定の区分に割り当てるためのAIシステムです。他の商用サービスに付随し、客観的な技術上の理由で厳密に必要なものは除かれます（第3条40号）。前文132は、区分の例として、性別・年齢・髪や目の色・入れ墨・性格・民族的出身・好みや関心を挙げています。

ガイドラインが示す告知のポイント

• 感情認識・生体分類のシステムが作動していることを知らせる。理由まで知らせることは、AI法では求められていない（理由などは、データ保護法の情報提供で求められる場合がある）（段落105）
• 子どもを含め、さらされるすべての人に知らせる（段落106）
• リアルタイムでも、あとから処理する場合でもかかる（段落100）
• 方法は決まっていない。書面・標準化されたアイコン・口頭や、その組み合わせ。例として、ゲーム開始前に「顔を記録して感情を読み取ります」と出すポップアップや、展示室の入口ごとに「年齢層の判定のため顔画像を取得します」と掲示すること（段落107）
• 遅くとも最初に接触した時点で知らせる。事前に知らせることもできる（段落108）
• GDPR の情報提供に、3項の告知を加える形でもよい場合がある（段落110）

導入者は、ディープフェイクに当たる画像・音声・映像をAIシステムで生成・加工したら、AIで生成・加工したと開示しなければなりません。法律で認められた犯罪捜査用の場合は対象外です。明らかに芸術的・創作的・風刺的・フィクション等の作品や番組の一部なら、扱いが変わります。作品の表示や鑑賞を妨げない適切な形で、生成・加工したコンテンツがあることを開示すれば足ります（第50条4項）。

ディープフェイクの定義

ディープフェイクは、AIで生成・加工された画像・音声・映像です（第3条60号）。実在の人・物・場所・団体・出来事に似ていて、人に本物・真実だと誤って思わせるようなものを指します。文章はディープフェイクに含まれません。

判断の4つの要素

ガイドラインは、次の4つの要素で判断するとしています。(i) 似ていること（かなり似ていること）、(ii) 実在すること（実在する・しうる・しえたもの）、(iii) 人・物・場所・団体・出来事、(iv) 本物・真実だと誤って思わせること、です。空を飛ぶ人やドラゴンのように、物理法則に反していて誤解のおそれがないものは対象外です（段落113）。本物らしく見えるかどうかは、似ている程度・伝える内容・使われる場面・見る人の構成と期待を合わせて、客観的に判断します。だます意図は要らないとしています（段落114）。子どもや高齢者など、だまされやすい人が見ることを予見できる場合は、その人たちに本物と思われるだけで足りる場合があるとしています（段落115）。

小さな加工

ガイドラインは、小さな加工は多くの場合ディープフェイクにならないとしています。例は、背景の通行人を消す、照明・色の補正、ノイズ除去などです。商品広告やパッケージでの色の補正や、見た目のための背景の差し替え・拡張も、影響が小さいことが多いとされます。一方、報道写真の背景を通常の編集の範囲を超えて大きく加工すると、本物らしさの受け止め方に影響する場合があるとしています（段落116）。

開示のしかた

開示は、人が特別な道具や操作なしに分かる形で行います（目に見える・耳で聞こえるラベルなど）。提供者が2項で埋め込む機械可読な表示は、人にはすぐ分かりません。そのため、導入者はそれに頼れないとされています（ガイドライン段落117）。

芸術・風刺・フィクションの扱い

ガイドラインは、作品に当たるかどうかが見る人に「明らか」でなければならず、厳格に解釈するとしています。報道のように、純粋に情報や商業の目的だと分かるものは除かれます。広告やドキュメンタリーは、場合によって作品と見られることも、見られないこともあるとしています。情報と創作の性格が混ざる場合は、情報の性格が優先し、通常の開示が必要です（段落122）。軽い開示で済む場合も、第三者の権利（個人データ・知的財産など）の保護は必要です（段落124）。

導入者は、AIで生成・加工した文章を公表するとき、AIで生成・加工したと開示しなければなりません。対象は、公共の関心事について公衆に知らせる目的の文章です。次の両方がそろう場合は、開示は不要です。AI生成の内容が人による確認か編集上の管理を経ていること、かつ自然人か法人がその公表の編集責任を負っていることです。法律で認められた犯罪捜査用も対象外です（第50条4項後段）。

対象になる文章

ガイドラインは、次の3つで判断するとしています。(i) 公表されていること（不特定の多くの読者が読める。有料購読でもよい）。(ii) 公衆に知らせる目的（知識・意見・事実を伝える）。(iii) 公共の関心事（政治・行政・司法・基本権・公共の安全・公衆衛生・環境・消費者の安全や、公の議論の対象になる可能性がある経済・金融・科学・文化の動き）。閉じた少人数のグループ、仕事上の個別のやりとり、社内ネットワークでの社内向けの文章は、公表に当たらないとされます（段落131）。

人による確認・編集責任の例外

例外には、(i) 人による確認または編集上の管理と、(ii) 編集責任の両方が必要です（段落133）。人による確認とは、内容に関する知識と専門的な判断力を持つ人が、中身を意図して検討することです。事実確認が最低限含まれるとされます。スペルや文法のチェックだけ、編集方針があるだけ、自動のレビュー、中身を見ない形式的な承認では足りません（段落134〜135）。編集の承認後にAIで中身を変えると、例外は使えなくなります（段落136）。編集責任を負う人・法人・部署の名前と連絡先は、サイトの法的情報などで、見つけやすく公開すべきとされます（段落138）。

1〜4項の情報は、対象の人に、明確で区別できる方法で伝える必要があります。遅くとも最初のやりとり・接触の時点で伝え、アクセシビリティの要件に合わせます（第50条5項）。

ガイドラインの説明（段落142〜144）

• 明確: 気づきやすく、分かりやすく、障害のある人も含めて使える。区別できる: 他の情報や周りから区別しやすい。説明書の中だけ、メニューの奥、読まれない利用規約の中だけ、は明確・区別できるとは言えない（段落142）
• 最初のやりとり・接触は、最初の1人だけでなく、それぞれの人にとっての最初を指す。対話では少なくともセッションの最初に1回。生成コンテンツでは出力ごと・人ごとにかかる（段落143）
• 映像の途中から見る人が予見できる場合は、冒頭だけでなく後の時点でも開示するのが望ましい（段落143）
• 例: チャットボットとの会話の開始時、ディープフェイクを含む映像の冒頭、公共の関心事のAI文章の冒頭、SNSでディープフェイクに行き当たったとき（段落143の後の例）
• アクセシビリティは、ウェブアクセシビリティ指令（2016/2102）や欧州アクセシビリティ法（2019/882）など、既存の要件が適用されるかを確認する。第50条が独自の要件を追加するわけではない（段落144）
• 子どもが対象に含まれる場合は、子ども向けに分かりやすく、年齢に合った形にする（脚注40）

配信の流れの中で

ガイドラインは、配信の流れが複雑な場合、導入者は釣り合いのとれた対策をとるべきとしています。ラベルが最初に見る人にきちんと表示されるよう、配信先との契約条件や表示設定などで対応するということです（段落12）。他人が作ったAIコンテンツを流通させるだけのプラットフォームや放送局は、導入者ではありません。ただし、表示を残すことが強く推奨されています（段落16）。

ガイドライン

ガイドラインの根拠は、第96条1項(d)です。文書自身が、法的拘束力はなく、AI法の権威ある解釈は最終的に CJEU が行うとしています（段落3・5）。第50条についての最初の解釈で、経験や技術の変化に応じて見直すとしています（段落155）。委員会のサイトに載っている文書は、委員会あての文書の附属書という形式です。その委員会あての文書は、ガイドライン案の内容を承認するものです。

行動規範

行動規範は2部構成です。第1部は生成AIシステムの提供者向け（2項・5項）で、表示と検出のルールです。第2部は導入者向け（4項・5項）で、ディープフェイクと公表文章のラベルのルールです。署名は任意です。委員会のページによると、2026年7月末までに約190の企業・団体が署名しました。署名しないこと自体は違反ではありませんが、第50条の義務は守る必要があります。

行動規範の主な中身（署名者向けの約束。法律の条文ではありません）

• 提供者: 1つの方法だけでは要件を満たせない間は、音声・画像・映像・容器に入った文章に、少なくとも2層の機械可読な表示を付ける（電子署名付きのメタデータと、目に見えない電子透かし）。メタデータを運べない自由な文章は、透かし1層でよい（第1部 措置1.1）
• 提供者: フィンガープリントやログは補助として使えるが、それだけでは足りない。表示を消さない努力、検出の仕組みと結果の分かりやすい表示なども約束に含まれる（第1部 約束1〜2）
• 導入者: 規範の附属書の「EUアイコン」か、それと同等のアイコン・ラベルで開示する。英語の大文字「AI」を主な要素にする（第2部 措置1.1）
• 導入者: 画像・映像では、他の表示と重ならない場所（例: 右上）に置く。映像では冒頭に加え、可能なら一定間隔で、少なくとも CM などの中断の後に表示する。音声だけのものは、冒頭に短い音声の断り書きを入れる。文章は見出しの近くや冒頭などに置く（第2部 措置1.2）
• 導入者: 社員研修など閉じた社内の場面だけで使うディープフェイクは、見る前に画面や場所で知らせる方法でもよい（第2部 措置1.2.2(c)）

署名した場合・しない場合

ガイドラインによると、適切と評価された規範の署名者について、委員会と市場監視当局は、規範の措置を実施しているかに監督の重点を置きます。署名しない提供者・導入者は、別の適切な方法で遵守していることを説明するよう期待されます。たとえば、規範の措置との差の分析です。署名しない提供者・導入者は、情報提供の要請を多く受ける可能性があります（段落147〜148）。規範の実施は、罰金の額を決めるときの軽減要素として考慮される場合があるとされます（段落149）。規範自身は、参加は遵守の決定的な証拠にはならないとしています。

改正後の第50条7項

委員会は、EUレベルの行動規範づくりを促します（改正後の第50条7項）。委員会は、AI会議の意見を最大限考慮して、規範が2項・4項の義務の遵守に適切かを評価します。評価は第56条6項の手続きで行います。不十分と判断すれば、実施法令で共通ルールを定められます。改正前にあった「実施法令で規範を承認できる」という規定は、なくなりました。改正規則の前文41は、行動規範の法的効果は限られ、適合の推定は与えないと説明しています。

日本の会社でも、第50条の対象になる場合があります。EUで生成AIや対話AIを市場に出す場合と、AIの出力がEUで使われる場合です（第2条1項(a)(c)）。EUの子会社などがAIを導入者として使う場合も対象です（第2条1項(b)）。どの項がかかるかは、自社が提供者か導入者か、出力が誰に届くかで変わります。

1〜4項は、高リスクAIの要件・義務（第III章）に影響しません。EU法・国内法の他の透明性義務も妨げません（第50条6項）。前文137は、透明性の義務を守っても、そのAIの利用や出力が AI法や他の法律のもとで適法だという意味にはならないとしています。

重なりうる義務

ガイドラインによると、第50条のAIが第5条で禁止されることがあります（例: 職場・教育機関での感情認識）。高リスクAIに当たることもあります。逆に、高リスクに当たらなくても第50条の対象になる場合があります（段落25）。附属書IIIの高リスクAIで人についての決定をする（決定を助ける）場合、導入者には別の義務もあります。対象の人に、高リスクAIを使っていると知らせる義務です（第26条11項）。ガイドラインは、これは第50条とは別の情報だが、1つの通知にまとめてもよいとしています（脚注14）。

経過措置

ガイドラインは、既存システムの経過措置（第111条2項）は高リスクAIのためのもので、第50条の義務には及ばないとしています（脚注50）。高リスクAIの義務の適用が後でも、第50条は2026年8月2日から守る必要があります。

罰金の額は、違反の性質・重さ・期間、影響を受けた人の数、企業の規模、協力の度合いなどを考えて決めます（第99条7項）。ガイドラインは、適切と評価された行動規範に沿った取り組みを、軽減要素として考慮できるとしています（段落149）。

第50条の執行は、主に各加盟国の市場監視当局が行います。改正後は、次のAIシステムを欧州委員会の AI Office が監督します（改正後の第75条1項）。1つは、同じ提供者（同じ企業グループ）が汎用AIモデルとシステムの両方を開発したAIシステムです。もう1つは、DSA（デジタルサービス法）で指定された超大規模オンラインプラットフォーム・検索エンジンに組み込まれたAIシステムです。導入者の義務（3項・4項）について AI Office が担当するのは、その導入者が提供者でもある場合などに限られます。EUの機関については、欧州データ保護監察機関（EDPS）が担当します。違反だと考える人は、市場監視当局に苦情を申し立てられます（第85条）。