高リスクAIの書類と手続き 実務ガイド

高リスクAIには、リスク管理の仕組みが必要です。仕組みを作り、実施し、文書にし、維持します。開発から廃止までの全期間を通じて、計画的に繰り返し回す仕組みとされています（第9条1・2項）。

求められること

• (a) 既知のリスクと、合理的に予見できるリスクを特定・分析する（意図された用途で使ったときに、健康・安全・基本的権利に生じる可能性のあるもの）
• (b) 意図された用途と、合理的に予見できる誤用の条件でのリスクを見積もり・評価する
• (c) 市販後監視（第72条）で集めたデータから、ほかのリスクを評価する
• (d) 特定したリスクに向けた対策をとる。残るリスクは、許容できる水準だと判断できる必要がある（第9条5項）
• 対策の順序: 設計・開発でなくす・減らす → なくせないものは軽減・管理 → 導入者への情報提供（第13条）と必要に応じて訓練（第9条5項）
• テスト: 事前に決めた指標と確率的なしきい値に照らして、遅くとも市場に出す前に行う（第9条6〜8項）
• 18歳未満やほかの弱い立場の人への悪影響の可能性も考える（第9条9項）

作る書類

条文は書類の書式を定めていません。リスク管理の仕組みの詳しい説明は、技術文書に入れます（附属書IV 5）。テストの手順と指標、日付と責任者の署名が入ったテスト記録・報告も、技術文書の項目です（附属書IV 2(g)）。

学習でモデルを作る高リスクAIは、学習・検証・テストのデータが品質の基準を満たす必要があります。学習を使わないものは、この基準がテスト用データにだけかかります（改正後の第10条1項・6項）。

データは目的に関連し、十分に代表的で、できる限り誤りがなく完全である必要があります。使われる地域・状況・行動・機能の特徴も、目的に必要な範囲で考慮します（第10条3・4項）。その地域などを反映したデータで学習・テストしたものは、4項の要件を満たすと推定されます（第42条1項）。

偏りを見つけて直すための、特別な種類の個人データ（人種・健康など）の扱いは、改正で新しい条に移りました（第4a条）。例外として認められるのは、ほかのデータで代えられない・仮名化などの安全措置をとる・第三者に渡さない・修正後に削除する、などの条件をすべて満たす場合だけです。GDPR などのデータ保護法は別に適用されます。

技術文書は、市場に出す前に作り、最新に保ちます。要件を満たしていることを示し、当局と第三者機関が判断できる情報を、明確で分かりやすい形で含めます。少なくとも附属書IVの項目を含む必要があります（第11条1項）。

結論（目安）

一般的な製品仕様書は「何ができるか」が中心です。附属書IVが求める開発の過程・データ・テストの記録・リスク管理・市販後監視の計画などは、入っていないことが多いと考えられます。下の表の「仕様書に通常あるか」は一般論の目安で、会社や製品によって違います。既存の仕様書を土台にして、足りない項目を足していくやり方が考えられます。

中小企業・SMCの簡易様式

中小企業（スタートアップを含む）と中堅企業（SMC）は、附属書IVの項目を簡易な形で出せます。簡易な形を選ぶ場合は欧州委員会が作る簡易様式を使い、第三者機関はそれを受け入れます（改正後の第11条1項）。様式の公表状況は、このページの確認日時点で未確認です。

保管期間

技術文書は、当局が求めたときに出せるよう、市場に出してから10年間保管します。品質管理システムの文書、第三者機関の決定・承認した変更（該当する場合）、EU適合宣言も同じです（第18条1項）。EU域内代理人も10年間写しを保管します（第22条3項(b)）。

高リスクAIは、使っている期間を通じて出来事（ログ）を自動で記録できる仕組みを持つ必要があります。記録は、リスクや大幅な変更につながる状況の特定・市販後監視・導入者による動作の監視に役立つ必要があります（第12条1・2項。導入者の監視は第26条5項）。遠隔生体識別（附属書III 1(a)）には、利用期間・照合したデータベース・一致した入力・結果を確認した人など、最低限記録する項目があります（第12条3項）。

提供者は、管理下にあるログを、目的に合った期間で少なくとも6か月保存します（個人データ保護法などに別の定めがある場合を除く。第19条1項）。導入者も管理下のログを少なくとも6か月保存します（第26条6項）。提供者は、当局の求めに応じてログへのアクセスを提供します（第21条2項）。

高リスクAIは、導入者が出力を解釈して適切に使えるよう、十分に透明に作ります。また、簡潔・完全・正確・明確な使用説明書を付けます（第13条1・2項）。使用説明書に書く最低限の項目は次のとおりです（第13条3項）。

• (a) 提供者（と代理人）の名前・連絡先
• (b) 特徴・能力・性能の限界: (i) 意図された用途、(ii) テストで確かめた正確性（指標）・堅牢性・サイバーセキュリティの水準と、それに影響する可能性のある状況、(iii) 意図された用途や予見できる誤用でリスクにつながる可能性のある状況、(iv) 出力を説明する情報を出す機能（該当する場合）、(v) 対象の人・集団ごとの性能（適切な場合）、(vi) 入力データの仕様や学習・検証・テストデータの情報（適切な場合）、(vii) 出力を解釈して適切に使うための情報（該当する場合）
• (c) 最初の適合性評価の時点で決めておいた変更（あれば）
• (d) 人による監督の措置（出力の解釈を助ける技術的措置を含む）
• (e) 必要な計算資源・ハードウェア、想定寿命、ソフトウェア更新を含む保守の内容と頻度
• (f) ログを集め・保存し・読むための仕組み（該当する場合）

正確性の水準と指標は使用説明書で宣言します（第15条3項）。使用説明書は技術文書にも含めます（附属書IV 1(h)）。

高リスクAIは、使っている間に人が効果的に監督できるよう、適切な画面などの道具を含めて設計します。監督の措置には、提供者がシステムに組み込むものと、導入者が実施するよう提供者が定めるものがあります。どちらか一方でも、両方でもかまいません（第14条1〜3項）。

監督する人ができるようにすること（第14条4項）

• (a) 能力と限界を理解し、異常・誤作動・想定外の性能に気づいて対処できる
• (b) 出力に頼りすぎる傾向（自動化バイアス）を意識できる
• (c) 出力を正しく解釈できる
• (d) 使わない、または出力を無視・上書き・取り消すと判断できる
• (e) 「停止」ボタンなどで介入し、安全な状態で止められる

• 全期間を通じて、適切な水準の正確性・堅牢性・サイバーセキュリティを保ち、安定して動くように設計する（第15条1項）
• 正確性の水準と指標を使用説明書で宣言する（第15条3項）
• システム内や環境で起きる誤り・故障・矛盾に、できる限り強くする。予備の仕組みやフェイルセーフも手段として使える（第15条4項）
• 市場に出した後も学習を続けるAIは、偏った出力が次の入力に影響する「フィードバックループ」のリスクをできる限りなくす・減らす（第15条4項）
• AI固有の攻撃（学習データの汚染、学習済み部品の汚染、誤りを起こさせる入力、機密性への攻撃、モデルの欠陥）への対策を、必要に応じて講じる（第15条5項）

EUのサイバーセキュリティ認証制度で認証を受けたものは、その範囲で第15条のサイバーセキュリティ要件を満たすと推定されます。対象は、規則 (EU) 2019/881 の制度のうち、官報に参照が載ったものです（第42条2項）。改正で、サイバーレジリエンス法（規則 (EU) 2024/2847）の対象になるものの定めも加わりました。同法第12条1項の条件を満たすものは、第15条のサイバーセキュリティ要件を満たすとみなされます（第42条3項）。

提供者は、規則の順守を確保する品質管理システムを置き、方針・手順・指示として体系的に文書化します。少なくとも次の項目を含みます（第17条1項）。

実施は組織の規模に見合ったものでよく、改正で中小企業（スタートアップを含む）とSMCが明記されました。ただし、求められる厳密さと保護の水準は守ります（改正後の第17条2項）。提携・関連企業のない中小企業は、品質管理システムの一部の項目を簡易な形で満たせます。そのガイドラインは欧州委員会が作ります（改正後の第63条1項）。

ISO 9001 などとの関係

AI法の条文は、ISO 9001 などの特定の民間規格には触れていません。分野別のEU法で品質管理システムの義務がある提供者は、第17条の項目をその仕組みの一部にできます（第17条3項）。既存の品質マネジメントの仕組みを土台にする場合も、上の (a)〜(m) を項目ごとに確認し、足りない部分を足す進め方が考えられます。欧州委員会のページによると、品質管理システム（第17条の分野）の規格案 prEN 18286 が作られています（13章）。

提供者は、リスクに見合った市販後監視の仕組みを作って文書化します。導入者などからの性能データを全期間にわたって積極的・体系的に集めて分析し、要件を守り続けているかを評価します。仕組みは市販後監視計画にもとづき、計画は技術文書の一部です（第72条1〜3項）。改正で、欧州委員会はひな形を含む計画のガイダンスを2027年9月2日までに出すことになりました（改正後の第72条3項）。

報告先は、インシデントが起きた加盟国の市場監視当局です。期限に間に合わせるため、まず不完全な第一報を出し、後で完全な報告を出すこともできます。報告後は、原因の調査・リスク評価・是正措置を行います。当局に知らせる前に、原因の評価に影響するようなシステムの変更をしてはいけません（第73条1・5・6項）。重大インシデントとは、人の死亡や健康への重大な害、重要インフラの深刻で不可逆な混乱、基本的権利を守るEU法上の義務の違反、財産・環境への重大な害につながるものです（第3条49号）。

提供者は、規則に適合していないと考えたら、すぐに是正・回収・停止などの措置をとり、販売者・導入者などに知らせます（第20条）。

官報に参照が載った整合規格に適合していれば、その範囲で要件を満たすと推定されます（第40条1項）。欧州委員会は欧州標準化機関に、要件をすべて対象とする標準化を要請します（第40条2項）。整合規格がない・不十分な場合、欧州委員会は条件を満たせば、実施法令で共通仕様を定められます（第41条）。改正で、附属書Iの製品法令とあわせて満たせる標準化成果物の要請も加わりました（改正後の第40条2項）。

欧州委員会のページで確認できたこと（2026-08-03 更新版）

• 欧州委員会は CEN と CENELEC（欧州の標準化機関）に、リスク管理、データセットのガバナンスと品質、記録、透明性、人による監督、正確性、堅牢性、サイバーセキュリティ、品質管理、適合性評価の10分野の規格づくりを要請している（決定 C(2025)3871 にリンク）
• 規格づくりは CEN と CENELEC の合同技術委員会 JTC 21 が担っている
• 2025年10月30日、品質管理システム（第17条の分野）の規格案 prEN 18286 が、AIの整合規格として初めて公開意見照会に入った
• 規格が公表されると欧州委員会が評価し、その後に官報で参照が掲載される。規格の適用は任意で、ほかの方法で順守を示してもよい