# AI Risk Management Framework - Japanese translation

> Source: https://tsapps.nist.gov/publication/get_pdf.cfm?pub_id=958044
> Pages: 52
> Author: National Institute of Standards and Technology

---

NIST AI 100-1 AI RMF 1.0 i

<!-- Page 2 -->

Official Government Translation. Document translated by TaikaTranslation LLC. The official English language version of this publication is available free of charge from NIST at https://doi.org/10.6028/NIST.AI.100-1. ii

<!-- Page 3 -->

NIST AI 100-1 AI RMF 1.0 iii NIST AI 100-1 本書は https://doi.org/10.6028/NIST.AI.100-1 より無料で入手可能です。 2023 年１月 米国商務省 ジーナ・ M ・ライモンド、長官 米国国立標準技術研究所 ローリー・ E ・ロカシオ、 NIST 所長兼標準技術担当商務次官 NIST AI 100-1AI リスクマネジメント フレームワーク（ AI RMF 1.0 ）

<!-- Page 4 -->

NIST AI 100-1 AI RMF 1.0 i 実験手順や概念を適切に説明するために、この文書では特定の商業団体、装置、または材料が特定される 場合があります。このような識別は、米国国立標準技術研究所による推奨または承認を意味するものでは なく、また、その実体、材料、または機器が必ずしもその目的に利用可能な最良のものであることを意図 したものでもありません。 この出版物は、 https://doi.org/10.6028/NIST.AI.100-1 から 無料 で 入手 できます。 更新 スケジュール と バージョン AI リスクマネジメントフレームワーク （ AI RMF ） はリビングドキュメントであることを意図しています。 NIST はフレームワークの内容と有用性を定期的にレビューし、更新が適切かどうかを判断します。 AI コ ミュニティからの正式なインプットによるレビューは、遅くとも 2028 年までに行われる予定です。フレ ームワークは、主要な変更と軽微な変更を追跡し識別するために、 2 つの番号によるバージョン管理シス テムを採用します。最初の番号は、 AI RMF とその付属文書の世代を表し（例えば 1.0 ） 、主要な改訂の場 合のみ変更されます。軽微な修正は、世代番号の後に「 .n 」を使用して追跡されます（例： 1.1 ） 。すべての 変更は、バージョン番号、変更日、変更の説明を含む履歴を特定するバージョン管理表を使用して追跡さ れます。 NIST は AI RMF Playbook を頻繁に更新する予定です。 AI RMF プレイブックに対するコメント は、いつでも電子メールで AIframework@nist.gov に送信でき、半年ごとにレビューされ、統合されま す。

<!-- Page 5 -->

NIST AI 100-1 AI RMF 1.0 i 目次 図 の リスト .................................................................................................. ii 1 ．リスク の 枠組 み ................................ ................................ ................................ .............. 4 1.1 リスク、インパクト、危害の理解と対処 ...................................................... 4 1.2 AI リスクマネジメントの課題 .................................................................. 5 1.2.1 リスクの測定 .................................................................................. 5 1.2.2 リスク許容度 .................................................................................. 7 1.2.3 リスクの優先順位付け ........................................................................ 7 1.2.4 組織統合とリスクマネジメント ............................................................... 8 2 ．オーディエンス ................................ ................................ ................................ .............. 9 3. AI の リスク と トラストワージネス ................................ ................................ ................. 13 3.1 妥当性と信頼性 ................................................................................ 14 3.2 安全 ............................................................................................ 15 3.3 セキュリティとレジリエンス .................................................................. 16 3.4 アカウンタビリティと透明性 .................................................................. 16 3.5 説明可能性と解釈可能性 ...................................................................... 18 3.6 プライバシー強化 .............................................................................. 19 3.7 公平性 - 有害なバイアスのマネジメント .................................................... 19 4. AI RMF の 有効性 ................................ ................................ ................................ ...... 21 パート 2 ：コア と プロファイル ......................................................................... 22 5. AI RMF コア ................................ ................................ ................................ ............. 22 5.1 GOVERN ...................................................................................... 23 5.2 MAP ......................................................................................... 26 5.3 MEASURE ................................................................................... 30 5.4 MANAGE .................................................................................... 33 6. AI RMF プロファイル ................................ ................................ ................................ . 35 付録 A ： 図 2 および 図 3 の AI アクター の タスク の 説明 ....................................................... 38 付録 B ： AI の リスク は 従来 の ソフトウェア の リスク とどのように 異 なるか ................................ . 41 付録 C ： AI の リスクマネジメント と 人間 と AI の 相互作用 ................................ ....................... 43 付録 D ： AI RMF の 属性 ................................................................................................ 45 表 の リスト 表 1 GOVERN 機能のカテゴリーとサブカテゴリー 22 表 2 MAP 機能のカテゴリーとサブカテゴリー 26 表 3 MEASURE 機能のカテゴリーとサブカテゴリー 29 表 4 MANAGE 機能のカテゴリーとサブカテゴリー 32

<!-- Page 6 -->

NIST AI 100-1 AI RMF 1.0 ii 図 の リスト 図 1 AI システムに関連する潜在的な危害の例。トラストワージな AI システムとその責任 ある使用は、ネガティブなリスクを軽減し、人、組織、エコシステムにとってのベネフィッ トに貢献することができます。 5 図 2 AI システムのライフサイクルと主要な側面。 OECD AI システムの分類フレームワー ク - OECD デジタル 経済論文 （ 2022 ）より改変。内側の 2 つの円は AI システムの主要な次 元を示し、外側の円は AI のライフサイクルの段階を示しています。理想的には、リスクマ ネジメントの取り組みは、アプリケーションのコンテクストにおける計画と設計の機能か ら始まり、 AI システムのライフサイクル全体を通じて実行されます。 代表的な AI アクター については図 3 を参照してください。 10 図 3 AI ライフサイクルの各段階における AI アクター。テスト、評価、検証および妥当性 確認タスクの詳細を含む、 AI アクターのタスクの詳細な説明については、付録 A を参照 してください。なお、ベストプラクティスとして、 AI モデル次元（図 2 ）の AI アクター は分離されており、モデルを構築・使用するアクターとモデルを検証・妥当性確認するアク ターは分離されていることに留意すること。 11 図 4 トラストワージな AI システムの特徴。 有効かつ信頼できることは必要条件であり、 他 のトラストワージ特性のベースとして示されています。 アカウンタビリティと透明性は、 他 のすべての特性に関連するため、縦長の枠で示されています。 12 図 5 機能は、 AI リスクマネジメント活動を最高レベルで組織化し、 AI のリスクを GOVERN 、 MAP 、 MEASURE 、および MANAGE します。 GOVERN は、他の 3 つの機能に情報を提供 し、浸透させるための横断的な機能となるように設計されています。 20

<!-- Page 7 -->

NIST AI 100-1 AI RMF 1.0 1 ページ エグゼクティブ・サマリー 人工知能（ AI ）テクノロジーは、商業、健康、交通、サイバーセキュリティ、環境、地球に至る まで、社会と人々の生活を変革する大きな可能性を秘めています。 AI テクノロジーは包括的な 経済成長を促進し、世界の状況を改善する科学の進歩を支えることができます。しかし、 AI テ クノロジーは、個人、グループ、組織、コミュニティ、社会、環境、地球にネガティブインパク トを及ぼすリスクももたらします。他の種類のテクノロジーのリスクと同様に、 AI のリスクは 様々な形で現れる可能性があり、長期的か短期的か、高確率か低確率か、系統的か局所的か、高 インパクトか低インパクトか、といったものとして特徴付けることができます。 組織が従来のソフトウェアや情報ベースのシステムのリスクを軽減するための基準やベストプ ラクティスは無数にありますが、 AI システムがもたらすリスクは多くの点で独特です（付録 B 参照） 。例えば、 AI システムは、時間の経過とともに、時には予想外に大きく変化する可能性の あるデータに基づいて学習される可能性があり、理解するのが困難な形でシステムの機能やト ラストワージネスにインパクトを与えます。 AI システムとそれが導入されるコンテクストは複 雑であることが多く、 障害が発生したときにそれを検知して対応することが困難になります。 AI システムは本質的に社会技術的なものであり、社会の力学や人間の行動のインパクトを受けま す。 AI のリスクとベネフィットは、システムの使用方法、他の AI システムとの相互作用、運用 者、そしてシステムが導入される社会的背景に関連する社会的要因と組み合わされた技術的側 面の相互作用から生まれる可能性があります。 このようなリスクにより、 AI は、組織にとっても社会にとっても、導入して利用するのが極め て困難な技術となっています。適切な制御がなければ、 AI システムは個人やコミュニティにと って不公平で望ましくない結果を増幅、永続化、悪化させる可能性があります。適切な制御を行 えば、 AI システムは不公平な結果を緩和し、マネジメントすることができます。 AI のリスクマネジメントは、 AI システムの責任ある開発と使用の重要な要素です。 責任ある AI の実践は、 AI システムの設計、開発、使用に関する決定を、意図された目的と価値観に合致さ せるのに役立ちます。責任ある AI のコアコンセプトは、人間中心主義、社会的責任、持続可能 性を強調しています。 AI のリスクマネジメントは、 AI の設計、開発、デプロイを行う組織とそ の内部チームに、コンテクストと潜在的または予期せぬネガティブインパクトとポジティブイ ンパクトについてより批判的に考えるよう促すことで、責任ある使用と実践を推進することが できる。 AI システムのリスクを理解しマネジメントすることは、トラストワージネスを高め、 ひいては社会からの信頼を培うことにつながります。 AI RMF は、 AI システムを、特定の一連の目的に対して、現実または仮想環境に影響 を与える予測、推奨、意思決定などの出力を生成できる、人工的または機械ベースの システムを指します。 AI システムは、さまざまなレベルの自律性で動作するように 設 計 さ れ て い ま す ( 引 用 : OECD Recommendation on AI:2019; ISO/IEC 22989:2022) 。

<!-- Page 8 -->

NIST AI 100-1 AI RMF 1.0 2 ページ 2020 年国家 AI イニシアチブ法（ P.L. 116-283 ）の指示に従い、 AI RMF の目標は、 AI システ ムを設計、開発、デプロイ、または使用する組織にリソースを提供し、 AI の多くのリスクをマ ネジメントし、トラストワージで責任ある AI システムの開発と使用を促進することです。この フレームワークは、 自発的で、権利保護し、セクター固有ではなく、ユースケースにとらわれな いことを意図しており、あらゆる規模の、あらゆるセクターの、そして社会全体の組織に、フレ ームワークのアプローチを実施する柔軟性を提供します。 本フレームワークは、組織や個人（ここでは AI アクターと呼ぶ）が、 AI システムのトラストワ ージネスを高めるアプローチを提供し、長期にわたって AI システムの責任ある設計、開発、デ プロイ、および使用を促進することを支援するために設計されています。 AI アクターは、経済 協力開発機構 （ OECD ） によって 「 AI システムのライフサイクルで積極的な役割を果たす者で、 AI をデプロイまたは運用する組織や個人を含むものである」 と定義されています ［ OECD （ 2019 ） Artificial Intelligence in Society-OECD iLibrary ］ （付録 A 参照） 。 AI RMF は、実用的であり、 AI テクノロジーが発展し続ける中で AI の状況に適応し、さまざ まな程度や能力の組織によって運用されて、社会が AI からベネフィットを受けながら潜在的 な危害から保護されることを目的としています。 本フレームワークと支援リソースは、進化する技術、世界の標準化状況、 AI コミュニティの経 験とフィードバックに基づいて更新、拡張、改善される予定です。 NIST は、 AI RMF と関連ガ イダンスを、適用可能な国際標準、ガイドライン、慣行と整合させていきます。 AI RMF が使用 されるにつれて、さらなる教訓が得られ、将来の更新や追加リソースに反映されるでしょう。 本フレームワークは 2 つのパートに分かれています。パート 1 では、組織が AI に関連するリス クをどのようにフレームワーク化できるかを議論し、 想定される読者について説明します。 次に、 AI のリスクとトラストワージネスについて分析し、トラストワージな AI システムの特徴とし て、妥当性と信頼性、安全性、セキュリティとレジリエンス、アカウンタビリティと透明性、説 明可能性と解釈可能性、 プライバシーの強化、 有害なバイアスを管理した公正性などを概説しま す。 社会的責任とは、 「透明かつ倫理的な行動を通じて、 組織の意思決定や活動が社会や環 境に与える影響に対する」 組織が担う責任を指すことがあります （ ISO26000:2010 ） 。 持続可能性とは、 「将来の世代が自らのニーズを満たす能力を損なうことなく、 現在の ニーズが満たされる、環境、社会、経済の側面を含む地球システムの状態」を指しま す（ ISO/IEC TR 24368:2022 ） 。責任ある AI は、公平でアカウンタビリティを果た すテクノロジーを生み出すことを意味する。組織的な実践が「専門家としての責任」 に従って行われることが期待されており、 ISO では 「 AI システムおよびアプリケーシ ョン、または AI ベースの製品もしくはシステムを設計、開発、またはデプロイする 専門家が、人々、社会および AI の未来に影響を及ぼす独自の立場を認識することを 確実にすることを目指す」 アプローチと定義しています （ ISO/IEC TR 24368:2022 ） 。

<!-- Page 9 -->

NIST AI 100-1 AI RMF 1.0 3 ページ パート 2 は、フレームワークの「コア」を構成します。組織が AI システムのリスクに実際に対 処するための 4 つの具体的な機能が記述されています。これらの機能： GOVERN 、 MAP 、 MEASURE 、 MANAGE は、さらにカテゴリーとサブカテゴリーに分類されます。 GOVERN は 組織の AI リスクマネジメントプロセスや手順の全段階に適用される一方、 MAP 、 MEASURE 、 MANAGE の各機能は、 AI システム固有のコンテクストや AI ライフサイクルの特定の段階で適 用することができます。 フレームワークに関するその他のリソースは、 AI RMF Playbook に含まれており、 NIST の AI RMF ウェブサイト（ https://www.nist.gov/itl/ai-risk-management-framework ）から入手 可能です。 NIST が民間および公的セクターと協力して AI RMF を開発することは、 2020 年国家 AI イニ シアチブ法、人工知能に関する国家安全保障委員会の勧告および技術標準と関連ツールの開発 における連邦政府の関与のための計画によって要請された、より広範な AI の取り組みと方向性 が一致しています。正式な情報提供要請への回答、 広く参加された 3 回のワークショップ、 コン セプトペーパーとフレームワークの 2 つの草案に対するパブリックコメント、複数のパブリッ クフォーラムでの議論、 多くの小規模グループミーティングなどを通じて、 このフレームワーク の策定中に AI コミュニティとの関わりを持つことで、 AI RMF 1.0 の策定だけでなく、 NIST や その他の機関が実施する AI の研究開発および評価にも情報を提供しました。このフレームワー クを強化するための優先研究や追加ガイダンスは、 NIST やより広範なコミュニティが貢献でき る AI リスクマネジメントフレームワークロードマップとして取り込まれる予定です。

<!-- Page 10 -->

NIST AI 100-1 AI RMF 1.0 4 ページ パート 1 ：基礎情報 1 ． リスク の 枠組 み AI リスクマネジメントは、市民の自由や権利に対する脅威など、 AI システムの潜在的なネガテ ィブなインパクトを最小化する道筋を示すと同時に、ポジティブなインパクトを最大化する機 会も提供します。 AI のリスクと潜在的なネガティブインパクトを効果的に取り上げ、 文書化し、 マネジメントすることで、よりトラストワージな AI システムを実現することができます。 1.1 リスク、 インパクト 、 危害 の 理解 と 対処 AI RMF のコンテクストでは、リスクとは、ある事象の発生確率と、対応する事象がもたらす結 果の大きさや程度を複合的に測定したものを指します。 AI システムのインパクト（結果）は、 ポジティブかネガティブ、 またはその両方であり、 機会または脅威をもたらす可能性があります （出典： ISO 31000:2018 ） 。潜在的な事象のネガティブなインパクトを考慮する場合、リスク は、 1 ）その状況や事象が発生した場合に生じるネガティブなインパクト、すなわち危害の大き さと、 2 ）発生の可能性の関数です（出典： OMB Circular A-130:2016 ） 。ネガティブなインパ クトや危害は、個人、グループ、コミュニティ、組織、社会、環境、地球に及ぶ可能性がありま す。 リスクマネジメントプロセスは一般的にネガティブなインパクトを扱いますが、本フレームワ ークは AI システムの予測されるネガティブなインパクトを最小化し、ポジティブなインパクト を最大化する機会を特定するアプローチを提供します。潜在的な危害のリスクを効果的にマネ ジメントすることで、よりトラストワージネスの高い AI システムを実現し、人（個人、コミュ ニティ、社会） 、組織、システム／エコシステムに潜在的なベネフィットをもたらす可能性があ ります。リスクマネジメントは、 AI の開発者や利用者がインパクトを理解し、モデルやシステ ムに内在する限界や不確実性を考慮することを可能にし、ひいてはシステム全体の性能やトラ ストワージネスを向上させ、 AI テクノロジーが有益な形で使用される可能性を高めることがで きます。 AI RMF は、新たなリスクが出現した場合にも対応できるように設計されています。この柔軟性 は、インパクトが容易に予測できず、アプリケーションが進化している場合に特に重要です。 AI のリスクやベネフィットはよく知られていますが、ネガティブなインパクトや危害の程度を評 価するのは難しい場合があります。図 1 は、 AI システムに関連し得る潜在的な危害の例を示し ています。 AI リスクマネジメントの取り組みでは、人間は AI システムがあらゆる場面で機能し、うまく機 能すると思い込んでいる可能性があることを考慮する必要があります。 例えば、 正しいかどうか は別として、 AI システムは人間よりも客観的であるとか、一般的なソフトウェアよりも優れた 能力を提供すると認識されることがよくあります。 「リスクマネジメントとは、 リスクについて、 組織を指揮統制するための調整され た活動を指します」 （出典： ISO 31000:2018 ） 。

<!-- Page 11 -->

NIST AI 100-1 AI RMF 1.0 5 ページ 図 1. AI システムに関連する潜在的な弊害の例。トラストワージな AI システムとその責任あ る使用は、ネガティブなリスクを軽減し、人、組織、エコシステムにベネフィットをもたらす ことに貢献することができます。 1.2 AI リスク マネジメント の 課題 いくつかの課題を以下に説明します。 AI のトラストワージネスを追求してリスクをマネジメン トする際には、これらを考慮する必要があります。 1.2.1 リスク の 測定 不十分な定義や、十分に理解されていない AI のリスクや障害は、定量的・定性的に測定するこ とが困難です。 AI のリスクを適切に測定できないからといって、 AI システムのリスクが必ずし も高い、 あるいは低いことを示すわけではありません。 リスク測定の課題には次のようなものが あります。 サードパーティ の ソフトウェア、ハードウェア、 データ に 関 する リスク ： サードパーティのデー タやシステムは、研究開発を加速し、技術移行を促進することができる。またリスク測定を複雑 する可能性もあります。リスクは、サードパーティのデータ、ソフトウェア、ハードウェアそれ 自体と、その使用方法の両方から出現する可能性があります。 AI システムを開発する組織が使 用するリスク測定基準や方法論は、システムをデプロイまたは運用する組織が使用するリスク 測定基準や方法論と一致しない可能性があります。また、 AI システムを開発する組織が、使用 したリスク測定基準や方法論について透明性を持たないこともあります。リスクの測定とマネ ジメントは、顧客がサードパーティのデータやシステムを AI 製品やサービスにどのように使用 したり統合したりするかによって、特に十分な内部ガバナンス構造や技術的な保護措置がない 場合には、複雑になる可能性があります。いずれにせよ、すべての当事者と AI アクターは、開 発、デプロイ、またはスタンドアロンまたは統合コンポーネントとして使用する AI システムの リスクをマネジメントする必要があります。 顕在化 する リスク の 追跡 ： 新たなリスクを特定・追跡し、 それを測定する手法を検討することで、 組織のリスクマネジメントの取り組みは強化されます。

<!-- Page 12 -->

NIST AI 100-1 AI RMF 1.0 6 ページ AI システムのインパクトアセスメントのアプローチは、 AI アクターが特定のコンテクストにお ける潜在的なインパクトや危害を理解するのに役立ちます。 信頼 できる メトリクス の 可用性 ： 現在、 リスクとトラストワージネスに関する堅牢で検証可能な 測定方法、および様々な AI のユースケースへの適用に関するコンセンサスが現在のところ得ら れていないことが、 AI のリスク測定の課題です。ネガティブなリスクや危害を測定しようとす る場合、潜在的な落とし穴として、測定基準の開発はしばしば組織的な取り組みであり、根本的 なインパクトとは無関係な要因を不注意に反映してしまう可能性があるという現実があります。 さらに、測定アプローチが単純化されすぎたり、ゲーム化されたり、重要なニュアンスを欠いた り、 予期せぬ形で信頼されるようになったり、 インパクトを受ける集団やコンテクストの違いを 説明できなかったりすることもあります。 集団へのインパクトを測定するためのアプローチは、コンテクストが重要であること、危害が 様々な集団や小集団に異なる影響を及ぼす可能性があること、危害を受ける可能性のある地域 社会やその他の小集団が必ずしもシステムの直接的な利用者ではないことを認識したうえで行 うことが、最も効果的に機能します。 AI の ライフサイクル の 様々 な 段階 における リスク ： AI のライフサイクルの初期段階におけるリ スクの測定は、 後期段階におけるリスクの測定とは異なる結果をもたらす場合があります。 ある 時点では潜在的なリスクであっても、 AI システムが適応し進化するにつれて増大するリスクも あります。さらに、 AI のライフサイクル全体を通じて、 AI アクターが異なるリスク観を持って いる場合があります。例えば、事前に学習されたモデルなど、 AI ソフトウェアを利用可能にす る AI 開発者は、その事前に学習されたモデルを特定のユースケースにデプロイする責任を負う AI アクターとは異なるリスク視点を持つ可能性があります。そのようなデプロイヤは、その特 定の用途が、最初の開発者が認識したリスクとは異なるリスクを伴う可能性があることを認識 していない場合があります。すべての AI アクターは、目的に適合したトラストワージな AI シ ステムを設計、開発、デプロイする責任を共有します。 現実世界 における リスク ： 実験室やマネジメントされた環境で AI のリスクを測定すれば、デプ ロイ前に重要な知見が得られるかもしれませんが、 このような測定は、 運用中の現実世界の設定 で現れるリスクとは異なる場合があります。 不可解 さ ： 不可解な AI システムはリスク測定を複雑にする可能性があります。不可解さとは、 AI システムの不透明な性質（説明可能性や解釈可能性の制限） 、 AI システムの開発やデプロイ における透明性や文書化の欠如、あるいは AI システムに内在する不確実性の結果である場合が あります。 人間 の ベースライン ： 例えば意思決定など、人間の活動を補強または代替することを意図した AI システムのリスクマネジメントには、比較のための何らかの基準値が必要です。 AI システム は人間とは異なるタスクを実行し、 異なるタスクを実行するため、 これを体系化することは困難 です。

<!-- Page 13 -->

NIST AI 100-1 AI RMF 1.0 7 ページ 1.2.2 リスク 許容度 AI RMF はリスクの優先順位付けに使用できますが、リスク許容度を規定するものではありませ ん。リスク許容度とは、組織または AI アクター（付録 A 参照）が、その目的を達成するために リスクを負担する用意があることを指します。 リスク許容度は、 法律または規制の要求事項によ って、影響を受ける可能性があります（出典： ISO GUIDE 73 ） 。リスク許容度および組織や社 会が許容できるリスクレベルは、 極めてコンテクストに依存し、 アプリケーションやユースケー スによって異なります。リスク許容度は、 AI システムの所有者、組織、業界、地域社会、また は政策立案者によって確立された方針や規範によって影響を受ける可能性があります。リスク 許容度は、 AI システム、 政策、 規範が進化するにつれて変化する可能性が高い。異なる組織は、 その組織特有の優先事項やリソースの考慮事項により、様々なリスク許容度を持つ場合があり ます。 有害性／コストのベネフィットのトレードオフをよりよく知らせるための新たな知識や手法は、 企業、政府、学界、市民社会によって開発され、議論され続けるでしょう。 AI のリスク許容度 を特定するための課題が未解決のままである限り、リスクマネジメントの枠組みが AI のネガテ ィブなリスクを軽減するためにまだ容易に適用できないコンテクストがあるかもしれません。 1.2.3 リスク の 優先順位付 け すべてのインシデントや障害を排除できるわけではないので、ネガティブなリスクを完全に排 除しようとすることは、 実際には逆効果になる可能性があります。 リスクに関する非現実的な期 待は、 リスクのトリアージを非効率的または非現実的なものにしたり、 希少なリソースを浪費す るような方法でリソースを配分することに組織を導くかもしれません。リスクマネジメントの 文化は、 すべての AI リスクが同じではないことを組織が認識し、 リソースを意図的に配分する のに役立ちます。 実行可能なリスクマネジメントの取り組みは、 組織が開発またはデプロイする 各 AI システムのトラストワージネスを評価するための明確なガイドラインを定めています。 AI システムの評価されたリスクレベルと潜在的なインパクトに基づいて、方針とリソースの優先 順位を付ける必要があります。 AI システムが、 AI デプロイヤによる特定の使用状況に合わせて どの程度カスタマイズされるか、または調整されるかは、要因の一つとなり得ます。 本フレームワークは、適用される法律、規制、規範に沿うべき既存のリスクへのプ ラクティスを柔軟に補強することを意図しています。組織は、組織的、ドメイン 的、分野的、部門的、または専門的要件によって確立されたリスク基準、許容範囲 および対応に関する既存の規制およびガイドラインに従うべきです。分野や業界に よっては、危害の定義が確立し、文書化、報告、開示の要件が確立されている場合 があります。セクターでは、リスクマネジメントは特定の用途やユースケースの設 定に関する既存のガイドラインに依存するかもしれません。確立されたガイドライ ンが存在しない場合、組織は合理的なリスク許容度を定義する必要があります。許 容範囲が定義されれば、この AI RMF をリスクマネジメントおよびリスクマネジメ ントプロセスの文書化に使用することができます。

<!-- Page 14 -->

NIST AI 100-1 AI RMF 1.0 8 ページ AI RMF を適用する場合、特定の利用コンテクストにおける AI システムにとって最もリスクが 高いと組織が判断したものは、 最も緊急に優先順位を付け、 最も徹底したリスクマネジメントプ ロセスを必要とします。例えば、重大なネガティブインパクトが差し迫っている、深刻な被害が 実際に発生している、壊滅的なリスクが存在するなど、 AI システムが許容できないネガティブ のリスクレベルを示す場合には、 リスクを十分にマネジメントできるようになるまで、 安全な方 法で開発とデプロイを停止する必要があります。 AI システムの開発、デプロイ、使用事例が特 定のコンテクストにおいて低リスクであることが判明した場合、優先順位を下げる可能性があ ることを示唆する可能性があります。 リスクの優先順位付けは、人間と直接相互作用するように設計またはデプロイされた AI システ ムと、そうでない AI システムとでは異なる場合があります。 AI システムが、個人を特定できる 情報のような機密または保護されたデータで構成される大規模なデータセットで学習される場 合や、 AI システムの出力が人間に直接的または間接的なインパクトを与える場合などには、よ り高い初期優先順位付けが求められる可能性があります。計算機システムとの相互作用のみを 目的として設計され、非機密データセット（例えば、物理的環境から収集されたデータ）を対象 として学習された AI システムは、初期の優先順位付けをより低くする必要があるかもしれませ ん。とはいえ、人と接しない AI システムが下流の安全性や社会的影響を及ぼす可能性があるた め、 コンテクストに基づいて定期的にリスクを評価し、 優先順位をつけることは依然として重要 です。 残留リスクは、リスク対応後に残るリスクと定義され（出典： ISO GUIDE 73 ） 、エンドユーザ や影響を受ける個人およびコミュニティに直接インパクトを与えます。残留リスクを文書化す ることで、システム提供者は AI 製品をデプロイするリスクを十分に検討することが求められ、 システムとの相互作用によるネガティブインパクトをエンドユーザに通知することができます。 1.2.4 組織統合 と リスク マネジメント AI のリスクは、単独で考慮されるべきではありません。 AI アクターは、ライフサイクルにおけ るそれぞれの役割に応じて、異なる責任と認識を持っています。例えば、 AI システムを開発す る組織は、そのシステムがどのように使用されるかについての情報を持たないことがよくあり ます。 AI のリスクマネジメントは、より広範な企業のリスクマネジメント戦略とプロセスに統 合され、組み込まれるべきである。 AI リスクをサイバーセキュリティやプライバシーなどの他 の重要なリスクと一緒に扱うことで、より統合された結果と組織の効率性をもたらします。 AI RMF は、 AI システムリスクやより広範な組織リスクをマネジメントするための関連ガイダ ンスやフレームワークとともに使用することができます。 AI システムに関連するいくつかのリ スクは、 他の種類のソフトウェア開発やデプロイに共通しています。 重複するリスクの例として は、 AI システムを学習するための基礎データの使用に関連するプライバシーの懸念、リソース を多用するコンピューティングに関連するエネルギーと環境へインパクト、システムおよびそ の学習データと出力データの機密性、完全性、可用性に関連するセキュリティの懸念、 AI シス テムの基礎となるソフトウェアとハードウェアの一般的なセキュリティへの懸念などがありま す。

<!-- Page 15 -->

NIST AI 100-1 AI RMF 1.0 9 ページ 組織は、リスクマネジメントを効果的に行うために、適切なアカウンタビリティ・メカニズム、 役割と責任、文化、インセンティブ構造を確立し、維持する必要があります。 AI RMF を使用す るだけでは、 このような変化をもたらすことも、 適切なインセンティブの提供にはつながりませ ん。 効果的なリスクマネジメントは、 上位レベルの組織的コミットメントを通じて実現されるも のであり、組織や業界内の文化的変化を必要とする場合もあります。加えて、 AI リスクをマネ ジメントする、あるいは AI RMF を実施する中小規模の組織は、その能力やリソースに応じて、 大規模組織とは異なる課題に直面する可能性があります。 2 ． オーディエンス AI リスクと潜在的インパクト（ポジティブなものもネガティブなものも）を特定しマネジメン トするには、 AI のライフサイクル全体にわたる幅広い視点とアクターが必要です。 理想的には、 AI のアクターは、多様な経験、専門知識、背景を持ち、人口統計学的にも専門分野的にも多様 なチームが構成されます。 AI RMF は、 AI のライフサイクルと次元を超えた AI アクターによっ て使用されることを目的としています。 OECD は、 AI のライフサイクル活動を 5 つの主要な社会技術的次元に従って分類するためのフ レームワークを開発し、それぞれがリスクマネジメントを含む AI 政策とガバナンスに関連する 特性を有しています［ OECD (2022) OECD Framework for the Classification of AI systems - OECD Digital Economy Papers ］ 。図 2 は、これらの次元を本フレームワークの目的のために NIST によって若干修正したものを示しています。 NIST の修正は、 AI のライフサイクル全体を 通じてテスト、評価、妥当性確認および検証（ Test, Evaluation, Validation and Verification: TEVV ）プロセスの重要性を強調し、 AI システムの運用コンテクストを一般化しています。 図 2 に示す AI の次元は、アプリケーション・コンテクスト、データと入力、 AI モデル、タスク と出力です。これらの次元に関与し、 AI システムの設計、開発、デプロイ、評価、使用を実行 またはマネジメントし、 AI リスクマネジメントの取り組みを推進する AI アクターは、 AI RMF の主要な対象者です。 ライフサイクルの各次元における代表的な AI アクターを図 3 に示し、付録 A で詳述していま す。 AI RMF では、すべての AI アクターが協力してリスクをマネジメントし、トラストワージ で責任ある AI の目標を達成します。 TEVV に特化した専門知識を持つ AI アクターは、 AI のラ イフサイクル全体を通じて統合され、特にフレームワークから恩恵を受ける可能性が高くなり ます。定期的に実施される TEVV タスクは、技術的、社会的、法的、倫理的な基準や規範に関連 する洞察を提供し、インパクトの予測や顕在化するリスクの評価と追跡を支援するのに役立ち ます。 AI のライフサイクルにおける定期的なプロセスとして、 TEVV は途中段階での是正と事 後的なリスクマネジメントの両方を可能にします。 図 2 の中心にある「人と地球」の次元は、人権と、社会と地球のより広範なウェルビーイングを 表しています。 この次元の AI アクターは、 主要なオーディエンスに情報を提供する別の AI RMF

<!-- Page 16 -->

NIST AI 100-1 AI RMF 1.0 10 ページ オーディエンスを構成します。これらの AI アクターには、業界団体、標準化団体、研究者、ア ドボカシ団体などが含められます。

<!-- Page 17 -->

NIST AI 100-1 AI RMF 1.0 11 ページ 図 2. AI システムのライフサイクルと主要な次元 OECD 。 (2022) OECD Framework for the Classification of AI systems - OECD Digital Economy Papers より改変。内側 の 2 つの円は AI システムの主要な次元を示し、外側の円は AI のライフサイクルの段階を 示しています。理想的には、リスクマネジメントの取り組みは、アプリケーションのコン テクストにおける計画と設計の機能から始まり、 AI システムのライフサイクル全体を通じ て実行されます。代表的な AI アクターについては、図 3 を参照してください。 環境団体、市民社会組織、エンドユーザ、そして潜在的に影響を受ける個人やコミュニテ ィ。 これらのアクターは次のことができます：  潜在的および実際のインパクトについてコンテクストを提供し、理解することを 支援する。  AI のリスクマネジメントのための公式または準公式な規範およびガイダンスの情 報源となる。  AI 運用の境界（技術的、社会的、法的、倫理的）を指定する。  市民の自由と権利、 公平性、 環境と地球、 経済に関する社会の価値と優先事項のバ ランスをとるために必要なトレードオフの議論を促進する。 リスクマネジメントの成功は、図 3 に示す AI アクターの連帯責任感にかかっています。セ クション 5 で説明する AI RMF の機能には、多様な視点、専門分野、職業、経験が必要で す。 多様なチームは、 テクノロジーの目的や機能に関するアイデアや前提をよりオープンに 共有し、 これらの暗黙の側面をより明確にすることに貢献します。 このような広範な集団的 視点は、 問題を表面化させ、 既存および顕在化するリスクを特定する機会を生み出します。

<!-- Page 18 -->

NIST AI 100-1 AI RMF 1.0 12 ページ 図 3. AI ライフサイクルの各段階における AI アクター。テスト、評価、妥当性確認、検証 (TEVV) タスクの詳細を含む AI アクタ ーのタスクの詳細については、付録 A を参照してください。なお、 AI モデルの次元（図 2 ）における AI アクターは、ベストプラク ティスとして、モデルを構築・使用活用するアクターと、モデルを検証・妥当性確認するアクターとに分離されていることに留意し てください。

<!-- Page 19 -->

NIST AI 100-1 AI RMF 1.0 13 ページ 3. AI の リスク と トラストワージネス AI システムがトラストワージであるためには、多くの場合、利害関係者にとって価値のある多 様な基準に対応する必要があります。 AI のトラストワージを高めるアプローチは、 AI のネガテ ィブなリスクを低減することができます。本フレームワークは、信頼できる AI の特徴を以下の ように明確にし、それらに対処するためのガイダンスを提供します。トラストワージな AI シス テムの特性には、妥当性と信頼性、安全性、セキュリティ、レジリエンス、アカウンタビリティ と透明性、 説明可能性と解釈可能性、 プライバシー強化、 有害なバイアスを管理した公正性が含 まれます。トラストワージな AI を作るには、 AI システムの使用状況に基づいて、これらの各特 性のバランスを取る必要があります。 すべての特性は社会技術的なシステム属性ですが、 アカウ ンタビリティと透明性は AI システム内部のプロセスと活動およびその外部設定にも関係します。 これらの特性をおろそかにすると、否定的な結果が生じる確率と規模が増大する可能性があり ます。 図 4 . トラストワージネスな AI システムの特徴。妥当性と信頼性はトラストワージの必要条件 であり、 他のトラストワージの特性のベースとして示されています。 アカウンタビリティと透明 性は、他のすべての特性に関連するため、縦長の枠で示されています。 トラストワージの特性（図 4 に示す）は、社会的・組織的行動、 AI システムで使用されるデー タセット、 AI モデルやアルゴリズムの選択、それらを構築する人々による意思決定、そしてそ のようなシステムから洞察を提供し、モニタリングする人間との相互作用と密接に結びついて います。 AI のトラストワージ特性に関連する具体的な指標と、それらの指標の正確な閾値を決 定する際には、人間の判断が採用されるべきです。 通常、トレードオフが関係し、すべての特性がすべての設定に適用されることは稀であり、いく つかの特性はどのような状況においてもより多かれ少なかれ重要なものもあります。結局のと ころ、トラストワージは社会的な概念であり、その範囲は広範であり、最も弱い特性と同じくら いの強さにしかなりません。 AI のリスクをマネジメントする際、組織はこれらの特性のバランスを取る上で難しい決断に直 面することがあります。例えば、特定のシナリオでは、解釈可能性の最適化とプライバシーの達 成の間でトレードオフが生じる可能性があります。 他のケースでは、 予測精度と解釈可能性のト レードオフに直面する場合もあります。あるいは、データの希少性など特定の条件下では、プラ イバシーを強化させる技法は正確性の低下を招き、特定のドメインでの公平性やその他の価値 に関する意思決定にインパクトを与える可能性があります。

<!-- Page 20 -->

NIST AI 100-1 AI RMF 1.0 14 ページ トレードオフに対処するには、 意思決定のコンテクストを考慮する必要があります。 このような 分析は、 様々な尺度間のトレードオフの存在と程度を明らかにすることはできますが、 トレード オフをどのように乗り切るかについての質問には答えてくれません。 それらは、 関連するコンテ クストの中で作用している価値観に依存し、 透明性が高く、 適切に正当化できる方法で解決され る必要があります。 AI のライフサイクルにおいてコンテクストの認識を強化するには、複数のアプローチがありま す。例えば、対象分野の専門家は、 TEVV の調査結果の評価を支援し、製品やデプロイチームと 協力して、 TEVV のパラメータを要件やデプロイ条件に合わせることができます。適切なリソー スを確保すれば、 AI のライフサイクル全体を通じて、利害関係者や関連する AI アクターからの インプットの幅と多様性を高めることで、コンテクストに配慮した評価に情報を提供し、 AI シ ステムのベネフィットやポジティブインパクトを特定する機会を高めることができます。こう した実践により、社会的コンテクストから生じるリスクが適切にマネジメントされる可能性が 高まります。 トラストワージの特性の理解と扱いは、 AI のライフサイクルにおける AI アクターの特定の役割 によって異なります。どのような AI システムであっても、 AI の設計者や開発者は、その特性に ついてデプロイヤと異なる認識を持っている場合があります。 3.1 妥当性 と 信頼性 妥当性確認とは、 「特定の意図された用途または適用に関する要求事項が満たされていることを、 客観的証拠の提示することによって確認すること」です（出典： ISO 9000:2015 ） 。不正確であ ったり、 信頼性が低かったり、 トレーニング以上のデータや設定に対する汎化が不十分であった りする AI システムのデプロイは、否定的な AI リスクを生み出し、増大させ、信頼性を低下さ せます。 信頼性とは、 同規格において 「あるアイテムが、 与えられた条件下で、 与えられた時間間隔の間、 故障することなく、要求通りに機能する能力」と 定義されています（出典： ISO/IEC TS 5723:2022 ） 。信頼されることは、予想される使用条件下で、システムのライフタイム全体を含 む所定の期間にわたって、 AI システムの動作が全体的に正しいことを示すことを目標とします。 本書で説明するトラストワージの特性は互いに影響し合います。安全性は高いが不公 正なシステム、正確だが不透明で解釈不可能なシステム、不正確だが安全でプライバ シーが強化され透明性の高いシステムは、いずれも望ましくありません。リスクマネ ジメントへの包括的なアプローチでは、トラストワージの特性間のトレードオフのバ ランスを取ることが求められます。 AI テクノロジーが与えられたコンテクストや目 的にとって適切なツールなのか、あるいは必要なツールなのか、そしてどのように責 任を持って使用するのかを判断することは、すべての AI アクターの共同責任です。 AI システムの委託やデプロイの決定は、 トラストワージの特性や相対的なリスク、 影 響、コスト、便益の状況に応じた評価に基づき、幅広い利害関係者から情報を得て行 う必要があります。

<!-- Page 21 -->

NIST AI 100-1 AI RMF 1.0 15 ページ 正確性と堅牢性は AI システムの妥当性と信頼性に寄与し、 AI システムでは互いに緊張関係にあ る場合があります。 正確性は、 ISO/IEC TS 5723:2022 で「観測、計算、または推定の結果が、真の値または真で あると認められた値に近いこと」と定義されています。正確性の測定は、計算中心の測定（例え ば、偽陽性率や偽陰性率） 、人間と AI のチーム化を考慮し、外部妥当性（学習条件を超えて汎用 化可能）を実証する必要があります。正確性測定は、常に、明確に定義された現実的なテストセ ット （想定される使用条件を代表するもの） およびテスト方法論の詳細と組み合わせるべきです。 正確性測定には、異なるデータセグメントに対する結果の分解を含めることができます。 堅牢性または汎用化可能性は、 「様々な状況下でシステムがその性能レベルを維持する能力」と 定義されています（出典： ISO/IEC TS 5723:2022 ） 。堅牢性とは、当初想定していなかった AI システムの使用も含め、幅広い条件や状況において適切なシステム機能を発揮するための目標 です。堅牢性とは、システムが想定された用途と全く同じように動作することだけでなく、想定 外の環境で動作する場合に、人々への潜在的な危害を最小限に抑えるような方法で動作するこ とも要求されます。 デプロイされた AI システムの妥当性と信頼性は、システムが意図したとおりに動作しているこ とを確認する継続的なテストやモニタリングによって評価されることがよくあります。妥当性、 正確性、堅牢性、信頼性の測定は信頼性に寄与し、ある種の故障がより大きな危害を引き起こす 可能性があることを考慮すべきです。 AI のリスクマネジメントの取り組みは、潜在的なネガテ ィブインパクトを最小限に抑えることを優先すべきであり、 AI システムがエラーを検出または 修正できない場合には、人間の介入を含める必要があるかもしれません。 3.2 安全 AI システムは、 「定義された条件下で、人の生命、健康、財産、または環境が危険にさらされる 状態に陥ってはならない」 （出典： ISO/IEC TS 5723:2022 ） 。 AI システムの安全な運用は、以 下の方法を通じて改善されます：  責任ある設計、開発、デプロイの実践  システムの責任ある使用に関するデプロイヤへの明確な情報  デプロイヤとエンドユーザによる責任ある意思決定  インシデントの経験的証拠に基づくリスクの説明と文書化 さまざまなタイプの安全に関するリスクは、 その状況や潜在的なリスクの重大性に基づいて、 AI リスクマネジメトのアプローチを調整する必要になる場合があります。重傷を負ったり死亡し たりする潜在的なリスクをもたらす安全リスクは、 最も緊急に優先順位を付け、 最も徹底したリ スクマネジメントプロセスが必要です。

<!-- Page 22 -->

NIST AI 100-1 AI RMF 1.0 16 ページ ライフサイクルの中で安全性を考慮し、 計画や設計をできるだけ早い段階から始めることで、 シ ステムを危険な状態にする可能性のある故障や状態を防ぐことができます。 AI の安全性に関す る他の実用的なアプローチは、 厳密なシミュレーションとドメイン内テスト、 リアルタイムモニ タリング、 意図された、 あるいは期待された機能から逸脱したシステムのシャットダウン、 修正、 あるいは人間による介入能力に関連しています。 AI の安全リスクマネジメントアプローチは、交通やヘルスケアなどの分野における安全に関す る取り組みやガイドラインからヒントを得て、既存の分野やアプリケーション固有のガイドラ インや標準に整合させる必要があります。 3.3 セキュリティ と レジリエンス AI システム、およびそれがデプロイされるエコシステムは、環境や使用における予期せぬ有害 事象や予期せぬ変化に耐えることができる場合、または AI システムがその機能と構造を維持 できる場合、レジリエンスがあると言えます。内部および外部の変化に直面し、必要に応じて安 全かつ優雅に劣化します（ ISO/IEC TS 5723:2022 からの引用） 。一般的なセキュリティ上の懸 念は、敵対的な事例、データポイズニング、 AI システムのエンドポイントを介したモデル、学 習データ、 その他の知的財産の流出に関連しています。 不正アクセスや不正使用を防止する保護 メカニズムによって機密性、完全性、可用性を維持できる AI システムはセキュアであると言え るかもしれません。 NIST サイバーセキュリティ・フレームワークや NIST リスクマネジメント・ フレームワークのガイドラインは、ここで適用可能なものの一つです。 セキュリティとレジリエンスは関連していますが、異なる特性です。レジリエンスとは、予期し ない不利な事象が発生した後に正常な機能に回復する能力のことですが、セキュリティにはレ ジリエンスが含まれるだけでなく、攻撃を回避、防御、対応、回復するためのプロトコルも含ま れます。レジリエンスは頑健性に関連し、データの出所にとどまらず、モデルやデータの予期せ ぬ使用や敵対的な使用（あるいは乱用や誤用）をも包含します。 3.4 アカウンタビリティ と 透明性 トラストワージな AI はアカウンタビリティにかかっています。アカウンタビリティは透明性を 前提としています。透明性とは、 AI システムとその出力に関する情報が、そのようなシステム を操作していることを認識しているかどうかに関係なく、そのようなシステムを操作する個人 が利用できる程度を反映します。有意義な透明性は、 AI のライフサイクルの段階に応じた適切 なレベルの情報へのアクセスを提供し、 AI アクターや AI システムと相互作用したり、 AI シス テムを利用したりする個人の役割や知識に合わせて調整されます。より高いレベルの理解を促 すことで、透明性は AI システムに対する信頼を高めます。 これらの特性の範囲は、設計上の意思決定やトレーニングデータから、モデルのトレーニング、 モデルの構造、意図されたユースケース、デプロイ、デプロイ後、またはエンドユーザの意思決 定が、いつ、どのように、誰によって行われたかにまで及びます。 AI システムの出力が不正確 であったり、 ネガティブインパクトをもたらしたりした場合、 対処可能な救済措置を受けるため には、透明性が必要になることがよくあります。透明性は、人間と AI との相互作用を考慮すべ

<!-- Page 23 -->

NIST AI 100-1 AI RMF 1.0 17 ページ きであり、例えば、 AI システムによって引き起こされた潜在的または実際の不利な結果が検出 された場合、人間のオペレータまたはユーザにどのように通知されるか、などです。

<!-- Page 24 -->

NIST AI 100-1 AI RMF 1.0 18 ページ 透明性を有するシステムが必ずしも正確で、プライバシーが強化され、安全で、公平なシステム であるとは限りません。 しかし、 透明性のないシステムがそのような特性を持っているかどうか を判断することは困難であり、 複雑なシステムが進化していく中で、 時間をかけて判断すること は困難です。 AI システムの結果に対するアカウンタビリティを求める際には、 AI アクターの役割を考慮すべ きです。 AI や技術システムに関連するリスクとアカウンタビリティの関係は、文化的、法的、 分野的、社会的コンテクストによって異なります。生命や自由が危機に瀕している場合など、結 果が深刻である場合、 AI の開発者やデプロイヤは、その透明性とアカウンタビリティの慣行を 比例的かつ積極的に調整することを検討する必要があります。リスクマネジメントのような危 害軽減のための組織的慣行や統治機構を維持することは、よりアカウンタビリティを果たすシ ステムにつながるのに役立ちます。 透明性とアカウンタビリティを強化するための措置は、必要なリソースのレベルや専有情報を 保護する必要性など、実施主体に対するこれらの取り組みのインパクトも考慮すべきです。 トレーニングデータの出所を維持し、 AI システムの判断がトレーニングデータのサブセットに 帰属することを裏付けることで、透明性とアカウンタビリティの両方を支援することができま す。 トレーニングデータは著作権の対象となる可能性もあり、 適用される知的財産権法に従う必 要があります。 AI システム用の透明性ツールや関連文書が進化し続ける中、 AI システムの開発者は、 AI システ ムが意図されたとおりに使用されることを保証するために、 AI デプロイヤと協力してさまざま な種類の透明性ツールをテストすることをお勧めします。 3.5 説明可能性 と 解釈可能性 説明可能性とは、 AI システムの動作の基礎となるメカニズムの表現であり、解釈可能性とは、 設計された機能目的のコンテクストにおける AI システムの出力の意味を指します。説明可能性 と解釈可能性はともに、 AI システムを運用またはオーバーサイトする人々や AI システムの使用 者が、その出力を含むシステムの機能性とトラストワージネスについてより深い洞察を得るの に役立ちます。 基本的な前提は、 否定的なリスクの認識は、 システムの出力を適切に理解したり、 コンテクスト化したりする能力の欠如に起因するという仮定です。説明可能で解釈可能な AI シ ステムは、エンドユーザが AI システムの目的と潜在的なインパクトを理解するのに役立つ情報 を提供します。 説明可能性の欠如によるリスクは、 AI システムがどのように機能するかを、ユーザの役割、知 識、 スキルレベルなどの個人差に合わせて説明することでマネジメントできます。 説明可能なシ ステムは、デバッグやモニタリングがより容易になり、より徹底した文書化、監査、ガバナンス に適しています。

<!-- Page 25 -->

NIST AI 100-1 AI RMF 1.0 19 ページ 解釈可能性に対するリスクは、多くの場合、 AI システムが特定の予測や推奨を行った理由の説 明を伝えることで対処できます。 ( ここ にある「説明可能な人工知能の 4 つの原則」および「人 工知能における説明可能性と解釈可能性の心理学的基礎」を参照してください。 ) 透明性、 説明可能性、 解釈可能性は、 互いに支え合う明確な特性です。 透明性は、 システムで 「何 が起こったか」という疑問に答えることができます。説明可能性は、システムで「どのように」 決定がなされたかという疑問に答えることができます。 解釈可能性は、 システムによって 「なぜ」 決定がなされたのか、そしてその意味やコンテクストがユーザにとってどうなのかという問い に答えることができます。 3.6 プライバシー 強化 プライバシー強化とは、一般に、人間の自律性、アイデンティティ、尊厳を保護するのに役立 つ規範と慣行を指します。これらの規範と実践は、一般に、侵入からの自由、観察の制限、ま たは個人のアイデンティティの側面 （身体、データ、評判など）の開示またはコントロールに 同意する個人の主体性に対処します。 ( 「 NIST プライバシーのフレームワーク : エンタープラ イズのリスクマネジメントを通じてプライバシーを改善するツール」を参照してください。 ) 匿名性、機密性、コントロールといったプライバシーの価値は、一般に、 AI システムの設計、 開発およびデプロイの選択の指針となるべきです。 プライバシーに関連するリスクは、 セキュリ ティ、バイアス、透明性に影響を与える可能性があり、これらの他の特性とのトレードオフを伴 います。安全性やセキュリティと同様に、 AI システムの特定の技術的特徴は、プライバシーを 促進することもあれば、低下させることがあります。 AI システムはまた、推論によって個人を 特定したり、 個人に関するこれまで非公開であった情報を特定したりすることで、 プライバシー に新たなリスクをもたらす可能性があります。 AI のためのプライバシー強化技術（ Privacy-Enhancing Technologies :PETs ）および特定のモ デル出力に対する非特定化や集約などのデータ最小化手法は、プライバシー強化 AI システムの 設計をサポートすることができます。 データの希少性など特定の条件下では、 プライバシーを強 化する技術は正確性の低下をもたらし、特定のドメインにおける公平性やその他の価値判断に 影響を与える可能性があります。 3.7 公平性 - 有害 な バイアス の マネジメント AI における公平性には、有害なバイアスや差別などの問題に対処することで、平等性と公正に 配慮することが含まれます。 公平性さに対する認識は文化によって異なり、 また用途によって変 化する可能性があるため、 公平さの基準は複雑で定義が難しい場合があります。 このような違い を認識し、考慮することで、組織のリスクマネジメントの取り組みが強化されます。有害なバイ アスが緩和されたシステムが必ずしも公平ではありません。 例えば、 人口統計学的なグループ間 で予測値がある程度均衡しているシステムでも、障害者やデジタルデバイドの影響を受けてい る人々にとっては依然としてアクセスしにくいものであったり、既存の格差や体系的なバイア スを悪化させたりする可能性があります。

<!-- Page 26 -->

NIST AI 100-1 AI RMF 1.0 20 ページ バイアスは、人口統計学的バランスやデータの代表性よりも幅広いものです。 NIST は、考 慮し、マネジメントすべき AI のバイアスを、系統的、計算および統計的、人間の認知的の 3 つの主要カテゴリーに分類しました。これらはいずれも、先入観、偏見、差別的な意図が なくても発生する可能性があります。系統的バイアスは、 AI のデータセット、 AI ライフサ イクル全体にわたる組織の規範、慣行、プロセス、 AI システムを使用する広範な社会に存 在する可能性があります。計算および統計的バイアスは、 AI のデータセットやアルゴリズ ムのプロセスに存在する可能性があり、 多くの場合、 代表的でないサンプルによる系統的エ ラーに起因します。人間の認知的バイアスは、個人や集団が AI システムの情報をどのよう に認識して意思決定を行うか、あるいは不足している情報を補うか、あるいは人間が AI シ ステムの目的や機能についてどのように考えるかに関連しています。人間の認知的バイア スは、 AI の設計、実装、運用、保守を含む、 AI のライフサイクルとシステム使用にわたる 意思決定プロセスに遍在しています。 バイアスは様々な形で存在し、私たちの生活に関する意思決定を支援する自動化されたシ ステムに根付いている可能性があります。バイアスは必ずしもネガティブな現象ではあり ませんが、 AI システムはバイアスのスピードと規模を増大させ、個人、グループ、コミュ ニティ、組織、社会に対する危害を永続させ、増幅させる可能性があります。バイアス は、社会における透明性や公平性の概念と密接に関連しています。 (3 つのカテゴリを含む バイアスの詳細については、 NIST 特別出版物 1270 、 「人工知能におけるバイアスの識別 と管理の標準に向けて」を参照してください。 )

<!-- Page 27 -->

NIST AI 100-1 AI RMF 1.0 21 ページ 4. AI RMF の 有効性 AI RMF の有効性の評価（ AI システムのトラストワージネスの底上げを測定する方法を含む） は、 AI コミュニティと協力して、今後の NIST の活動の一部となる予定です。 組織やその他のフレームワークの利用者は、 AI RMF によって AI リスクをマネジメントする能 力が向上したかどうかを、その方針、プロセス、実務、実施計画、指標、測定、期待される成果 などを含めて、定期的に評価することが奨励されます。 NIST は、 AI RMF の有効性を評価する ための指標、方法論、目標を策定し、その結果や裏付けとなる情報を広く共有するために、他組 織と協力していく予定です。 フレームワーク利用者は、 以下のような恩恵を受けることが期待さ れます：  AI リスクを GOVERN 、 MAP 、 MEASURE 、および MANAGE し、結果を明確に文書化す るための強化されたプロセス  トラストワージネスの特性、社会技術的アプローチ、 AI リスクの間の関係とトレードオ フに関する認識の向上  システムの試験導入およびデプロイの可否を決定するための明確なプロセス  AI システムリスクに関連する組織のアカウンタビリティの取り組みを改善するための 方針、プロセス、慣行、手順の確立  AI システムリスクと個人、コミュニティ、組織、社会への潜在的インパクトの特定とマ ネジメントを優先する組織文化の強化  リスク、意思決定プロセス、責任、陥りやすい一般的な落とし穴、テスト、評価、妥当性 確認、検証（ TEVV ）の実践、継続的改善のためのアプローチに関する組織内および組織 間でより良い横断的な情報共有の実施改善  下流リスクに対する認識を高めるためのコンテクスト知識の向上  利害関係者および関連する AI アクターとのエンゲージメントの強化  AI システムと関連リスクの TEVV 能力の向上

<!-- Page 28 -->

NIST AI 100-1 AI RMF 1.0 22 ページ パート 2 ：コア と プロファイル 5. AI RMF コア AI RMF コアは、 AI リスクをマネジメントし、トラストワージな AI システムを責任を持って開 発するための対話、理解、活動を可能にするアウトカムと行動を提供します。図 5 に示すよう に、コアは GOVERN 、 MAP 、 MEASURE 、 および MANAGE の 4 つの機能で構成されます。 これらのハイレベルな機能は、 それぞれカテゴリーとサブカテゴリーに分類されています。 カテ ゴリーとサブカテゴリーは、 具体的な行動と結果に細分化されます。 アクションはチェックリス トを構成するものではなく、必ずしも順序付けられたステップの集合でもありません。 図 5. 機能は、 AI リスクマネジメント活動を最高レベルで組織化し、 AI リスクを GOVERN 、 MAP 、 MEASURE 、および MANAGE します。 GOVERN は、他の 3 つの機能に情報を提供し、 浸透させるための横断的な機能として設計されています。 リスクマネジメントは、 AI システムのライフサイクルの全次元にわたり、継続的かつ適時に実 施されるべきです。 AI RMF のコア機能は、多様かつ学際的な視点を反映した形で実施されるべ きであり、組織外の AI アクターの意見も含まれる可能性があります。多様なチームを持つこと は、設計、開発、デプロイ、評価される技術の目的や機能に関するアイデアや前提をよりオープ ンに共有することに貢献し、このことは、問題を表面化させ、既存および顕在化するリスクを特 定する機会を創出することができます。

<!-- Page 29 -->

NIST AI 100-1 AI RMF 1.0 23 ページ AI RMF のオンライン付属リソースである NIST AI RMF プレイブックは、組織が AI RMF をナ ビゲートし、それぞれのコンテクストで適用可能な戦術的アクションの提案を通じてそのアウ トカムを達成するのに役立ちます。 AI RMF と同様、プレイブックは任意であり、組織はそれぞ れのニーズや関心に応じて提案を利用することができます。 プレイブックの利用者は、 提案され た資料の中から自分たちで使用するために選んだオーダーメイドのガイダンスを作成したり、 より広いコミュニティと共有するために提案を投稿したりすることができます。 AI RMF ととも に、プレイブックは NIST の「信頼できる責任ある AI リソースセンター」の一部です。 5.1 GOVERN GOVERN は以下のように機能します：  AI システムを設計、開発、デプロイ、評価、または取得する組織において、リスクマ ネジメントの文化を醸成し実施する。  システムのリスクを予測、特定、マネジメントするためのプロセス、文書、組織スキ ーム（ユーザや社会全体に及ぶ他者を含む）およびそれらの成果を達成するための手 順を概説する。潜在的なインパクトを評価するためのプロセスを組み込んでいる。  AI のリスクマネジメント機能を組織の原則、方針、戦略的優先事項と整合させるため の仕組みを提供する。  AI システムの設計と開発の技術的側面を組織の価値観と原則に結び付け、 そのような システムの取得、学習、デプロイ、モニタリングに携わる個人のための組織的慣行と 能力を可能にする。サードパーティのソフトウェアまたはハードウェアシステムおよ びデータの使用に関する法的およびその他の問題を含む、製品のライフサイクル全体 と関連プロセスに対応する。 フレームワークの使用者は、 自社のリソースと能力に基づいて、 AI リスクマネジメント のニーズに最も適したこれらの機能を適用することができます。 カテゴリーとサブカテ ゴリーの中から選択する組織もあれば、すべてのカテゴリーとサブカテゴリーを選択 し、適用できる能力を有する組織もあります。 GOVERN 体制が整っていることを前提 に、 フレームワークの利用者が価値を高めると判断した機能は、 AI のライフサイクルを 通じてどのような順序で実行してもいいでしょう。 GOVERN でアウトカムを確立した 後、 AI RMF のほとんどのユーザは MAP 機能から開始し、 MEASURE または GOVERN へと続けます。ユーザがどのように機能を統合するにしても、そのプロセスは反復的で あるべきであり、必要に応じて機能間の相互参照を行うべきです。同様に、複数の機能 に適用される要素を持つカテゴリーやサブカテゴリー、 あるいは論理的に特定のサブカ テゴリーの決定の前に行われるべきものもあります。

<!-- Page 30 -->

NIST AI 100-1 AI RMF 1.0 24 ページ GOVERN は、 AI のリスクマネジメント全体に浸透し、プロセスの他の機能を可能にする横断 的な機能です。 GOVERN の側面、特にコンプライアンスや評価に関連する側面は、他の各機能 に統合されるべきです。 GOVERN への留意は、 AI システムの寿命および組織の階層にわたって 効果的な AI リスクマネジメントを行うための継続的かつ本質的な要件です。 強力な GOVERN は、組織のリスク文化を促進するために、社内の慣行や規範を推進し、強化す ることができます。 GOVERN 責任者は、組織の使命、ゴール、価値観、文化、リスク許容度を 方向付ける包括的な方針を決定することができます。 シニアリーダーシップは、 組織内のリスク マネジメントの方針を打ち出し、それに伴って組織文化も作る。経営陣は、 AI のリスクマネジ メントの技術的側面を方針と業務に整合させる。文書化することで、透明性を高め、人的レビュ ープロセスを改善し、 AI システムチームのアカウンタビリティを強化することができます。 GOVERN 機能で説明した構造、システム、プロセス、チームを導入した後、組織はリスクの理 解とマネジメントに焦点を当てた目的主導の文化から恩恵を受けるはずです。 知識、 文化、 AI ア クターのニーズや期待が時間経過とともに変化する中で、 GOVERN 機能を実行し続けることは、 フレームワーク利用者の責務です。 AI リスクの GOVERN に関するプラクティスは、 NIST AI RMF Playbook に記載されています。 表 1 に GOVERN 機能のカテゴリーとサブカテゴリーを示しています。 表 1 ： GOVERN 機能のカテゴリーとサブカテゴリー カテゴリー サブカテゴリー GOVERN 1 ： AI リスクの MAP 、 MEASURE 、 MANAGE に関連す る組織全体の方針、 プロセス、手順およ び実務が整備され、 透明性があり、効果 的に実施されてい る。 GOVERN 1.1 ： AI に関わる法的・規制的要件が理解され、マネジメ ントされ、文書化されている。 GOVERN 1.2 ：トラストワージな AI の特性が、組織の方針、プロセ ス、手順および実務に統合されている。 GOVERN 1.3 ：組織のリスク許容度に基づいて、 必要なリスクマネジ メント活動のレベルを決定するためのプロセス、手順および実務が整 備されている。 GOVERN 1.4 ： 組織のリスクの優先順位に基づき、 透明性のある方針、 手順、その他の管理を通じて、リスクマネジメントプロセスとそのア ウトカムが確立されている。 [ 下記に続く ]

<!-- Page 31 -->

NIST AI 100-1 AI RMF 1.0 25 ページ 表 1 ： GOVERN 機能のカテゴリーとサブカテゴリー [ 下記に続く ] カテゴリー サブカテゴリー GOVERN 1.5 ： リスクマネジメントプロセスとその成果の継続的なモ ニタリングと定期的なレビューが計画され、定期的なレビューの頻度 を決定することを含め、組織の役割と責任が明確に定義されている。 GOVERN 1.6 ： AI システムの棚卸しのための仕組みが整備され、組 織のリスク優先順位に応じたリソースが確保されている。 GOVERN 1.7 ： AI システムを、リスクを増大させたり組織のトラス トワージネスを低下させたりしない方法で、安全に廃止し段階的に廃 止するためのプロセスと手順が整備されている。 GOVERN 2 : ア カ ウンタビリティの体 制が整備され、適切 なチームと個人が、 AI リスクの MAP 、 MEASURE 、 MANAGE に 権 限 を 与えられ、責任を負 い、学習される。 GOVERN 2.1 ： AI リスクの MAP 、 MEASURE 、 MANAGE に関連す る役割と責任およびコミュニケーションラインが文書化され、組織全 体の個人とチームに明確になっている。 GOVERN 2.2 ：組織の要員およびパートナーは、関連する方針、手順 および協定に沿った職務と責任を果たすことができるよう、 AI リスク マネジメントのトレーニングを受ける。 GOVERN 2.3 ：組織におけるエグゼクティブ・リーダーシップは、 AI システムの開発・デプロイに伴うリスクに関する意思決定に責任を持 つ。 GOVERN 3 ：従業員 の多様性、 公平性、 イ ンクルージョンおよ びアクセシビリティ のプロセスは、ライ フサイクル全体を通 じて、 AI リスクのマ ッピング、測定およ びマネジメントにお いて優先される。 GOVERN 3.1 ：ライフサイクル全体を通じて、 AI リスクの MAP 、 MEASURE 、 MANAGE に関連する意思決定が、 多様なチーム （例えば、 人口統計、分野、経験、専門知識、経歴の多様性）によって行われる。 GOVERN 3.2 ：人間と AI の構成や AI システムのモニターに関する 役割と責任を定義し、区別するための方針と手順が整備されている。 GOVERN 4 ： 組織チームは、 AI リ スクを考慮し、コミ ュニケーションする 文化にコミットして いる GOVERN 4.1 ： AI システムの設計、開発、デプロイ、使用において、 批判的思考と安全第一の考え方を育成し、潜在的なネガティブインパ クトを最小限に抑える組織の方針と実務が整備されている。 [ 下記に続く ]

<!-- Page 32 -->

NIST AI 100-1 AI RMF 1.0 26 ページ 表 1 ： GOVERN 機能のカテゴリーとサブカテゴリー [ 下記に続く ] カテゴリー サブカテゴリー GOVERN 4.2 ：組織チームは、設計、開発、デプロイ、評価、使用す る AI 技術のリスクと潜在的インパクトを文書化し、そのインパクト について広く伝える。 GOVERN 4.3 ： AI のテスト、インシデントの特定、情報共有を可能 にする組織的慣行がある。 GOVERN 5 ：関連す る AI アクターとの 堅牢な連携のための プロセスが整備され ている。 GOVERN 5.1 ： AI リスクに関連する潜在的な個人的・社会的インパ クトについて、 AI システムを開発・導入したチームの外部からのフィ ードバックを収集し、検討し、優先順位を付け、統合するための組織 の方針と実務が整備されている。 GOVERN 5.2 ： AI システムを開発またはデプロイしたチームが、関 連する AI アクターからの裁定されたフィードバックを定期的にシス テムの設計と実施に取り入れることができるような仕組みが確立され ている。 GOVERN 6 ：サード パーティのソフトウ ェアやデータ、その 他のサプライチェー ンの問題から生じる AI のリスクとベネフ ィットに対処するた めの方針と手順が整 備されている。 GOVERN 6.1 ： サードパーティの知的財産権その他の権利の侵害リス クを含め、 サードパーティ・エンティティに関連する AI リスクに対処 する方針と手順が整備されている。 GOVERN 6.2 ： 高リスクとみなされるサードパーティのデータまたは AI システムの障害またはインシデントに対処するためのコンティン ジェンシープロセスが整備されている。 5.2 MAP MAP 機能は、 AI システムに関連するリスクを枠組みするためのコンテクストを確立します。 AI のライフサイクルは、 多様な関係者が関与する多くの相互依存的な活動から構成されます （図 3 参照） 。実際には、プロセスの一部分を担当する AI アクターは、他の部分や関連するコンテク ストを完全に可視化または制御できないことがよくあります。これらの活動間の相互依存関係 や、関連する AI アクター間の相互依存関係により、 AI システムのインパクトを確実に予測する ことが困難になる可能性があります。例えば、 AI システムの目的と目標を特定する際の初期の 決定が、その挙動と能力を変化させる場合があり、 （エンドユーザやインパクトを受ける個人な どの）デプロイ環境のダイナミクスが、 AI システムの決定のインパクトを形成する可能性があ ります。その結果、 AI のライフサイクルのある側面における最善の意図が、それ以降の他の活 動における決定や条件との相互作用によって損なわれることがあります。

<!-- Page 33 -->

NIST AI 100-1 AI RMF 1.0 27 ページ このような複雑さと様々なレベルの可視性は、リスクマネジメントの実践に不確実性をもたら すことがあります。潜在的なネガティブなリスク源を予測し、評価し、その他の方法で対処する ことにより、この不確実性を軽減し、意思決定プロセスの完全性を高めることができます。 MAP 機能の実行中に収集された情報は、ネガティブリスクの予防を可能にし、モデルのマネジ メントなどのプロセスの意思決定や、 AI ソリューションの適切性や必要性に関する最初の意思 決定に情報を提供します。 MAP 機能の結果は、 MEASURE 機能と MANAGE 機能の基礎とな ります。コンテクストに関する知識および特定されたコンテクスト内のリスクに関する認識が なければ、リスクマネジメントの実行は困難です。 MAP 機能は、リスクとより広範な要因を特 定する組織の能力を強化することを目的としています。 この機能の実施は、社内の多様なチームからの視点を取り入れ、 AI システムを開発またはデプ ロイしたチームの外部の人々との関わりを持つことによって強化されます。 社外の協力者、 エン ドユーザ、インパクトを受ける可能性のあるコミュニティなどとの関わりは、特定の AI システ ムのリスクレベル、社内チームの構成、組織の方針によって異なる場合があります。このような 広範な視点を集めることは、以下のような方法で、組織がネガティブなリスクを未然に防ぎ、よ りトラストワージな AI システムを開発するのに役立ちます。  コンテクストを理解する能力を向上させる。  使用のコンテクストに関する前提をチェックする。  システムが意図されたコンテクスト内外で機能しない場合を認識できるようにする。  既存の AI システムのポジティブでベネフィットのある使用方法を特定する。  AI および機械学習プロセスにおける限界の理解を向上させる。  実世界のアプリケーションにおいて、ネガティブインパクトにつながる可能性のある制 約を特定する。  AI システムの意図された使用に関連する既知および予見可能なネガティブインパクトを 特定する。  AI システムの意図された使用以外の使用によるリスクを予測する。 MAP 機能を完了した後、フレームワークの利用者は、 AI システムを設計、開発、またはデプ ロイするかどうかに関する最初の実施／非実施の決定を下すために、 AI システムのインパクト に関する十分なコンテクストに関する知識を持つべきです。 続行することを決定した場合、 組織 は MEASURE 機能と MANAGE 機能を、 GOVERN 機能で整備された方針と手順とともに使用 し、 AI リスクマネジメントの取り組みに役立てるべきです。 AI システムのコンテクスト、 能力、 リスク、ベネフィット、潜在的なインパクトが時間経過とともに変化する中で、 MAP 機能を AI システムに適用し続けることは、フレームワークの利用者の責務です。 AI リスクの MAP に関するプラクティスは、 NIST AI RMF Playbook に記載されている。表 2 に MAP 機能のカテゴリーとサブカテゴリーを示しています。

<!-- Page 34 -->

NIST AI 100-1 AI RMF 1.0 28 ページ 表 2 ： MAP 機能のカテゴリーとサブカテゴリー カテゴリー サブカテゴリー MAP 1 ：コンテクスト が確立され、理解され ている。 MAP 1.1 ：意図された目的， 潜在的にベネフィットある有益な用途， コンテクスト特有の法律， 規範および期待， 並びに AI システムが展 開デプロイされる見込みのある設定が理解され，文書化される。考 慮すべき事項には、 具体的なユーザ利用者の集合や種類とその期待、 システムの利用が個人、地域社会、組織、社会、地球に及ぼす潜在 的なポジティブインパクトとネガティブインパクトの影響、開発ま たは製品の AI ライフサイクル全体にわたる AI システムの目的、 利用、リスクに関する仮定と関連する制限、関連するテスト、評価、 妥当性確認、検証 （ TEVV ） とシステム指標などが含まれる。 MAP 1.2 ：コンテクストを確立するための学際的な AI アクター、 コンピテンシー、スキルおよび能力は、人口統計学的な多様性、幅 広い領域およびユーザ経験の専門性を反映しており、その参加は文 書化されている。学際的な協力の機会が優先される。 MAP 1.3 ： AI 技術に関する組織のミッションと関連する目標が理 解され、文書化されている。 MAP 1.4 ：ビジネス価値またはビジネス利用の背景が明確に定義さ れているか、あるいは（既存の AI システムを評価する場合には）再 評価されている。 MAP 1.5 ：組織のリスク許容度が決定され、文書化されている。 MAP 1.6 ：システム要件（ 「システムはユーザのプライバシーを尊 重すること」など）が、関連する AI アクターから引き出され、理解 されている。 AI リスクに対処するため、社会技術的なインパクトを 考慮した設計上の決定が行われる。 MAP 2 : AI システム の分類が行われる。 MAP 2.1 ： AI システムがサポートする具体的なタスクとそれを実 装するために使用される方法が定義されている（分類器、生成モデ ル、レコメンダーなど） 。 MAP 2.2 ： AI システムの知識の限界およびシステムの出力がどの ように利用され、人間によってオーバーサイトされる可能性がある かについての情報が文書化されている。 文書化は、 関連する AI アク ターが意思決定を行い、その後の行動を取る際に役立つ十分な情報 を提供する。 [ 下記に続く ]

<!-- Page 35 -->

NIST AI 100-1 AI RMF 1.0 29 ページ 表 2 ： MAP 機能のカテゴリーとサブカテゴリー [ 下記に続く ] カテゴリー サブカテゴリー MAP 2.3 ：実験計画、データ収集および選択（可用性、代表性、適 合性等） 、システムのトラストワージネス、 構成の妥当性確認に関 するものを含め、科学的公平性および TEVV に関する考慮事項が 特定され、 文書化されている。 MAP 3 ： AI の能力、目 標とする用途、目標お よび適切なベンチマー クと比較した期待され るベネフィットとコス トが理解されている。 MAP 3.1 ：意図された AI システムの機能および性能の潜在的ベネ フィットが検討され、文書化される。 MAP 3.2 ： 予期されるまたは実現される AI のエラーまたはシス テムの機能性および信頼性に起因する、非金銭的コストを含む潜在 的コスト（組織のリスク許容度に関連する）が検討され、文書化さ れる。 MAP 3.3 ：システムの能力、確立されたコンテクストおよび AI シ ステムの分類に基づいて、対象とする適用範囲が特定され、文書化 される。 MAP 3.4 ： AI システムの性能と信頼性に関するオペレータと実務 者の習熟のためのプロセスおよび関連する技術標準と認証が定義さ れ、評価され、文書化されている。 MAP 3.5 ： GOVERN 機能の組織方針に従って、ヒューマンオーバ ーサイトのためのプロセスが定義され、評価され、文書化されてい る。 MAP 4 ：サードパーテ ィのソフトウェアやデ ータを含む AI システ ムのすべての構成要素 について、リスクとベ ネフィットがマッピン グされている。 MAP 4.1 ：サードパーティの知的財産権その他の権利の侵害のリス クと同様に、 サードパーティのデータやソフトウェアの使用を含む、 AI 技術とその構成要素の法的リスクをマッピングするためのアプ ローチが整備され、遵守され、文書化されている。 MAP 4.2 ：サードパーティの AI 技術を含む AI システムの構成要 素に対する内部リスクマネジメントが特定され、 文書化されている。 MAP 5 ：個人、グルー プ、コミュニティ、組 織、社会へのインパク トが特徴づけられてい る。 MAP 5.1 ：予想される使用、類似のコンテクストにおける AI シス テムの過去の使用、公的な事故報告、 AI システムを開発またはデプ ロイしたチームの外部からのフィードバック、またはその他のデー タに基づき、特定された各インパクトの頻度と大きさ（潜在的ベネ フィットと有害なものの両方）を特定され、文書化されている。 MAP 5.2 ：関連する AI アクターとの定期的な関わりを支援し、ポ ジティブ、ネガティブおよび予期せぬインパクトに関するフィード バックを統合するための実務と人材が配置され、 文書化されている。

<!-- Page 36 -->

NIST AI 100-1 AI RMF 1.0 30 ページ 5.3 MEASURE MEASURE 機能は、 AI リスクと関連するインパクトを分析、評価、ベンチマーク、モニターす るために、定量的、定性的、または混合法のツール、技法、方法論を用います。 MAP 機能で特 定された AI リスクに関連する知識を使用し、 MANAGE 機能に情報を提供します。 AI システム はデプロイ前にテストされ、運用中も定期的にテストされるべきです。 AI リスクの測定には、 システムの機能性とトラストワージネスの側面を文書化することが含まれます。 AI リスクの測定には、トラストワージ特性、社会的インパクト、人間と AI の構成の測定基準を 追跡することが含まれます。 MEASURE 機能において開発または採用されるプロセスには、関 連する不確実性の尺度、性能ベンチマークとの比較および結果の正式な報告および文書化を伴 う、 厳格なソフトウェアテストおよび性能評価方法論が含まれる必要があります。 独立したレビ ューのプロセスは、 テストの有効性を向上させ、 内部的な偏りや潜在的な利害の対立を緩和する ことができます。 トラストワージの特性の間でトレードオフが生じる場合、 測定は、 マネジメント上の意思決定に 情報を提供するための追跡可能な基礎を提供します。選択肢には、再校正、インパクトの緩和、 設計・開発・生産・使用からのシステム除去のほか、補償、検知、抑止、指示、回復の各制御が 含まれます。 MEASURE 機能を完了した後、測定基準、方法論、手法を含む客観的、反復可能、又はまたは 拡張可能な試験テスト、評価、妥当性確認、および検証（ TEVV ）プロセスが実施され、それに 従い、文書化されます。測定基準および測定方法は、科学的、法的、倫理的規範を遵守し、オー プンで透明性のあるプロセスで実施されなければなりません。質的および量的な新しいタイプ の測定を開発する必要があるかもしれません。各測定手法が、 AI リスクの評価において、どの 程度ユニークで意味のある情報を提供するかを検討すべきです。 フレームワークの利用者は、 シ ステムのトラストワージネス信頼性を総合的に評価し、既存のリスクと顕在化するリスクを特 定・追跡し、 測定基準の有効性を検証する能力を高めます。測定結果は MANAGE 機能で活用使 用され、リスクのモニタリング監視と対応への取り組み努力を支援します。知識、方法論、リス ク、インパクト影響が時とともに進化するにつれて、 MEASURE 機能を AI システムに適用し 続けることは、フレームワーク・ユーザの責務です。 AI リスクの MEASURE に関するプラクティスは、 NIST AI RMF Playbook に記載されていま す。表 3 に MEASURE 機能のカテゴリーとサブカテゴリーを示しています。

<!-- Page 37 -->

NIST AI 100-1 AI RMF 1.0 31 ページ 表 3 ： MEASURE 機能のカテゴリーとサブカテゴリー カテゴリー サブカテゴリー MEASURE 1 ：適切な方法と測 定基準を特定し、適用する。 MEASURE 1.1 ： MAP 機能において列挙された AI リスク の測定のための手法および測定基準は、最も重要な AI リス クから実施するために選択される。 測定されない （または測 定できない） リスクまたはトラストワージの特性が適切に文 書化されている。 MEASURE 1.2 ：エラーの報告や影響を受けるコミュニテ ィへの潜在的な影響を含め、 AI の測定基準の適切性と既存 のマネジメントの有効性が定期的に評価され、更新される。 MEASURE 1.3 : システムの第一線の開発者ではない内部 の専門家および／または独立した評価者が、 定期的な評価と 更新に関与している。ドメインの専門家、ユーザ、 AI シス テムを開発またはデプロイしたチームの外部の AI アクター および影響を受けるコミュニティは、 組織のリスク許容度に 従って、必要に応じて評価のサポートに相談される。 MEASURE 2 ： AI システムは、 トラストワージ特性について 評価される。 MEASURE 2.1 ：テストセット、 測定基準、 TEVV で使用し たツールの詳細が文書化されている。 MEASURE 2.2 ：人間を対象とする評価は、 適用される要件 （被験者保護を含む） を満たし、 関連する集団を代表するも のである。 MEASURE 2.3 ： AI システムの性能または保証基準が定性 的または定量的に測定され、デプロイの設定に 類似した条 件下で実証されている。測定方法は文書化されている。 MEASURE 2.4 ： AI システムおよびその構成要素（ MAP 機 能で特定される） の機能および挙動が、 実稼働時にモニタリ ングされている。 MEASURE 2.5 : デプロイされる AI システムが妥当で信頼 できることが実証される。 その技術が開発された条件を超え る汎用化可能性の限界が文書化されている。 [ 下記に続く ]

<!-- Page 38 -->

NIST AI 100-1 AI RMF 1.0 32 ページ 表 3 ： MEASURE 機能のカテゴリーとサブカテゴリー [ 下記に続く ] カテゴリー サブカテゴリー MEASURE 2.6 ： MAP 機能で特定された安全に関するリス クについて、 AI システムが定期的に評価されている。デプ ロイされる AI システムは安全であることが実証され、その 残留ネガティブリスクはリスク許容度を超えず、 特に知識の 限界を超えて動作させた場合に安全側に故障することがで きる。安全性の指標は、システムの信頼性と堅牢性、リアル タイムのモニタリング、 AI システムの故障に対する対応時 間を反映されている。 MEASURE 2.7 ： AI システムのセキュリティとレジリエン ス（ MAP 機能で特定される）が評価され、文書化されてい る。 MEASURE 2.8 : 透明性とアカウンタビリティに関連する リスク（ MAP 機能で特定される）が調査され、文書化され ている。 MEASURE 2.9 ： AI モデルが説明され、検証され、文書化 され、 AI システムの出力が、 MAP 機能で特定されているよ うに、 そのコンテクストの中で解釈され、 責任ある使用とガ バナンスに反映される。 MEASURE 2.10 ： AI システムのプライバシーリスク （ MAP 機能で特定される）が調査され、文書化されている。 MEASURE 2.11 : 公平性とバイアス （ MAP 機能で特定さ れる）が評価され、その結果が文書化される。 MEASURE 2.12 ： AI モデルの学習およびマネジメント活 動の環境へのインパクトと持続可能性（ MAP 機能において 特定される）がアセスメントされ、文書化される。 MEASURE 2.13 ： MEASURE 機能において採用された TEVV 指標およびプロセスの有効性が評価され、 文書化され る。 MEASURE 3 ：特定された AI リスクを長期にわたって追跡 する仕組みが整備されている。 MEASURE 3.1 ：デプロイされた状況における意図された 性能および実際の性能などの要因に基づき、 既存、 予期され ないおよび出現する AI リスクを定期的に特定し、追跡す るためのアプローチ、要員および文書化が実施されている。 MEASURE 3.2 : 現在利用可能な測定技術では AI リスク を評価することが困難である、 または測定基準がまだ利用可 能でない環境について、リスク追跡アプローチを検討する。 [ 下記に続く ]

<!-- Page 39 -->

NIST AI 100-1 AI RMF 1.0 33 ページ 表 3 ： MEASURE 機能のカテゴリーとサブカテゴリー [ 下記に続く ] MEASURE 3.3 : エンドユーザやインパクトを受けるコミ ュニティが問題を報告し、 システムの成果を訴えるためのフ ィードバックプロセスが確立され、 AI システムの評価指標 に統合される。 MEASURE 4 ：測定の有効性に 関するフィードバックを収集 し、評価する。 MEASURE 4.1 ： AI のリスクを特定するための測定アプロ ーチが、 配備の背景と関連付けられ、 分野の専門家や他のエ ンドユーザとの協議を通じて知らされている。 アプローチは 文書化されている。 MEASURE 4.2 : AI システムの信頼性に関する測定結果 が、配備状況および AI ライフサイクル全体にわたって、ド メインの専門家および関連する AI アクターからの入力によ って通知され、 システムが意図されたとおりに一貫して機能 しているかどうかが検証される。結果は文書化される。 MEASURE 4.3 ：インパクトを受けるコミュニティを含む 関連する AI アクターとの協議や、状況に関連するリスクや トラストワージ特性に関する現地データに基づき、 測定可能 な性能の改善または低下が特定され、文書化される。 5.4 MANAGE MANAGE 機能とは、 GOVERN 機能によって定義されたとおり、 定期的に、 MAP され、 MEASURE されたリスクにリスク・リソースを割り当てることを含みます。リスク処置は、インシデントや 事象への対応、回復、コミュニケーションに関する計画で構成されます。 GOVERN で確立され、 MAP で実施される、専門家による協議や関連する AI アクターからのイ ンプットから得られるコンテクストに関する情報は、システム障害やネガティブインパクトの 可能性を低減するために、 この機能で使用されます。 GOVERN で確立され、 MAP と MEASURE で使用されている体系的な文書化手法は、 AI のリスクマネジメントの取り組みを強化し、透明 性とアカウンタビリティを高めます。 緊急リスクを評価するプロセスは、 継続的改善の仕組みと ともに整備されています。 MANAGE 機能の完了後、 リスクの優先順位付けと定期的なモニタリングと改善計画が実施され ます。フレームワーク利用者は、デプロイされた AI システムのリスクをマネジメントし、評価 され優先順位付けされたリスクに基づいてリスクマネジメントのリソースを配分する能力が強 化されます。フレームワーク利用者は、手法、コンテクスト、リスク、 AI アクターのニーズや 期待が時とともに変化するのに応じて、デプロイされた AI システムに MANAGE 機能を適用し 続けることが求められます。

<!-- Page 40 -->

NIST AI 100-1 AI RMF 1.0 34 ページ AI リスクの MANAGE に関連するプラクティスは、 NIST AI RMF Playbook に記載されていま す。表 4 に MANAGE 機能のカテゴリーとサブカテゴリーを示しています。 表 4 ： MANAGE 機能のカテゴリーとサブカテゴリー カテゴリー サブカテゴリー MANAGE 1 ： MAP お よび MEASURE 機能 からの評価およびその 他の分析出力に基づく AI リスクを優先順位付 けし、対応し、マネジ メントする。 MANAGE 1.1 ： AI システムが意図された目的および明示され た目標を達成しているかどうか、また、その開発または配備を 進めるべきかどうかについての判断が行われる。 MANAGE 1.2 ：文書化された AI リスクの処置は、インパク ト、可能性、利用可能なリソースまたは方法に基づいて優先順 位付けされる。 MANAGE 1.3 ： MAP 機能によって特定された、優先度が高い と考えられる AI リスクへの対応が策定され、計画され、文書 化される。リスク対応の選択肢には、緩和、移転、回避、受容 が含まれる。 MANAGE 1.4 ： AI システムの川下にいる取得者とエンドユー ザの両方に対するネガティブ残留リスク（未解決のすべてのリ スクの合計として定義される）を文書化する。 MANAGE 2 ： AI のベネ フィットを最大化し、ネ ガ テ ィ ブ イ ン パ ク ト を 最 小 化 す る た め の 戦 略 が、計画、準備、実施、 文書化され、 関連する AI ア ク タ ー か ら の 情 報 に 基づいている。 MANAGE 2.1 ： AI のリスクをマネジメントするために必要なリ ソースが、実行可能な AI 以外の代替システム、アプローチ、また は方法とともに考慮され、潜在的なインパクトの大きさや可能性 が低減される。 MANAGE 2.2 ：デプロイされた AI システムの価値を維持するた めの仕組みが整備され、適用されている。 MANAGE 2.3 ：未知のリスクが特定された場合、そのリスクに対 応し、回復するための手順が守られている。 MANAGE 2.4 ：意図された使用と異なる性能やアウトカムを示す AI システムを廃止、解除、停止するための仕組みが整備され、適 用され、責任が割り当てられ、理解されている。 MANAGE 3 ：サードパ ーティ・エンティティか らの AI のリ スク とベ ネ フ ィ ッ ト が マ ネ ジ メ ントされている。 MANAGE 3.1 : サードパーティリソースからの AI のリスク とベネフィットが定期的にモニターされ、リスクマネジメントが 適用され、文書化される。 MANAGE 3.2 ：開発に使用される事前学習済みモデルは、 AI シ ステムの定期的なモニタリングと保守の一環としてモニターされ る。

<!-- Page 41 -->

NIST AI 100-1 AI RMF 1.0 35 ページ 表 4 ： MANAGE 機能のカテゴリーとサブカテゴリー カテゴリー サブカテゴリー MANAGE 4 ：特定され、 測定された AI リスクに 対する、対応と復旧を含 む リ ス ク 処 置 と コ ミ ュ ニ ケ ー シ ョ ン 計 画 が 文 書化され、定期的にモニ ターされる。 MANAGE 4.1 : ユーザおよびその他の関連する AI アクターか らのインプットを取得し評価する仕組み、不服申し立てと無効化、 廃止、 インシデント対応、 復旧、 変更管理を含む、 デプロイ後の AI システムモニタリング計画が実施されている。 MANAGE 4.2 ：継続的な改善のための測定可能な活動が、 AI シ ステムの更新に組み込まれ、関連する AI アクターを含む利害関 係者との定期的な関与を含む。 MANAGE 4.3 ：インシデントやエラーは、インパクトを受けるコ ミュニティを含む、関連する AI アクターに通知される。インシ デントやエラーの追跡、 対応、 回復のプロセスが守られ、 文書化さ れている。 6. AI RMF プロファイル AI RMF ユースケースのプロファイルは、フレームワーク利用者の要件、リスク許容度、リソー スに基づく特定の設定またはアプリケーションのための AI RMF 機能、カテゴリー、 サブカテゴ リーの実装です。たとえば、 AI RMF 採用プロファイルや AI RMF 公正住宅プロファイルなど です。 プロファイルは、 AI ライフサイクルのさまざまな段階、または特定のセクター、テクノ ロジー、または最終用途のアプリケーションでリスクをマネジメントする方法について説明し、 洞察を提供します。 AI RMF プロファイルは、 組織が目標に沿って AI リスクをマネジメントす る最適な方法を決定し、 法的 / 規制要件とベスト プラクティスを考慮し、 リスクマネジメントの 優先順位を反映する方法を決定するのに役立ちます。 AI RMF のプロファイルは、組織が、その目標に合致し、法的／規制上の要件やベストプラクテ ィスを考慮し、リスクマネジメントの優先順位を反映した AI リスクをどのようにマネジメント するのが最善かを決定する際に役立ちます。 AI RMF の時系列プロファイルは、 特定のセクター、 業界、組織、またはアプリケーションのコンテクストにおける特定の AI リスクマネジメント活 動の現状または望ましい目標状態のいずれかを記述したものです。 AI RMF の現在のプロファイ ルは、 AI が現在どのようにマネジメントされているか、また、現在の成果という観点から関連 するリスクを示しています。ターゲット・プロファイルは、望ましい、あるいはターゲットとす る AI リスクマネジメントのゴールを達成するために必要な結果を示します。 現状のプロファイルとターゲット・プロファイルを比較すると、 AI リスクマネジメントの目標 を達成するために取り組むべきギャップが明らかになる可能性が高いことがわかります。アク ションプランは、 所定のカテゴリーまたはサブカテゴリーのアウトカムを達成するために、 これ らのギャップに対処するために策定することができます。 ギャップ緩和の優先順位付けは、 ユー ザのニーズとリスクマネジメントプロセスによって行われます。 また、 このリスクベースのアプ ローチにより、 フレームワークの利用者は、 自らのアプローチを他のアプローチと比較し、 AI リ

<!-- Page 42 -->

NIST AI 100-1 AI RMF 1.0 36 ページ スクマネジメントの目標を達成するために必要なリソース（人員、資金など）を、費用対効果の 高い優先順位付けされた方法で測定することができます。

<!-- Page 43 -->

NIST AI 100-1 AI RMF 1.0 37 ページ AI RMF の分野横断的プロファイルは、ユースケースや分野を超えて使用可能なモデルやアプリ ケーションのリスクを対象としています。 分野横断的なプロファイルは、 大規模な言語モデルの 使用、クラウドベースのサービス、買収など、分野を超えて共通する活動やビジネスプロセスの リスクを GOVERN 、 MAP 、 MEASURE 、 MANAGE する方法をカバーすることもできます。 このフレームワークでは、 プロファイルのテンプレートを規定していないため、 実装に柔軟性が あります。

<!-- Page 44 -->

NIST AI 100-1 AI RMF 1.0 38 ページ 付録 A ： 図 2 および 図 3 の AI アクター の タスク の 説明 AI 設計 タスクは、図 2 の AI ライフサイクルのアプリケーション・コンテクストおよびデータ と入力のフェーズで実行されます。 AI 設計アクターは、 AI システムのコンセプトと目的を作成 し、 AI システムが合法的で目的に適合するように、 AI システムの計画、設計、データ収集・処 理タスクを担当します。タスクには、システムのコンセプトと目的、基礎となる仮定、コンテク スト、要件の明確化と文書化、データの収集とクリーニング、データセットのメタデータと特性 の文書化が含まれます。このカテゴリーの AI アクターには、データサイエンティスト、ドメイ ン専門家、社会文化アナリスト、多様性、公平性、インクルージョン、アクセシビリティ分野の 専門家、インパクトを受けるコミュニティのメンバー、ヒューマンファクターの専門家（ UX/UI デザインなど） 、ガバナンスの専門家、データエンジニア、データプロバイダー、システム出資 者、プロダクトマネージャー、サードパーティ・エンティティ、評価者、法務・プライバシーガ バナンスなどが含まれます。 AI 開発 タスクは、図 2 のライフサイクルの AI モデルフェーズで実行されます。 AI 開発のアク ターは、 AI システムの初期インフラを提供し、モデルまたはアルゴリズムの作成、選択、キャ リブレーション、トレーニング、および / またはテストを含む、モデル構築および解釈タスクを 担当します。 このカテゴリーの AI アクターには、 機械学習の専門家、 データサイエンティスト、 開発者、サードパーティ・エンティティ、法的およびプライバシーガバナンスの専門家、デプロ イの設定に関連する社会文化的およびコンテクスト的要因の専門家が含まれます。 AI デプロイメント のタスクは、図 2 のライフサイクルのタスクとアウトプットのフェーズで実 行されます。 AI デプロイのアクターは、 システムの実運用導入を確実にするために、 AI システ ムをどのように使用するかに関連するコンテクスト上の決定を担当します。関連するタスクに は、システムの試験運用、レガシーシステムとの互換性の確認、規制遵守の確保、組織変更の管 理、ユーザーエクスペリエンスの評価などがあります。このカテゴリーの AI アクターには、シ ステムインテグレーター、ソフトウェア開発者、エンドユーザ、オペレータや実務者、評価者、 ヒューマンファクター、 社会文化分析、 ガバナンスの専門知識を持つドメインの専門家が含まれ ます。 運用 と モニタリング のタスクは、図 2 のライフサイクルのアプリケーション・コンテクスト／ 運用とモニタリングのフェーズで実行されます。これらのタスクは、 AI システムの運用を担当 し、他者と協力してシステムの出力とインパクトを定期的に評価する AI アクターによって実行 されます。このカテゴリーに属する AI アクターには、システム・オペレータ、ドメインの専門 家、 AI 設計者、 AI システムの出力を解釈したり取り入れたりするユーザ、製品開発者、評価者 や監査人、コンプライアンスの専門家、組織管理者、研究コミュニティのメンバーなどが含まれ ます。 テスト、 評価、妥当性確認 、検証 （ TEVV ） タスクは、 AI のライフサイクル全体を通じて実行さ れます。これらは、 AI システムやそのコンポーネントを検査したり、問題を検出して修正した りする AI アクターによって実行されます。 理想的には、 検証・妥当性確認タスクを実行します。

<!-- Page 45 -->

NIST AI 100-1 AI RMF 1.0 39 ページ AI アクターは、テスト・評価アクションを実行する AI アクターとは区別されます。タスクは設 計の初期段階からフェーズに組み込むことができ、そこでは設計要件に従ってテストが計画さ れます。  設計、計画、データに関する TEVV タスクは、システム設計、データ収集およびデプ ロイや応用の意図された状況 に関連する測定に関する前提条件の内部および外部検証 を中心とすることがあります。  開発（モデル構築）のための TEVV タスクには、モデルの妥当性確認と評価が含まれ ます。  デプロイのための TEVV タスクには、システムの妥当性確認と実運用への統合が含ま れ、システム とプロセスの統合、ユーザ体験、既存の法的、規制的、倫理的仕様への 準拠のためのテスト と再較正が含まれます。  運用のための TEVV タスクには、モデルの定期的な更新、テスト、専門家（ SME ）に よる再較正のための継続的なモニタリング、報告されたインシデントやエラーの追跡 とそのマネジメント、 創発特性の検出と関連するインパクト、 救済措置と対応のための プロセスが含まれます。 ヒューマンファクター のタスクと活動は、 AI のライフサイクルのあらゆる側面で見られる。こ れには、人間中心設計の実践と方法論、エンドユーザやその他の関係者、関連する AI アクター の積極的な関与の促進、 システム設計におけるコンテクスト固有の規範と価値観の取り込み、 エ ンドユーザの経験の評価と適応、 AI ライフサイクルの全段階における人間とヒューマンダイナ ミクスの広範な統合などが含まれます。 ヒューマンファクターの専門家は、 使用のコンテクスト を理解し、学際的かつ人口統計学的な多様性に情報を提供し、協議プロセスに関与し、ユーザー エクスペリエンスを設計および評価し、 人間中心の評価およびテストを実行し、 インパクト評価 に情報を提供するために、学際的なスキルと視点を提供します。 ドメイン の 専門家 のタスクには、 AI システムが使用される産業部門、 経済部門、 コンテクスト、 アプリケーションのドメインに関する知識や専門知識を提供する学際的な実務者や学者からの インプットが含まれます。ドメインの専門家である AI アクターは、 AI システムの設計や開発に 不可欠なガイダンスを提供し、 TEVV や AI インパクト評価チームが行う作業をサポートするた めにアウトプットを解釈することができます。 AI インパクトアセスメント のタスクには、 AI システムのアカウンタビリティ、有害なバイアス への取り組み、 AI システムのインパクトの検討、製品の安全性、責任、セキュリティなどの要 件の評価と査定が含まれます。インパクトの審査員や評価者などの AI アクターは、技術的、人 的要因、社会文化的、法的な専門知識を提供します。 調達 タスクは、サードパーティの開発者、ベンダー、請負業者から AI モデル、製品、またはサ ービスを取得するために、財務、法務、または方針に関するマネジメント権限を持つ AI アクタ ーによって実施されます。 ガバナンス と オーバーサイト のタスクは、 AI システムがデサイン、開発および / またはデプロイ される組織のマネジメント、受託および法的権限と責任を持つ AI アクターが担います。

<!-- Page 46 -->

NIST AI 100-1 AI RMF 1.0 40 ページ AI ガバナンスに責任を負う主な AI アクターには、組織管理者、上位指導者、取締役会が含まれ ます。これらのアクターは、組織全体のインパクトと持続可能性に関わる当事者です。 その 他 の AI アクター サードパーティ・ エンティティ には、他の組織や組織の顧客やクライアントのために、データ、 アルゴリズム、モデル、システム、および／または関連サービスを提供するプロバイダー、開発 者、 ベンダー、 評価者が含まれます。 サードパーティ・エンティティは、 全体的または部分的に、 AI の設計および開発タスクを担当する。定義上、サードパーティは、その技術やサービスを取 得する組織の設計、開発、デプロイチームの外部です。サードパーティ・エンティティから取得 したテクノロジーは複雑で不透明な場合があり、リスク許容度が導入組織や運用組織と一致し ない場合があります。 AI システム の エンドユーザ は、特定の目的のためにシステムを使用する個人またはグループで す。これらの個人またはグループは、特定のコンテクストで AI システムと相互作用します。エ ンドユーザの能力は、 AI の専門家から初めてテクノロジーを使うエンドユーザまで多岐にわた ります。 影響 を 受 ける 個人／ コミュニティ は、 AI システムまたは AI システムの出力に基づく意思決定 によって直接的または間接的に影響を受けるすべての個人、グループ、コミュニティ、または組 織を包含します。 これらの個人は、 必ずしもデプロイされたシステムやアプリケーションと対話 するとは限りません。 その 他 の AI アクター は、 AI リスクを特定しマネジメントするための公式または準公式な規範 またはガイダンスを提供することができます。このような主体には、業界団体、標準化団体、ア ドボカシ団体、研究者、環境保護団体、市民社会組織などがあります。 一般市民 は、 AI 技術がもたらすポジティブインパクトもネガティブインパクトも直接経験する 可能性が最も高くあります。一般市民は、 AI アクターがとる行動の動機付けとなる可能性があ ります。このグループには、 AI システムが開発・デプロイされる状況に関連する個人、コミュ ニティ、消費者が含 まれます。

<!-- Page 47 -->

NIST AI 100-1 AI RMF 1.0 41 ページ 付録 B ： AI の リスク は 従来 の ソフトウェア の リスク とどのように 異 なるか 従来のソフトウェアと同様に、 AI ベースの技術によるリスクは企業よりも大きく、組織をまた ぎ、社会的インパクトにつながる可能性があります。また、 AI システムは、現在のリスクフレ ームワークやアプローチでは包括的に対処できない一連のリスクをもたらします。リスクをも たらす AI システムの機能の中には、ベネフィットを持つものもあります。例えば、事前に学習 されたモデルや転移学習は、他のモデルやアプローチと比較して、研究を進展させ、正確性とレ ジリエンスを高めることができます。 MAP 機能におけるコンテクスト的要因を特定することは、 AI アクターがリスクのレベルと潜在的なマネジメントの取り組みを決定する際に役立ちます。 従来のソフトウェアと比較して、新たに発生したり増加したりする AI 特有のリスクには以下の ようなものがあります：  AI システムを構築するために使用されるデータは、 AI システムのコンテクストや意 図された用途を正しくまたは適切に表現しているとは限らず、 真の値が存在しないか、 利用できない可能性がある。 さらに、 有害なバイアスやその他のデータ品質の問題は、 AI システムのトラストワージネスにインパクトを及ぼし、 ネガティブインパクトをも たらす可能性がある。  AI システムの依存性と学習タスクのためのデータへの依存は、 そのようなデータに典 型的に関連する増大した量と複雑さと組み合わさっている。  トレーニング中の意図的または非意図的な変更により、 AI システムの性能が根本的に 変化する可能性がある。  AI システムの学習に使用されるデータセットが、 本来の意図されたコンテクストから 切り離されたり、デプロイのコンテクストに対して古くなったり、時代遅れになった りする可能性がある。  AI システムの規模と複雑性（多くのシステムには数十億、あるいは数兆の意思決定ポ イントが含まれている）が、より伝統的なソフトウェア・アプリケーション内に収容 されている。  研究を進展させ、性能を向上させることができる事前学習されたモデルの使用は、統 計的不確実性のレベルを増加させ、バイアス管理、科学的妥当性、再現性の問題を引 き起こす可能性もある。  大規模な事前学習済みモデルの出現特性に対する故障モードの予測難易度が高くなる。  AI システムのデータ集約能力の向上によるプライバシーリスク。  AI システムは、データ、モデル、コンセプトのドリフトに起因する、より頻繁なメン テナンスと、 修正メンテナンスを実施するためのトリガーを必要とする可能性がある。  不透明性の増大と再現性への懸念。  ソフトウェアのテスト基準が未整備であり、最も単純なケースを除き、従来から設計 されている。ソフトウェアに期待される基準で AI ベースのプラクティスを文書化す ることができない。  AI システムは従来のコード開発と同じ管理対象ではないため、 AI ベースのソフトウ ェアテストを定期的に実施すること、あるいは何をテストすべきかを決定することが 困難である。

<!-- Page 48 -->

NIST AI 100-1 AI RMF 1.0 42 ページ  AI システム開発のための計算コストと、環境や地球への影響。  AI ベースのシステムの副作用を統計的な手段を超えて予測・検出することができない。 プライバシーとサイバーセキュリティのリスクマネジメントに関する考慮事項とアプローチは、 AI システムの設計、開発、デプロイ、評価、使用において適用可能です。プライバシーとサイ バーセキュリティのリスクは、より広範な企業リスクマネジメントの検討事項の一部として考 慮され、 AI リスクを組み込むこともできます。 「セキュアでレジリエント」や「プライバシー強 化」といった AI のトラストワージ特性に取り組む取り組みの一環として、組織は、 NIST サイ バーセキュリティ・フレームワーク、 NIST プライバシー・フレームワーク、 NIST リスクマネ ジメント・フレームワーク、セキュアソフトウェア開発フレームワークなど（ただしこれらに限 定されない） 、セキュリティとプライバシーのリスクを低減するための幅広いガイダンスを組織 に提供する、 利用可能な標準やガイダンスの使用を検討することができます。 これらのフレーム ワークには、 AI RMF と共通する特徴がいくつかあります。ほとんどのリスクマネジメントアプ ローチと同様に、 これらのフレームワークは規定的というよりむしろ成果ベースであり、 多くの 場合、機能、カテゴリー、サブカテゴリーのコアセットを中心に構成されています。 AI リスク マネジメントは他の多くの種類のリスクに対処する必要があるため、これらのフレームワーク の間には、 対処する領域によって大きな違いがあるが、 上記のようなフレームワークは、 AI RMF の MAP 、 MEASURE および MANAGE の機能におけるセキュリティおよびプライバシーの検 討に役立つ可能性があります。 同時に、この AI RMF が公表される前に利用可能だったガイダンスは、多くの AI システムのリ スクを包括的に扱っていません。例えば、既存の枠組みやガイダンスでは、以下のことができま せん：  AI システムにおける有害なバイアスの問題を適切に管理する。  生成型 AI に関連する困難なリスクに立ち向かう。  回避、モデル抽出、メンバシップ推論、可用性、またはその他の機械学習攻撃に関連 するセキュリティ上の懸念に包括的に対処する。  AI システムの複雑な攻撃対象領域、または AI システムによって可能となるその他の セキュリティ侵害を考慮する。  AI システムが組織のセキュリティ管理外の意思決定のために学習されたり、ある領域 で学習された後に別の領域用に「微調整」されたりするような、サードパーティの AI 技術、転移学習、適応外使用に関連するリスクを考慮する。 AI も従来のソフトウェア技術やシステムも、急速な技術革新にさらされています。技術の進歩 をモニターし、 その進歩を使用するようにデプロイし、 トラストワージネスと責任の両方を備え た AI の未来に向けて取り組む必要があります。

<!-- Page 49 -->

NIST AI 100-1 AI RMF 1.0 43 ページ 付録 C ： AI の リスクマネジメント と 人間 と AI の 相互作用 業務環境で使用する AI システムを設計、開発、またはデプロイする組織は、人間と AI の相互 作用の現在の限界を理解することにより、 AI のリスクマネジメントを強化することができます。 AI RMF は、 AI システムを使用、相互作用、マネジメントする際の様々な人間の役割と責任を明 確に定義し、区別する機会を提供します。 AI システムが依拠するデータ駆動型アプローチの多くは、個人や社会の観察および意思決定の 慣行を測定可能な量に変換または表現しようとするものです。複雑な人間現象を数学的モデル で表現することは、 必要なコンテクストを取り除くという代償を払うことになりかねません。 こ のようなコンテクストの喪失は、ひいては AI のリスクマネジメントの取り組みの鍵となる個人 や社会へのインパクトを理解することを困難にする可能性があります。 さらなる検討と研究に値する課題には、以下のようなものがあります： 1. 意思決定 と AI システム の オーバーサイト における 人間 の 役割 と 責任 を 明確 に 定義 し、 区別 する 必要 がある。 人間と AI の構成は、完全な自律型から完全な手動型まで様々であ る。 AI システムは自律的に意思決定を行うことも、人間の専門家に意思決定を委ねるこ とも、人間の意思決定者が追加的な意見として利用することもできる。 AI システムの中 には、ビデオ圧縮の改善に使われるモデルのように、ヒューマンオーバーサイトを必要 としないものもある。また、ヒューマンオーバーサイトを特に必要とするシステムもあ る。 2. AI システム の 設計、開発、 デプロイ 、 評価、 使用 における 意思決定 は、 システム および 人間 の 認知 バイアス を 反映 する。 AI アクターは、個人と集団の両方の認知バイアスをプ ロセスに持ち込む。バイアスは、エンドユーザの意思決定タスクに起因することもあれ ば、設計やモデリングタスクにおける人間の仮定、期待、意思決定を通じて、 AI のライ フサイクル全体にわたって持ち込まれることもある。これらのバイアスは、必ずしも常 に有害であるとは限らないが、 AI システムの不透明性や、その結果として生じる透明性 の欠如によって悪化する可能性がある。組織レベルのシステム的バイアスは、 AI ライフ サイクルを通じて、チームの構成や意思決定プロセスを誰がコントロールするかに影響 を与える可能性がある。これらのバイアスは、エンドユーザ、意思決定者、政策立案者に よる下流の意思決定にも影響を及ぼし、 ネガティブインパクトをもたらす可能性がある。 3. 人間 と AI の 相互作用 の 結果 は 様々 である。 特定の条件下では、例えば知覚に基づく判 断タスクでは、人間と AI の相互作用の AI 部分が人間のバイアスを増幅させ、 AI または 人間単独よりも偏った判断につながる可能性がある。しかし、人間と AI のチームを編成 する際に、このようなばらつきを注意深く考慮すれば、相互補完をもたらし、全体的な パフォーマンスを向上させることができる。

<!-- Page 50 -->

NIST AI 100-1 AI RMF 1.0 44 ページ 4. AI システム の 情報 を 人間 に 提示 するのは 複雑 である。 人間は、 AI システムの出力や説 明をさまざまな方法で知覚し、そこから意味を導き出すが、これは個人の嗜好、特徴、ス キルの違いを反映している。 GOVERN 機能は、 Human-AI チームの構成員と AI システムの性能をオーバーサイトする 人間の役割と責任を明確にし、定義する機会を組織に提供します。 GOVERN 機能はまた、 組織が意思決定プロセスをより明確にし、 系統的バイアスに対抗するためのメカニズムを構 築します。 MAP 機能は、 AI システムの性能とトラストワージネスの概念に関するオペレータと実務者 の習熟のためのプロセスを定義して文書化し、 関連する技術標準と認証を定義する機会を提 案します。 MAP 機能のカテゴリーとサブカテゴリーを導入することは、組織が、コンテク ストの分析、手続きとシステムの限界の特定、現実世界における AI ベースのシステムのイ ンパクトの調査と検討、 AI のライフサイクル全体を通しての意思決定プロセスの評価のた めの内部能力を向上させるのに役立つ可能性があります。 GOVERN と MAP の機能では、学際性、人口統計学的に多様なチームの重要性、インパク トを受ける可能性のある個人やコミュニティからのフィードバックの使用について説明し ています。 AI RMF で言及されているヒューマンファクターのタスクや活動を行う AI アク ターは、設計や開発の実践において、ユーザの意図や、より広範な AI コミュニティの代表 者、そして社会的価値観に軸足を置くことで、技術チームを支援することができます。これ らのアクターはさらに、 システム設計にコンテクスト特有の規範や価値観を取り入れ、 AI シ ステムと連携してエンドユーザエクスペリエンスを評価するのに役立ちます。 人間と AI の構成のための AI リスクマネジメントアプローチは、継続的な研究と評価によ って強化されます。 例えば、 人間がどの程度 AI システムの出力に挑戦する権限を与えられ、 インセンティブを与えられているかについては、さらなる研究が必要です。配備されたシス テムにおいて、人間が AI システムの出力を覆す頻度や根拠に関するデータを収集・分析す ることは有益であると思われます。

<!-- Page 51 -->

NIST AI 100-1 AI RMF 1.0 45 ページ 付録 D ： AI RMF の 属性 NIST は、フレームワークの作業が最初に始まったときに、 AI RMF のいくつかの主要な属性に ついて説明しました。これらの属性はそのままで、 AI RMF の開発の指針として使用された。参 考としてここに示されています。 AI RMF は以下のことに努めます： 1. リスクベースであること、リソース効率であること、イノベーションを促進すること、自 発的である。 2. コンセンサス主導であり、 オープンで透明性の高いプロセスを通じて策定され、 定期的に 更新される。すべての利害関係者が AI RMF の策定に貢献する機会を持つ。 3. 上位管理職、政府関係者、非政府組織のリーダー、 AI の専門家でない人々など、幅広い 読者が理解できる明確で平易な言葉を使用する。 AI RMF は、組織全体、組織間、顧客、 そして一般市民に対して、 AI リスクを伝えることを可能にするものでなければならない。 4. AI リスクをマネジメントするための共通言語と理解を提供する。 AI RMF は、 AI リスク の分類法、用語、定義、測定基準、特徴付けを提供する。 5. 使いやすく、リスクマネジメントの他の側面と調和する。フレームワークの使用は、組織 の広範なリスクマネジメント戦略およびプロセスの一部として、 直感的で容易に適応可能 であるべきである。また、 AI リスクをマネジメントするための他のアプローチと整合的 であるべきである。 6. 幅広い視点、セクター、技術領域にとって有用であること。 AI RMF は、どのような AI 技術にも、 また、 状況特有のユースケースにも普遍的に適用できるものでなければならな い。 7. 成果に焦点を当て、非規定的であること。フレームワークは、画一的な要件を規定するの ではなく、アウトカムとアプローチのカタログを提供すべきである。 8. AI リスクをマネジメントするための既存の基準、ガイドライン、ベストプラクティス、 方法論、ツールを使用し、その認知度を高める。 9. 法律や規制にとらわれない。 フレームワークは、 適用される国内および国際的な法律や規 制体制の下で活動する組織の能力を支援するものでなければならない。 10. リビングドキュメントであること。 AI RMF は、技術、理解、 AI のトラストワージネスお よび AI の利用に対するアプローチが変化するにつれて、また、一般的な AI リスクマネ ジメントおよび特にこのフレームワークの実施から利害関係者が学ぶにつれて、 容易に更 新せざるを得ない。

<!-- Page 52 -->

NIST AI 100-1 AI RMF 1.0 46 ページ 本書は https://doi.org/10.6028/NIST.AI.100-1 から無料で入手できます。 免責 翻訳版の内容は、完全性、正確性を保証するものではなく、今後予告な く大幅に加筆・修正する可能性があります。 AI セーフティ・インステ ィテュート（ AISI ）は、当資料に記載されている情報より生じる損失ま たは損害に対して、いかなる人物あるいは団体にも責任を負うものでは ありません。
