国立標準技術研究所（NIST）、AIに関するバイデン大統領の大統領令を実施するための新たな文書案を公表

2024/05/31

米商務省の国立標準技術研究所（NIST）は、「AIの安全、安心、信頼できる開発に関する大統領令（2023年11月）」が発令され180日経過したことを受け、AIの安全性、セキュリティ、信頼性を向上させることを目的とした4つの文書の草案を発表した。NISTは、この４つの草案について、2024年6月2日まで意見照会を行う。各草案の概要は以下の通りである。

1) 生成AIのリスクの軽減する，NIST AI 600-1

NIST AI 600-1（AIリスクマネジメントフレームワーク　生成AIプロファイル）は、生成AIがもたらす固有のリスクを特定し、リスクマネジメントのために最も適したアクションを提供する。この文書は、13のリスクと、それを管理するために開発者が取る400以上のアクションのリストを中心に構成されている。13のリスクには、化学兵器、生物兵器、放射線兵器、核兵器に関連する情報へのアクセス、ハッキング、フィッシング、サイバーセキュリティ攻撃、ヘイトスピーチや有害なコンテンツの生成などが含まれる。
2) AIシステムの訓練に使用されるデータへの脅威を減らす，NIST SP 800-218

NIST SP 800-218A（生成AIとデュアルユースの基礎モデル）は、ソフトウェア脆弱性のリスクを軽減するための推奨事項を記載している SSDF (SP 800-218)と並行して使用されるように設計されている。この文書は、SSDFの付属として、悪意のあるトレーニングデータが生成AIシステムに悪影響を与えるという懸念に対処するためにガイダンスを示している。特に中毒、偏り、改ざんについてトレーニングデータを分析することを推奨する。
3) 合成コンテンツリスクの低減する，NIST AI 100-4

生成AIの発展に伴い、昨今、AIによって作成または改変された「合成」コンテンツの増加が課題となっている。NIST AI 100-4は、デジタルコンテンツの透明性を向上させるための技術的アプローチを理解し、適用することで、合成コンテンツによるリスクを低減することを目的としている。なお、この文書は、同大統領令によってNISTがホワイトハウスに提出することが求められている。
4) AI標準に関するグローバルな取り組み，NIST AI 100-5

NIST AI 100-5（AI標準に関するグローバルな関与のための計画）は、AI関連の標準の世界的な開発・実施、協力・調整、情報共有を促進する。この草案では、AIの標準化が急務と思われる分野やトピックに関する意見を募集する。標準化の可能性のあるトピックとして、デジタルコンテンツの出所に関する認識を高める仕組みや、AIシステムのテスト、評価、検証、妥当性確認のためのプラクティスなどが挙げられている。