AI TRiSMとは？企業が把握しておくべきAI活用のリスクと対策を解説

AI TRiSMとは

AI TRiSM（エーアイトリズム）とは、AI特有のリスクに対応し、AIへの信頼性を高めるためのフレームワークです。

「AI Trust, Risk and Security Management」の頭文字をとった略称でありセキュリティ対策をはじめ、プライバシーや倫理といったAI開発・運用時の懸念事項にフォーカスしているのが特徴です。

AI TRiSMが必要な理由

「AI元年」とも呼ばれる2023年は、ビジネスシーンでのAI活用が盛んになった年です。生成AIなどを実際の業務に取り入れたり、将来的に導入することを視野に入れたりしている企業は少なくないでしょう。

Gartner®社の2023年10月のプレスリリース^※1では、"Gartner Says More Than 80% of Enterprises Will Have Used Generative AI APIs or Deployed Generative AI-Enabled Applications by 2026"と記載されており、2026年までに80%以上の企業がAIを活用すると予測されています。

ただ、AIの導入は業務効率化を促す要因となる一方で、導入・運用する際のリスクについては十分に認知されていないのが現状です。そこで、安全にAIを活用できる環境を整備するためにも、AI TRiSMに取り組むことが重要なポイントとなっています。

（※1）Gartner®, プレスリリース, October 11, 2023 "Gartner Says More Than 80% of Enterprises Will Have Used Generative AI APIs or Deployed Generative AI-Enabled Applications by 2026"
GARTNERは、Gartner Inc.または関連会社の米国およびその他の国における登録商標およびサービスマークであり、同社の許可に基づいて使用しています。All rights reserved.

AI TRiSMにおける4つのリスクマネジメント

AI活用にともなうリスクはさまざまにあります。例えば、生成AIは情報のパターンや関係性を学習し、新たにコンテンツを生み出すことが可能です。しかし、生み出されたコンテンツに正確性や公平性がなければ、それを業務に活用している企業の社会的なイメージを損失し、さらには訴訟問題に発展するかもしれません。

そのため、AIのユーザーをはじめ開発・提供をおこなう事業者も、どういったリスクがあるのかを把握しておく必要があります。ここでは、AI TRiSMのフレームワークによってどういったリスクマネジメントが可能なのか、4つの要素を紹介します。

説明可能性

AI技術は多くの人から注目を集めていますが、「AIとは何なのか」「AIが何をするのか」を説明できる人は多くありません。しかし、ブラックボックスのような状態でビジネスにAIを活用すると、出力された結果に対する信憑性は低く、業務での利用や意思決定などには役に立たないでしょう。また、人間のバイアス（偏り）によってトレーニングデータやAIアルゴリズムが歪められると、出力結果が偏ってしまう可能性もあります。

こうしたリスクを回避するために重要となるのが説明可能性です。入力されたデータに対して、AIがどのように解釈・判断して行動しているのかを説明できれば、信頼して個人の利用やビジネスシーンでの意思決定などに活かせます。バイアスに対しては、トレーニングに使用するデータセットやデータ選択時に用いる手法を可視化することで、原因を特定しやすくなるでしょう。

ModelOps

AIの有効性を維持するには、AIモデルやアプリケーションを常に監視するなど、適切な管理体制が欠かせません。AIの開発後も新しいデータが生まれるため、開発時のデータだけを学習したモデルでは情報の乖離が生じてしまい、古い情報や誤ったコンテンツを出力する可能性があります。

そこで必要となるのが、AIモデルが開発・運用・更新されるまでの流れを効率的に実行していくための管理手法「ModelOps」です。AIシステムのビジネス価値を最大化させることを目的としており、AIモデルの稼働状況を評価することで開発時・運用時のドリフトを検知し、精度の低下を防ぎます。

AIセキュリティ

外部攻撃からAIシステムとデータを守るための対策も必要です。外部からの攻撃を受けてしまうと、企業はAIに関する信頼性を失うほか、知的財産や機密情報などの流出によって大きな被害を受ける可能性があります。また、AIモデルの学習に用いるデータに対して、誤った情報や有害なデータを混入させる「データポイズニング」の被害を受けるかもしれません。

このように、セキュリティ上でAIならではの弱点もあるため、従来のアプリケーションと同様の対策だけでは不十分です。特に開発・運営者の情報を漏えいさせる「プロンプトリーキング」や、既存の命令に上書きして別の命令を与える「ゴールハイジャッキング」など、悪意ある要素を埋め込むプロンプトインジェクションと呼ばれる攻撃には十分に注意しましょう。

プライバシー

AIの学習や予測にはさまざまなデータが使われます。しかし、それらのデータのなかに個人情報が混在している可能性があるため、注意が必要です。場合によっては、AIから出力されたデータが個人を特定できる情報を含んでいる可能性もあります。データの匿名化や、適切なデータ処理は欠かせません。

個人情報の取り扱いは国ごとによって異なり、日本であれば「個人情報保護法」、EUであれば「GDPR（General Data Protection Regulation）」があります。AIモデルの開発・運用を検討している企業は、個人情報保護法などに抵触しないよう、十分にルールを確認しておきましょう。

AI TRiSM導入のポイント

AIを適切に開発・活用するためには、AI TRiSMの導入が欠かせません。しかし、具体的にどのように進めれば良いか分からない方は少なくないでしょう。

ここからは、AI TRiSMを導入するために必要なことを4つのポイントに分けて解説します。

専門組織の編成

AI TRiSMへの取り組みは組織全体で進めることが重要であり、管理・調整をおこなうために専門の部署や組織を編成する必要があります。構成メンバーには、セキュリティやデータサイエンスといったITの知見・スキルを持つ専門家が必須です。また、法務やコンプライアンスなどに詳しい人材も編成し、AIに関するリスクに対処できる体制を整えましょう。

リスクの想定・対策

AIを導入する目的や利用シーンを整理し、事前にリスクを想定しておく必要があります。例えば、AIシステムが顧客データを扱う場合、個人あるいは企業の情報が漏えいする危険性もあるでしょう。こうしたリスクは訴訟問題に発展する可能性があるほか、企業の信頼性を損なうことにもつながってしまいます。そこで、AIを導入する際は入念な計画を立て、想定されるリスクへの対策を検討しておくことが重要です。

また、内部でデータが不正に持ち出されたり、改ざんされたりするリスクもあります。データセキュリティを強化するためにも、暗号化やアクセス制御などを施すことも必要になるでしょう。

データの取り扱い

どういったトレーニングデータを用いるのかによって、AIの機能やパフォーマンスが大きく異なります。トレーニングデータにエラーやノイズが入っていると、AIはデータの学習を適切におこなえなかったり、出力結果の質が下がったりするかもしれません。

AIのパフォーマンスを高めるには、データ前処理でクレンジング^※2をおこなうほか、定期的にデータを更新・再訓練することが必要です。

（※2）クレンジングとは、加工前のデータに含まれているエラーやノイズを修正・削除し、データの正確性を高めること。

監視・メンテナンス

AIモデルを運用するときは、データの入力から出力までの一連の動向を常時監視することも重要なポイントです。万が一、AIに不具合が生じた場合はユーザーだけでなく企業も損害を被る危険性があるため、AIモデルの監視を常におこないインシデント発生に備えましょう。

また、出力データの精度向上を含むメンテナンスも欠かせません。ただ、メンテナンスによってエラーが発生する可能性もあるため、システム変更がAIモデルの出力に与える影響を事前に想定しておく必要があります。場合によってはトレーニングを再度おこなったり、システムの微調整が必要になったりすることもありますが、適切な運用のためにも監視・メンテナンスは計画的に進めましょう。

まとめ

文字情報や画像・動画などのコンテンツを生み出す生成AIをはじめ、さまざまなシーンでの利用が期待されるAI技術は個人だけでなく企業からも注目を集めています。しかし、そこに潜むリスクを把握しておかなければ、AIの活用によって危険にさらされるかもしれません。

AIの安全性や信頼性を高めるためのフレームワーク「AI TRiSM」を取り入れれば、AI固有のリスクを軽減し、業務などに活かすことも可能です。AIの利用だけでなく、自社での開発・運用を検討している企業は、AI TRiSMの概念をベースに取り組んでみてはいかがでしょうか。

◎製品名、会社名等は、各社の商標または登録商標です。