検索
ニュース

「プロンプトインジェクション」「ジェイルブレイク」など5項目を診断 生成AI診断サービスをラックが提供開始「生成AIを使ったシステムには特有の脆弱性がある」

ラックは、生成AIシステムのセキュリティを強化するサービス「生成AI活用システム リスク診断」の提供を開始した。生成AIを使ったシステムに特有の脆弱性が含まれていないかどうかを評価し、改善点をレポートする。

Share
Tweet
LINE
Hatena

 ラックは2024年2月20日、生成AIシステムのセキュリティを強化するサービス「生成AI(人工知能)活用システム リスク診断」の提供を開始した。

画像
生成AI活用システム リスク診断に含まれる評価項目(提供:ラック

生成AI特有の脆弱性を診断

 生成AIが持つ機能を独自ソフトウェアに組み込むことで、イノベーションの促進や新ビジネスモデルの構築が期待されている。しかし、ラックによると「生成AIを組み込んだシステムはAIを欺くために設計された敵対的な攻撃(プロンプトインジェクション)に対して脆弱(ぜいじゃく)であるなど特有のセキュリティ課題を持つ」という。本サービスはそういった脆弱性の診断を目的としている。

Copyright © ITmedia, Inc. All Rights Reserved.

ページトップに戻る