「プロンプトインジェクション」「ジェイルブレイク」など5項目を診断 生成AI診断サービスをラックが提供開始「生成AIを使ったシステムには特有の脆弱性がある」

ラックは、生成AIシステムのセキュリティを強化するサービス「生成AI活用システム リスク診断」の提供を開始した。生成AIを使ったシステムに特有の脆弱性が含まれていないかどうかを評価し、改善点をレポートする。

» 2024年02月22日 08時00分 公開
[@IT]

この記事は会員限定です。会員登録(無料)すると全てご覧いただけます。

 ラックは2024年2月20日、生成AIシステムのセキュリティを強化するサービス「生成AI(人工知能)活用システム リスク診断」の提供を開始した。

画像 生成AI活用システム リスク診断に含まれる評価項目(提供:ラック

生成AI特有の脆弱性を診断

 生成AIが持つ機能を独自ソフトウェアに組み込むことで、イノベーションの促進や新ビジネスモデルの構築が期待されている。しかし、ラックによると「生成AIを組み込んだシステムはAIを欺くために設計された敵対的な攻撃(プロンプトインジェクション)に対して脆弱(ぜいじゃく)であるなど特有のセキュリティ課題を持つ」という。本サービスはそういった脆弱性の診断を目的としている。

Copyright © ITmedia, Inc. All Rights Reserved.

スポンサーからのお知らせPR

注目のテーマ

AI for エンジニアリング
「サプライチェーン攻撃」対策
1P情シスのための脆弱性管理/対策の現実解
OSSのサプライチェーン管理、取るべきアクションとは
Microsoft & Windows最前線2024
システム開発ノウハウ 【発注ナビ】PR
あなたにおすすめの記事PR

RSSについて

アイティメディアIDについて

メールマガジン登録

@ITのメールマガジンは、 もちろん、すべて無料です。ぜひメールマガジンをご購読ください。