AIの信頼性を高めるためのオープンソースプロジェクト「CoSAI」発足　標準化フレームワークやツール提供を目指す：主要設立スポンサーは、Google、IBM、Intel、Microsoftなど

標準化団体のOASISはオープンソースプロジェクトCoSAIの立ち上げを発表した。CoSAIは、AIシステムの信頼性と安全性を高めるための指針や標準化されたフレームワーク、ツールを開発し、共有することを目的としている。

» 2024年08月07日 10時30分公開

[＠IT]

この記事は会員限定です。会員登録（無料）すると全てご覧いただけます。

　標準化団体のOASISは2024年7月18日（米国時間）、オープンソースプロジェクトCoalition for Secure AI（CoSAI）の立ち上げを発表した。

　CoSAIは、セキュアバイデザインのAI（人工知能）システムを構築するために必要なガイダンスやツールを、実務者や開発者に提供することを目的としている。オープンソースの方法論、標準化されたフレームワーク、ツールを共有する共同エコシステムの促進を目指す。

　CoSAIの主要設立スポンサーとして、Google、IBM、Intel、Microsoft、NVIDIA、PayPal Holdingsが参加している。その他の設立スポンサーは、Amazon.com、Anthropic、Cisco Systems、Chainguard、Cohere、GenLab Studio、OpenAI、Wizなど。

CoSAIの概要

#CmsMembersControl .CmsMembersControlIn {width:100%;background:url(https://image.itmedia.co.jp/images/spacer.gif) #DDD;opacity:0.05;filter:progid:DXImageTransform.Microsoft.Alpha(Enabled=1,Style=0,Opacity=5);z-index:1;}

続きを閲覧するには、ブラウザの JavaScript の設定を有効にする必要があります。

生成AI「Amazon Q Developer」で社内のライブラリやAPIに基づいた説明、提案が可能に　対応言語やセキュリティは？
AWSは開発者向け生成AIアシスタント「Amazon Q Developer」において、カスタマイズ機能のプレビュー版の提供を開始した。カスタマイズ機能を利用することで、社内のライブラリ、API、パッケージ、クラス、メソッドに基づいた説明やコード提案が受けられるという。
NIST、LLMのネタバレ制御など3つのシナリオでAIの社会的リスクと影響を評価するプログラム「ARIA」を発表
NISTは、AIのリスクと影響を評価するプログラム「ARIA」を発表した。NISTは、ARIAの成果を通じて、AI技術の設計、開発、リリース、使用におけるガイドライン、ツール、方法論および指標を提供するという。
公共機関での生成AIの使用に向けてIT責任者が考慮すべきこと
公共の政策の多くは生成AIの使用に関して透明性を求めている。公共機関のCIO（最高情報責任者）は、生成AIによるリスクがあることを理解しなければならない。