AIの“新しい波”は興奮と不安を生み出している MozillaがAIの透明性を確保するためのスタートアップを設立：「信頼できるAI」への投資

Mozillaは2023年3月22日（米国時間）、AI（人工知能）に特化したスタートアップ「Mozilla.ai」の設立を発表した。直近では「安全性と透明性の高いジェネレーティブAI」と「誤った情報を与えないレコメンドシステム」の開発を進めるという。

[＠IT]

　Mozillaは2023年3月22日（米国時間）、AI（人工知能）に特化したスタートアップ「Mozilla.ai」の設立を発表した。

プレスリリース

　AIの開発と使用における「透明性」「公正性」「プライバシー」「セキュリティ」の確保に重点を置いており、「AIの潜在的な問題に対処するための最新の技術を継続的に研究し、AIの信頼性を向上させる」としている。

「権力と影響力がある大手企業は動いていない」と指摘

　Mozillaは「『Stable Diffusion』や『GPT-4』のような新しいツールは、インターネットだけでなく、コミュニケーションや創造性、社会全体についての考え方も変えている。レコメンド機能などで利用される比較的古いAIツールも進化を続けており、何十億もの生活に影響を与えている。一方、このようなAIの新しい波は、興奮を呼び起こすと同時に、大きな不安も生み出している」と指摘。

　こうしたAIに関する不安を払拭（ふっしょく）するためには、AI開発において、人間の主体性とユーザーの利益を中心に置き、透明性と説明責任を優先することだとMozillaは考えている。

　「われわれは、こうしたアプローチをとっている何千人もの創業者、エンジニア、科学者、デザイナー、アーティスト、活動家たちに会ってきた。賢く、献身的な人々は、オープンソースのAI技術を構築し、監査への新しいアプローチを試し、実世界でAIに『信頼』を築く方法を見つけ出している。権力と影響力を持つ大手企業では、こうした動きが見られない。もちろん、一部の人々は変化を始めているが、最も重要な仕事（そして投資）は、従来と同じ方法で行われている。私たちはこの状況を変えたい」（Mozilla）

　Mozilla.aiの目標は“信頼できるAI製品を簡単に開発できるようにすること”だ。直近の取り組みとしては「ジェネレーティブAIをより安全で透明性の高いものにするためのツール」と、誤った情報を与えない「人間中心のレコメンドシステム」の開発を進めるという。また、Mozilla.aiを「志を同じくする創業者、開発者、科学者、プロダクトマネジャー、ビルダーが集うスペースにしたい」としている。