「安全なAI」に世界が本腰 │ TECHBLITZが選ぶスタートアップ５選

＜目次＞
・AIの安全性、ルールづくりは欧米先導
・「信頼できるAI」で存在感示す日本発スタートアップ
・TECHBLITZが選ぶ、AIの安全性に関連するスタートアップ5選
　1. Resistant AI（チェコ）
　2. HiddenLayer（米国）
　3. Robust Intelligence（米国）
　4. Saidot（フィンランド）
　5. Anthropic（米国）

＼紹介企業5社の詳細はこちら／

AIの安全性、ルールづくりは欧米先導

　AIの安全性に関する規制の策定は、欧米が先導する形で進んでいる。特に、EUが2023年12月に大筋合意した「AI法案」は、世界初の包括的なAI規制案。施行は2026年の見通しだが、ルールづくりに長けたEUがここでも存在感を発揮し、世界の標準規格策定のベンチマークになるとの見方も強い。

　各国レベルでAIの安全性に関する専門機関を設立する動きも出始めていて、英国は2023年11月、初開催した「AI安全サミット」の場で、AIの安全性を評価する「AI安全研究所（AI Safety Institute）」を設立すると発表。米国でもAIの安全性に関する大統領令が発令されており、国立標準技術研究所（NIST）と民間企業が連携して英国と同様の専門機関の立ち上げに動いている。

　日本もこうした動きに歩調を合わせ、斎藤健経済産業相は昨年12月、やはり同様のAI安全性評価機関を、経産省所管の情報処理推進機構（IPA）に設置すると発表。安全性評価の調査や基準策定で米英などの機関と連携していくという。

AI安全サミットで登壇するスナク英首相（英首相官邸提供）

「信頼できるAI」で存在感示す日本発スタートアップ

　このように、国家レベルでは規制の枠組み作りが現在進行形で進められているが、AIの開発・運用の現場では、AIの信頼性やプライバシー保護、セキュリティ対策といった技術に強みを持ったスタートアップが少しずつ現れている。

「信頼できるAI」の社会実装を掲げるCitadel AIは、この分野で存在感を示す日本発のグローバルスタートアップ。同社によると、世の中に存在する約8割のAIアプリケーションが現実世界への導入時に何らかの障害を起こすといい、こうしたリスクを開発から運用のあらゆるフェーズで自動検証・品質管理できるのが特徴。

　特筆すべきは、同社が国際規格の代表的機関である英国規格協会（BSI）と提携を果たしたこと。世界中からノミネートされた54社のスタートアップの中から、たった1社のパートナー企業として採択された。BSIは、EUのAI法施行を見据えてノーティファイドボディ（認証機関資格）の取得に向けた取り組みを進めており、AIの国際規格とも近い位置にあるため、国際的な舞台でのCitadel AIのさらなる活躍が期待される。

image: Citadel AI

TECHBLITZ編集部が選ぶ、AIの安全性に関連するスタートアップ5選

　AIの安全性を巡っては、AIシステムの安全性を高めるセキュリティツールのほか、AIに関する規制をまとめるツールや、安全性に重きを置いたAIモデルなどが出てきている。TECHBLITZ編集部が選ぶ、AIの安全性に関連したスタートアップ5社はこちら。

1. Resistant AI

2. HiddenLayer

3. Robust Intelligence

4. Saidot

5. Anthropic

＼紹介企業5社の詳細はこちら／