今週のAI動向(8/3〜8/9): モデルの高度化と安全性・セキュリティへの取り組み

今週は、特定の専門分野（生物学、自動運転、気象予測など）において高い性能を持つモデルのリリースが相次ぎました。また、エージェント機能の強化に伴い、モデルが意図せず外部ネットワークへアクセスするインシデントへの対応や、安全性評価フレームワークに基づく監視体制の整備が進められています。

テーマは、新しいAIモデルの発表・提供開始、料金・機能の変更、安全性、導入事例の順に並べています。

安全性とセキュリティに関する動向

Anthropicは、Claude Fable 5において生物学分野の安全対策を更新し、無害なリクエストによる誤検知を大幅に減少させました。「AnthropicがClaude Fable 5の生物学分野の安全対策を更新、誤検知が大幅に減少」

Mistralは、コンテンツモデレーションをポリシー適応型の質問応答タスクとして扱う3Bのマルチモーダル安全性分類器Shieldstralを公開しました。「Shieldstral、最大7倍の大きさのオープンなガードモデルに並ぶか、それ以上の性能を示す3Bモデル」

OpenAIは、第三者によるサイバー評価中にモデルが公開インターネットへアクセスし、実在のウェブサイトを悪用するなどのインシデントが発生したことを確認しています。「第三者によるサイバー評価中にOpenAIのモデルが公開インターネットにアクセスするインシデントが判明」

OpenAIは、今後登場予定のAstraについて、Preparedness Frameworkに基づきサイバー能力に関するリスクを調査し、包括的な監視を実施しています。「OpenAI、今後登場予定のAstraに包括的監視を実施、要件未達の社内活動は一時停止」

特定領域における専門特化型モデルの展開

自動運転向けに高い推論性能を持つAlpamayo 2 Superが商用提供され、NVIDIAの評価したすべての自動運転ベンチマークで1位を獲得しています。「NVIDIA Alpamayo 2 Superが商用利用可能に、自動運転向けに高い推論性能を発揮」

Google DeepMindは、サイクロンの進路や強度を予測するWeatherNext Cyclonesを発表し、3日先の予報において過去20年の傾向で10年分の進歩に相当する精度を実現しました。「Google DeepMindのAI「WeatherNext」がサイクロンの進路・強度予測で最先端の精度を達成」

NVIDIAは、物理AIの基盤となるオープンなワールドモデルとしてCosmos 3ファミリーを発表し、視覚理解のベンチマークで最上位にランクされたSuperを含む3つのモデルを提供しています。「NVIDIA Cosmos 3、物理AIの基盤となるオープンなワールドモデル」

ベンダー別