Metaは10月15日、Muse Spark Openのウェイト(weights)の公開を行いました。Muse Spark Openは、これまでで最も高性能なUS製のオープンウェイトモデル(open-weight model)であるとMetaは主張しています。
Muse Spark Openは10月15日より利用可能です。Muse Spark Openは、Apple M5 Ultra搭載のMac Studio上で、デスクトップ向けに最先端のエージェント的(agentic)機能を初めて提供します。
モデルの仕様と公開の位置づけ
総パラメータ数は816B(8160億)で、そのうちアクティブは42B(420億)であり、コンテキストウィンドウ(context window)は1M(100万)トークンです。
Metaは、オープンウェイトモデルの公開について、パーソナル・スーパーインテリジェンスの恩恵をすべての人に届ける方法の一部であり、分野全体で安全性に関する取り組みが進む方法の一部であるとしています。
Muse Spark Openは、総パラメータ数が816B(アクティブ42B)で、コンテキストウィンドウが1M-tokenのネイティブなマルチモーダルモデルです。このモデルはコーディングとエージェント的な作業向けに作られており、長期的なタスク(long-horizon tasks)、複雑なソフトウェアエンジニアリング、複数ステップの推論(multi-step reasoning)に強いと、Metaは述べています。
Muse Codeによる動作テストと安全性評価
Muse Codeは、Muse Spark Openを搭載したツールです。これを用いて、完全にオンデバイスで動くエージェント型ワークフローの各種テストが行われました。テストでは、オープンソースのMastodonクライアントであるIce Cubesに対する実際のiOS変更(バグ修正、新機能、フルビルド)を行ったほか、DaVinci Resolveをエンドツーエンドで操作しました。
DaVinci Resolveの操作において、Muse Spark Openは映像をフレームごとに確認して最も印象的な場面を見つけ、縦向きにクロップしました。
Metaは、Muse Spark Openを、最も深刻なリスクを対象とするMeta Superintelligence Scaling Frameworkに沿って評価し、このフレームワークが公開に求めるしきい値を満たしたとしています。この評価の詳細な結果はMuse Spark Openのモデルカード(model card)に掲載されていますが、完全な評価レポートは近日公開予定です。
Mac Studio実行と提供先、ライセンス
Muse Spark Openは、最新のMLXフレームワークを使い、Apple M5 Ultra搭載のMac Studio 2台でデスクトップ上で動かせる、同クラスで初めてのモデルです。高度なモデルを自宅を含めどこでも動かせる自由も含め、未来はすべての人のためにあるという考えが背景にあります。Muse Spark Openは10月15日より、Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter、Together AIのAPIプラットフォームで利用可能です。また、Muse Spark Openのホスト型推論パートナー(Hosted Inference Partners)として、Together AI、Fireworks、Baseten、Modal、Groq、Nebius、OpenRouterが挙げられます。
Muse Spark Openのウェイトは、Amazon SageMaker AI、Google Cloud Model Garden、Hugging Face、Microsoft Foundry Modelsでダウンロードできます。これらのウェイトは、限定的な商用条件を持つMuse Model Licenseの下で公開されており、この条件により多くの開発者がモデルを無償で使えます。
Muse Spark Openは、SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、Apple MLX、llama.cpp、Unslothなどの主要な推論エンジンで動作し、AMD、Apple、Intel、NVIDIAのシリコン向けの最適化があります。オープンウェイト版のMuse Sparkは、SGLang向けのカスタムで自動チューニング可能なHelion GPUカーネルを同梱しており、NVIDIAおよびAMDのGPUでカーネルレベルで1.03〜3.95倍の高速化、AMD MI350でエンドツーエンドで3%の高速化をもたらします。Metaは、すべての人が最良のモデルを利用できるようにしたいという考えから、この成果を公開するとしています。
Muse Spark Openは、最新バージョンのMLXを活用し、M5 Ultra搭載のMac Studio上で動くよう最適化されています。Metaは、この組み合わせが強力なモデルを自分のデスクトップで動かす最良の方法であるとしています。Appleのユニファイドメモリ・アーキテクチャにより、M5 Ultra搭載のMac Studioは統合GPUが1台あたり最大512 GBを使えるため、2台でモデル全体を保持できます。チップの1.2 TB/sのメモリ帯域幅は、トークンごとに必要な小さな部分を読み出すのに十分な速さです。その結果、2台のMac Studioは1テラバイトのユニファイドメモリを持つ1台のスーパーコンピュータのように動作します。
カスタマイズ方法と安全性対策
開発者は、PyTorchフレームワークを使って、Muse Spark Openを簡単にさらにカスタマイズできます。Muse Spark Openを自分の用途に合わせてカスタマイズするには、PyTorchのTorchTitanを使ってモデルをさらにチューニングすることも可能です。Apple silicon上で動かすにはMLXを使用し、MLXはウェイトをHugging Faceから直接取得します。Mac Studio上でMuse Spark Openを動かすためのMLX Adapterも用意されています。
オープンウェイトのモデルには固有の考慮事項があるため、Muse Spark Openには追加の安全性ポストトレーニング(safety post-training)が施されています。Muse Spark Openの安全性評価の結果は、測定したリスクカテゴリ全体で強力なセーフガードを示しているとMetaは述べています。なお、Muse Spark Openの主要なベンチマークでの評価の詳細については、evaluation methodology report(評価方法論レポート)を参照するよう案内されています。
Muse Spark Openで何かを作ったり、あるいは公開したりした場合は、Hugging Face Forumsで共有してほしいとされています。