74/100
コマンド1つでオープンウェイトモデルをローカル実行できるランタイム。OpenAI互換のローカルAPIサーバーとしても動作する。
ローカル処理ローカル実行API
一部検証・1日前
読み込み中
開発元: Alibaba (Qwen Team)
Alibaba の Qwen シリーズ。小型から MoE の大型まで幅広くサイズが揃っており、ローカル実行でもクラウドでも選択肢になる。
| 重みの公開 | 公開されている |
|---|---|
| ライセンス | Apache-2.0（サイズにより異なる場合あり・要確認） |
| パラメータ規模 | 0.6B / 4B / 8B / 14B / 32B / 30B-A3B (MoE) / 235B-A22B (MoE) |
| 無検閲派生の流通 | 派生モデルが流通している |
| 情報の状態 | 未検証 |
日本語の指示追従は世代ごとに差が大きい。用途に合うかは実際に試して判断したい。
コマンド1つでオープンウェイトモデルをローカル実行できるランタイム。OpenAI互換のローカルAPIサーバーとしても動作する。
GUIでモデルを検索・ダウンロードし、ローカルで実行できるデスクトップアプリ。OpenAI互換のローカルサーバー機能を持つ。
オープンソースのローカルAIデスクトップアプリ。ローカルモデルの実行と、外部APIの接続の両方に対応する。
オープンウェイトモデルを使うチャットサービス。プライバシー保護と、応答の制限が少ないことを訴求している。API も提供している。
Phala Network
TEE（Trusted Execution Environment）上でAIワークロードを実行することを中核に据えたクラウド。推論API・コンテナ実行の両方を提供している。
オープンウェイトモデルの高速推論を主力とするAPI事業者。ファインチューニングや自前モデルのデプロイにも対応する。
オープンウェイトモデルを従量課金で提供する推論API事業者。単価の安さを訴求している。
Together Computer
オープンウェイトモデルの推論APIとファインチューニング、GPUクラスタを提供する事業者。