Local-first keeps sensitive prompts and provider keys on your machine while preserving a fast, dependable workflow.
LLM API 用戶端與模型評測 · macOS
在你的 Mac 測試 LLM API，並比較不同模型。
在同一個本機優先工作區編寫真實的對話請求、跨模型執行並為結果評分。不需帳號或託管代理伺服器，你的金鑰只留在 Mac。
免費、開放原始碼，並經過 Apple 簽署與公證。想要自動更新？ 在 Mac App Store 以 US$0.99 購買。
macOS 12 Monterey 或更新版本Apple 晶片與 Intel不需建立帳號
AssistantGPT-5.4 mini
Test LLM APIs. Compare models. Ship with evidence.
OpenAIAnthropicGoogle GeminiOpenRouterOpenAI 相容端點Anthropic 相容端點
內建模型評測
不用再把不同模型的輸出分散在多個分頁。
從實際請求開始，加入想測試的模型並一起執行。Roshi 會固定提示與參數，並對齊輸出、延遲、Token 與成本，讓你以證據選擇模型。
- 01並行執行模型每個回應抵達時即時串流顯示。
- 02並排比較一起檢視輸出、延遲與 Token 用量。
- 03評估重要指標手動評分，或使用自訂準則與評審模型。
- 04保留評測證據將執行結果存入資料夾，並匯出 JSON 或 CSV。
User
Explain why local-first matters in one useful sentence.
Local-first gives you ownership of your data and tools, so privacy never depends on someone else’s server.
Local-first software keeps your work private, available offline, and under your control.
Judge rubricAccuracyClaritySpecificityWinner: Claude Sonnet · 9.4
專注的一站式工作區
從「這個 API 能用嗎？」到「該上線哪個模型？」所需的一切。
01
並行比較多個模型
將同一份固定提示同時送到多個供應商，並排檢視每個回應與效能指標。
02
使用 LLM 評審評分
選擇評審模型並撰寫評分準則，把「哪個答案比較好」變成可重複的分數。
03
連接各種供應商
支援 OpenAI、Anthropic、Gemini、OpenRouter，以及相容上述通訊協定的自訂端點。
04
完整檢視回應
一次查看串流文字、原始回應、標頭、延遲、Token 用量，以及可直接使用的程式碼。
05
像 API 工具一樣整理
使用集合、環境、歷史記錄與已儲存的評測，延續熟悉的 API 開發流程。
06
資料留在本機
不需要 Roshi 帳號，也沒有代送請求的伺服器。金鑰、設定、請求與結果都留在你的 Mac。
使用流程
從 API 金鑰到可安心上線的模型。
加入供應商
將 API 金鑰貼到內建範本，或設定自己的端點、標頭與模型清單。
編寫與除錯
編輯訊息、圖片、參數與標頭，同時觀察串流回應、原始內容與耗時。
比較模型
將同一個請求送到多個模型，比較輸出與指標，再手動評分或執行 LLM 評審。
儲存並交付
儲存評測、匯出 JSON 或 CSV，並從驗證完成的請求產生可用的程式碼。
安全性
你的金鑰永遠不會離開電腦。
Roshi 完全在用戶端執行。沒有帳號、沒有託管代理，供應商流量也不會經過我們的服務。請求會從你的 Mac 直接送到供應商，金鑰則保存在本機資料庫。詳細資訊請參閱 安全性設計文件（英文）。
你可以自行驗證
- 公證透過 CI 交由 Apple 公證
- 沙盒App Store 版本在沙盒中執行
- 更新App Store 自動 · GitHub 手動
- 金鑰儲存只保存在你的 Mac
- 遙測應用程式內完全沒有
- 授權MIT，v2.1.0
下載
無論哪種版本，功能都完整開放。
兩個版本來自相同的 MIT 授權原始碼，唯一差別是更新方式。
直接下載
免費
直接從 GitHub Releases 下載已簽署及公證的 .dmg。
- 所有功能，沒有用量限制
- 支援 Apple 晶片與 Intel
- 在 App Sandbox 之外執行
- 手動更新 — 自行下載新版本
- 也可以從原始碼建置
Mac App Store
US$0.99單次購買
相同的應用程式，由 Apple 安裝並保持最新。
- 包含直接下載版的所有功能
- 透過 App Store 自動更新
- 在 Apple App Sandbox 中執行
- 可安裝在 Apple 帳號綁定的每台 Mac
- 支援 Roshi 持續開發
常見問題
你可能想知道的事。
Roshi 是什麼？
Roshi 是為呼叫 LLM API 的開發者打造的本機優先 macOS 應用程式。你可以編寫多輪對話請求、串流回應、檢視標頭與 Token，並以相同提示比較及評分多個模型。
Roshi 會透過後端伺服器轉送請求嗎？
不會。Roshi 完全在用戶端執行，你的 Mac 會直接連線到模型供應商，金鑰也只儲存在本機。
支援哪些模型供應商？
內建支援 OpenAI、Anthropic、Google Gemini 與 OpenRouter，也能加入任何相容 OpenAI、Anthropic 或 Gemini 通訊協定的端點。
模型評測如何運作？
從已確認可用的請求開始，選擇多個供應商與模型並行執行。你可以並排比較輸出及效能指標、手動評分，或讓另一個模型依照自訂準則擔任評審。
API 金鑰與評測結果存在哪裡？
供應商設定、API 金鑰、請求歷史、草稿、集合、環境與評測結果都儲存在你的 Mac。Roshi 沒有帳號系統或託管後端。
免費下載版和 Mac App Store 版有何不同？
兩者都來自相同的 MIT 授權原始碼，功能完全相同。免費 GitHub 版需手動更新；Mac App Store 版售價 US$0.99，可自動更新並支援後續開發。
系統需求是什麼？
Roshi 支援 macOS 12 Monterey 或更新版本，Apple 晶片與 Intel Mac 都能使用。
Roshi 是開放原始碼嗎？
是。Roshi 採用 MIT 授權，你可以自由使用、修改與散布。