Files
mac-mini/test-qwen.sh
2026-07-09 23:19:43 +08:00

6 lines
289 B
Bash

#!/bin/zsh
# 測跑 Qwen3-Coder-30B IQ4_XS:單次推論 + 印出速度統計
eval "$(/opt/homebrew/bin/brew shellenv)"
M=~/.cache/llmfit/models/qwen3-coder-30b-iq4xs.gguf
llama-completion -m "$M" -p "寫一個 Python 函式判斷質數,附 doctest" -n 300 -ngl 999 --jinja 2>&1 | tail -25