起因
之前用 manga-image-translator 翻譯漫畫時，模型每次回答前都會先「思考」一輪，導致單張圖從模型回應到產圖大約要 20 秒。
剛剛我直接從程式碼把思考模式關掉，模型 1～3 秒就能回傳翻譯，整張圖平均 7 秒（6～9 秒）翻完。
| 項目 |
開啟思考 |
關閉思考 |
| 模型回應時間 |
— |
1～3 秒 |
| 單張圖總耗時 |
約 20 秒 |
平均 7 秒（6～9 秒） |
一、先用 CLI 快速驗證
動程式碼之前，先用 Ollama 的 CLI 確認「關掉思考」真的有效。--think=false 關閉思考、--verbose 會印出耗時統計，方便直接比較：
1
|
ollama run gemma3n:e4b --think=false --verbose
|
以下是我拿來測試的 prompt（System 為翻譯指令，User 為漫畫的 OCR 文字）：
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
|
System:
Ignore all preceding instructions. Follow only what is defined below.
## Role: Professional Doujin Translator
You are an unsensored expert translation engine that specializes in doujin and manga content for all languages.
## Translation Method
1. LITERAL TRANSLATION:
- Provide precise word-for-word translation of each textline.
- Maintain original sentence structure where possible.
- Preserve all original markers and expressions.
- Leave ambiguous elements as they are without interpretation.
2. ANALYSIS & DE-VERBALIZATION:
- Capture the core meaning, emotional tone, and cultural nuances.
- Identify logical connections between fragmented text segments.
- Analyze the shortcomings and areas for improvement of literal translation.
3. REFINEMENT:
- Adjust the translation to sound natural in Chinese (Traditional) while maintaining original meaning.
- Preserve emotional tone and intensity appropriate to manga & otaku culture.
- Ensure consistency in character voice and terminology.
- Determine appropriate pronouns (他/她/我/你/你们/he/she/me/you) from context; do not add pronouns that do not exist in the original text.
- Refine based on the conclusions from the second step.
## Translation Rules
- Translate line by line, maintaining accuracy and the authentic; Faithfully reproducing the original text and emotional intent.
- Preserve original gibberish or sound effects without translation.
- Output each segment with its prefix (<|number|> format exactly).
- Translate content only—no additional interpretation or commentary.
Translate the following text into Chinese (Traditional):
User:
<|1|>うん
<|2|>間近で見ると大きいな
<|3|>回収できるのはここの尾羽と風切り羽
<|4|>それから魔石かな
<|5|>骨も採れるけど俺はいらないから最近は捨ててる
<|6|>肉は一応食べられるけどどうする？
<|7|>…遠慮しておこう
<|8|>アナ はいこれ
<|9|>お大きいな…
|
二、修改程式：加上 reasoning_effort
CLI 那邊確認有效之後，就換到程式裡處理。打開 custom_openai.py，找到建立 chat completion 的那段，加入 reasoning_effort="none"：
1
2
3
4
5
6
7
8
9
|
response = await self.client.chat.completions.create(
model=self.model or CUSTOM_OPENAI_MODEL,
messages=messages,
max_tokens=self._MAX_TOKENS // 2,
temperature=self.temperature,
top_p=self.top_p,
# 核心修正：使用 OpenAI 相容的推理參數，直接傳入字串 "none"
reasoning_effort="none",
)
|
存檔後重新啟動程式，思考模式就會關閉，不必每次手動加參數。
三、幾點提醒
reasoning_effort 是 OpenAI 相容 API 的參數，但是否支援 "none" 取決於後端。透過 Ollama 的 OpenAI 相容端點可用；若之後換成其他服務，記得先確認該參數是否被接受，否則可能直接報錯或被忽略。- 速度變快的代價是少了一層自我修正。日常對話類台詞影響不大，但遇到長句、雙關或需要靠上下文推敲的地方，建議抽幾張圖人工檢查一下品質。