GPT的推理強度怎麼選?品質、速度、成本一起算
推理強度是在決定一件工作值得讓模型投入多少推理:規則清楚用low、一般分析用medium、要追查原因才上high,xhigh與max留給額外投入確實有改善的題目;答案不好先分辨是缺資料、缺條件還是缺推理,成本要算到能交付為止。
同樣是請GPT幫忙,「把這封信改得自然一點」和「比較三種系統架構,找出可能造成資料遺失的風險」,需要的推理投入顯然不同。
前者的目標很明確,通常不必反覆分析;後者則需要理解條件、追蹤因果,還得考慮那些不容易被發現的例外。
選擇模型與推理強度(reasoning effort),重點就在這裡:不是每次都用最強的設定,而是讓每件工作得到足夠的處理,同時不要付出不必要的等待與費用。
一個實用的起點是:明確執行用low,一般分析用medium,複雜推理用high;xhigh、max與Pro,留給額外投入確實能改善結果的工作。這也符合OpenAI官方對推理設定的基本建議(API deployment checklist(於新分頁開啟),擷取2026-09-07)。
不過,要把這個原則用好,得先分清楚幾件容易混淆的事。
一、模型是「找誰來做」,推理強度是「讓它投入多少」#
可以把使用GPT想成分派工作。
選模型,是決定找誰來做。不同模型有不同的能力、速度與價格定位。目前OpenAI將GPT-5.6 Luna定位在大量、成本敏感的工作,Terra著重能力與成本的平衡,Sol處理複雜專業工作,GPT-6 Astra則面向更困難、需要從頭做到尾的任務(Models(於新分頁開啟),擷取2026-09-07)。
選推理強度,是調整這個模型處理任務時的推理投入。它不是固定的思考秒數,也不應被當成固定的token套餐;比較適合把它理解為:這次工作願意投入多少資源來分析、規畫與檢查(Reasoning models(於新分頁開啟),擷取2026-09-07)。
另外還有一個獨立的控制:回答長度。
API的text.verbosity用來調整輸出的詳略程度,和reasoning.effort是不同設定。因此,完全可以要求模型深入分析,最後只交付一段簡短結論。
例如:
請比較這三個方案的維護成本、失敗風險與實作難度,最後只給我一個建議,以及最重要的三個理由。
這可能需要較高推理強度,但不需要一篇長文。反過來,一篇很長的產品介紹,也可能只是依照既定資料展開敘述,沒有太多困難的判斷。
所以,不要用答案的字數判斷模型想得多不多,也不要用答案的氣勢判斷它對不對。
二、先看工作需要什麼,再決定推理強度#
與其記住每個模型的所有規格,不如先判斷:這次主要是在「執行」,還是在「做判斷」?
規格清楚、答案容易檢查,先用low#
像是擷取文件中的日期、替客服訊息分類、改寫一封信、把資料轉成指定格式,這些工作通常有明確規則。
我的建議是先從low開始,必要時再調整。部分模型也提供none,適合測試不啟用額外推理的處理方式;但不是每個模型都有這個選項,例如GPT-6 Astra就不支援none(Models(於新分頁開啟),擷取2026-09-07)。
這類工作的關鍵,往往不是「再多想一點」,而是把規則講清楚。
「幫我整理這份資料」和「只擷取日期、負責人、交付項目;沒有寫到的欄位填未提供」,是兩個清楚程度完全不同的要求。
需要理解、整理與一般取捨,從medium開始#
當工作不只是照規則搬運資訊,而是要判斷哪些內容重要、如何組織、不同方案各有什麼代價,medium是合理的起點。
例如整理企劃架構、解釋一個不熟悉的概念、比較幾個方案,或依明確需求撰寫一般程式功能。
這裡的medium不是勉強堪用,而是一種工作策略:先取得有品質的第一版,再根據實際缺口決定要不要增加投入。
條件彼此牽動、錯誤不容易發現,值得用high#
高推理強度更值得用在需要追蹤多步關係的工作。
例如系統偶爾才出現的錯誤、多份文件之間的矛盾、資料遷移的失敗情境,或必須同時兼顧成本、風險與長期影響的決策。
OpenAI的模型使用文件,也把較高推理設定放在多步驟、多來源與複雜取捨的工作上,並提醒不同模型版本之間的推理強度不能直接視為等價(Codex models(於新分頁開啟),擷取2026-09-07)。
以下是一份可以直接使用的起始對照:
這份表格的用途,是幫你找到值得嘗試的第一個組合,不是替每種工作蓋章定案。
三、真正決定難度的,不是字數,而是關係有多複雜#
「整理二十頁文件中的所有日期」看起來工作量很大,但只要格式一致、要求明確,主要問題可能是有沒有漏抓。
「這兩個操作同時發生,會不會造成重複扣款?」只有一句話,卻可能需要理解整個流程、重試機制、資料更新順序,以及失敗後怎麼恢復。
前者比較像資料處理,後者才是複雜推理。
因此,我會用三個角度判斷要不要提高推理強度。
第一,條件會不會互相影響?如果調整A,會連帶改變B、C的結果,就值得增加推理投入。若每一筆資料都可以獨立處理,則未必需要。
第二,錯誤容不容易看出來?信件語氣不自然,你通常一讀就能發現;架構設計少考慮一個失敗情境,可能要等系統上線後才知道。越難察覺的錯誤,越值得安排深入分析與驗證。
第三,失敗後的代價有多大?發想十個標題,其中幾個不好,刪掉就好;重要流程設計出錯,可能需要大量重做。兩者不應使用相同的驗收標準。
但要注意:重要性提高的是驗證要求,不一定代表所有步驟都要開最高推理強度。
例如一份重要報價單,金額加總應該交給可靠的計算方式,不能只靠模型「想久一點」。真正需要高推理強度的,可能是分析報價條件是否互相衝突,而不是做加法本身。
四、答案不好,先找原因,不要只會把推理強度調高#
品質至少包含三件事:內容正不正確、要求有沒有完成,以及表達是否適合使用情境。這三種問題,需要不同的處理方式。
缺資料,就先補資料#
如果模型不知道公司內部規定、沒有讀到原始文件,或需要最新資訊,增加推理強度並不等於取得那些資料。
官方的模型最佳化指南,把提供相關背景、補充最新資訊,以及清楚描述目標,都列為改善結果的重要方法(Model optimization(於新分頁開啟),擷取2026-09-07)。
實務上,我會先問:
它是分析錯了,還是根本沒有拿到分析所需的資訊?
如果是後者,先提供來源,比要求「再深入一點」更有意義。
推理有缺口,再提高推理強度#
如果資料已經足夠,但模型漏掉限制、沒有比較替代方案,或結論與前面的分析接不起來,提高推理強度才比較對症。
不過,最好同時指出要補什麼,而不是只說「仔細想」。例如:
請重新比較三個方案,特別檢查維護成本、最壞情境,以及哪些假設一旦不成立,就會改變你的建議。
這樣才能檢查:增加的推理是否真的補上缺口。
語氣不自然,就修改寫作要求#
一封信太像公文,不一定是模型想得不夠久;也可能是你沒有說清楚,希望它像誰對誰說話。
OpenAI對Astra的使用建議,也特別指出可以透過提示明確指定寫作風格與結構(Model guidance(於新分頁開啟),擷取2026-09-07)。例如:
保留原意,改成同事之間會使用的自然語氣。刪除客套套話,不增加新的承諾。下面兩段是我希望接近的寫法。
對這種問題,我會先調整要求與範例,而不是直接從medium升到max。
同樣地,便宜模型開high,也不能直接視為等同於強模型開low。模型能力與推理投入是兩個不同變數。要知道哪個組合適合你的工作,應該用相同任務比較,而不是只看設定名稱。
五、效率要看「多久完成」,不是「多久開始回答」#
比較設定時,很容易只注意第一個答案出現得快不快。但工作真正花掉的時間,還包括閱讀、檢查、追問、修改,以及重做。
假設有兩種流程:
低推理強度:15 秒產出 + 8 分鐘修正 = 8 分 15 秒
高推理強度:90 秒產出 + 1 分鐘修正 = 2 分 30 秒這是假設情境,不是模型速度實測。它要說明的是:第一個回答比較慢,不代表整件工作比較慢。
反過來,如果兩個設定都能直接交付使用,那麼更快、更便宜的組合就比較有吸引力。額外等待必須換來實質改善,才有意義。
因此,我建議把總成本理解為:
模型與工具費用,加上人工檢查、修改與必要等待的時間成本,再加上錯誤造成的預期損失。
其中,「必須停下工作盯著畫面等」和「模型處理時,你能做其他事情」,也不應視為相同成本。
在Codex裡,拿額度換速度的開關是Fast;它會多花多少、什麼時候值得開,另一篇有完整換算:Codex Fast模式會多花多少用量?什麼時候值得開。
對大量、標準化的工作,單次費用與處理速度很重要;對少量但價值高的工作,一次完成率與人工修正時間,可能更值得優先考慮。
OpenAI的模型選擇原則也是:先確立品質目標,達標之後,再找能維持品質、同時更便宜或更快的組合(Model selection(於新分頁開啟),擷取2026-09-07)。
六、ChatGPT與API,成本要分開算#
使用ChatGPT,主要看方案、額度與時間#
ChatGPT訂閱和API是分開的計費系統,不能把ChatGPT的訂閱費當成API額度,也不能直接拿API單價推算每則聊天會額外收多少錢(Managing billing for ChatGPT and the API platform(於新分頁開啟),擷取2026-09-07)。
ChatGPT的模型與推理選項,會受到方案及工作區設定影響。目前符合資格的付費方案中,Sol提供Instant、Medium、High、Extra High等選項;Astra則以GPT-6 Pro的名稱在符合資格的方案中逐步開放。Pro模型也有使用額度,不是訂閱Pro就代表所有Pro模型都能無限使用(GPT-5.6 and GPT-6 Pro in ChatGPT(於新分頁開啟),擷取2026-09-07)。
所以,對一般聊天使用者而言,更值得問的是:
這次多等一點,能不能少修幾次?這個任務值不值得使用較有限的模型額度?
即使一則訊息沒有另外增加帳單,等待、反覆追問,以及閱讀不必要內容,仍然是成本。方案與額度怎麼配,另一篇單獨寫了:ChatGPT怎麼選?模型、額度、成本一起算清楚。
使用API,要把看不見的推理用量算進去#
API的費用不是只看最後顯示出來的答案。模型使用的reasoning tokens,即使沒有直接顯示給你,仍會依輸出token費率計費(Reasoning models(於新分頁開啟),擷取2026-09-07)。
目前主要模型的文字價格如下。單位是美元/每100萬tokens,列的是標準處理、短上下文的一般輸入與輸出價格,未列快取、工具及其他處理模式的費用(Pricing(於新分頁開啟),擷取2026-09-07)。
以Sol為例,假設一次請求有10,000個輸入tokens,最後答案有2,000個tokens,不使用快取、工具或其他加價選項:
另外用 1,000 個推理 tokens:
輸入 US$0.04 + 輸出 US$0.06 = US$0.10
另外用 10,000 個推理 tokens:
輸入 US$0.04 + 輸出(12,000 tokens)US$0.24 = US$0.28這是依官方價格計算的示例,不是說low固定用1,000 tokens,high固定用10,000 tokens。另外,Sol目前列的是優惠價格;輸入超過272K tokens的長上下文請求,也有不同費率(GPT-5.6 Sol(於新分頁開啟),擷取2026-09-07)。
這就是為什麼兩個答案看起來一樣長,費用卻可能差很多。
另一方面,較強模型的單價較高,也不代表完成任務一定比較貴。OpenAI表示,Astra在部分評測中使用較少輸出tokens,使估計的單次任務成本低於先前模型。但這是特定評測結果,不能直接推廣成所有工作都更便宜。
真正應該比較的,仍然是完成同一件合格工作的總費用。
七、xhigh、max和Pro,應該留給哪些工作?#
我會把xhigh、max當成需要證明價值的升級,而不是日常工作的預設。
例如,一個複雜錯誤在high下仍無法找出合理原因,或者一份重要分析已經有完整資料,卻仍需要更深入的反例檢查,就值得比較更高設定。但如果high已經符合要求,升級後只是多出幾段解釋,未必值得增加等待。
有一則使用分享說Astra開xhigh反而更省額度;這個說法要怎麼驗、該比的又是什麼,另一篇單獨寫了:Astra開xhigh反而更省?要比的是做完一件事的總成本。
Pro則需要另外理解。
在支援這種設定的API模型中,reasoning.mode和reasoning.effort是分開的:前者選擇standard或pro的執行方式,後者控制該模式內的推理投入。Pro會投入更多模型工作,增加token用量與延遲,因此不能把它簡單看成「max的下一級」(Reasoning models(於新分頁開啟),擷取2026-09-07)。
也就是說,下面三件事不是同一件事:
ChatGPT Pro是訂閱方案;ChatGPT選單中的Pro是模型選項;API的pro則是執行模式。
選擇時,要先確認自己正在調整哪一層。
至於重要工作,我建議使用「足夠的推理,加上可以檢查的驗證」。程式要看測試和實際行為,文件分析要能回到原文,數字要能重新計算。
模型說「我已再次確認」,可以是一個說明,但不應被當成獨立證據。
八、最實用的做法:按工作階段調整,不必從頭到尾開滿#
一份工作的不同階段,未必需要相同推理強度。
以撰寫提案為例,我會先用medium整理問題與架構。進入方案取捨時,若條件複雜,再用high檢查風險與反對理由。等內容確定,只剩縮短段落、統一語氣或轉成簡報重點,就回到low。
寫程式也是類似的安排:需求理解與架構取捨可能需要較高投入,明確的小修改不必沿用最高設定。
但這不代表每次都要從最低檔開始試錯。已知是難題,就直接從合理的高設定開始;已經確認只是文字整理,也不必因為前一個步驟很難,就繼續維持高檔。
如果某類工作會反覆執行,最值得做的是建立自己的比較方式。
先定義什麼叫完成得好,例如不能漏掉指定欄位、必須保留原意、測試必須通過,或每個重要結論都必須有來源。再拿一批包含常見情況與例外情況的真實任務,讓不同組合處理。
比較時,記錄的不只是「哪個答案看起來比較厲害」,而是驗收通過率、嚴重錯誤、人工修改時間、總費用與等待時間。這樣才能找到適合自己流程的組合,而不是被某一次特別好或特別差的回答左右。這也符合官方以明確目標與代表性資料評估模型的做法。
該省的是浪費,不是必要的判斷#
選推理強度,不需要追求一個永遠正確的固定答案。
規則明確、容易檢查的工作,可以優先追求快速與低成本;需要處理複雜關係、錯誤不容易被發現的工作,則值得投入更多推理與驗證。
答案不理想時,也別只剩下「調高推理強度」這個選項。缺資料就補資料,要求不清楚就重新定義,語氣不對就提供範例,推理有缺口才增加投入。
最好的設定,是在你要求的品質下,讓整件工作以合理的時間與總成本完成。不是每次都讓GPT想最久,而是知道哪些地方,真的值得讓它多想一點。