跳到主要內容
115-3 科目二考古題依梯次與科目瀏覽
18

提高思考預算的代價

某企業讓 AI 代理(AI Agent)處理複雜法律合約分析,為了提升分析品質與邏輯準確度,工程師決定提高模型可使用的思考預算(Thinking Budget)。此項調整通常會帶來下列何種權衡(Trade-off)?

請選擇一個答案

答案 D

核心概念

讓模型想久一點,品質會好,代價是回應變慢、算力變貴。 思考預算(Thinking Budget)是允許模型在回答前多產生推理步驟的 Token 額度。預算越高,模型能考慮的面向越多,複雜合約分析的邏輯準確度會提升。但多想就是多算:推理 Token 增加,延遲(Latency)跟運算成本同步上升,這就是要權衡的地方。

答題技巧

快速判斷技巧:「提高思考預算」的代價固定是「更慢、更貴」。 ・思考預算高 → 品質升、延遲升、成本升 ・幻覺 → 通常變少 ・上下文、創意 → 另外兩個設定,不受影響

易錯陷阱:(A) 以為想越多越容易「想歪」。 關鍵差異:幻覺來自缺乏依據,多推理反而讓模型更有機會自我檢查。