Cohere 發表 Rerank 5：檢索模型首度精選文件內段落，代理人 token 成本降 35%

Cohere 10 月 21 日推出企業檢索模型 Rerank 5，分 Pro 與 Fast 雙版本，新增 Context Focus 段落精選與校準相關分數，在 46 組測試資料集中的 39 組拿下第一。

企業 AI 最燒錢的環節，往往不是模型本身，而是餵給模型的上下文。Cohere 在 10 月 21 日發表新一代企業檢索模型 Rerank 5，一口氣推出 Pro 與 Fast 兩個版本，最大亮點是全新的 Context Focus 功能：它不再只幫你挑出「哪幾份文件最相關」，而是直接圈出文件裡「哪幾個段落值得讀」，讓送進大型語言模型的文字大幅瘦身。

從挑文件，進化到挑段落

傳統重排序（rerank）的工作，是把初步搜尋撈回來的候選文件按相關性重新排好。但 Cohere 指出，文件愈來愈長、AI 代理人一次要查的來源愈來愈多，真正和問題有關的往往只有文件裡的寥寥數句，把整份文件塞進提示詞，既浪費 token、拉高延遲，還可能引入雜訊拖累回答品質。

Context Focus 就是為了解決這個痛點。它以選配方式內建於 Rerank 5（預設關閉），一次 API 呼叫就能同時回傳文件層級的相關分數，以及文件內通過門檻的文字片段與字元位置。開發者可以用門檻值自行拿捏「省多少上下文」與「保留多少證據」之間的平衡，升級時也不必重新建立索引或重新嵌入文件。

刪掉一半上下文，答題品質只掉 2 個百分點

Cohere 公布的內部測試數字相當吸睛：在 30 組問答資料集上，用 Context Focus 砍掉一半檢索文字，回答品質只下滑 2 個百分點（保留 96%）；砍掉四分之三，也只掉 7 個百分點。實際交給搜尋代理人實測時，從關鍵字搜尋起步的基準準確率為 46%，加上 Rerank 5 Pro 提升到 49%，再開啟 Context Focus 後，在預設門檻下 token 用量減少 19%、準確率升至 57%；把門檻調到 0.4，token 減少 34%，準確率進一步來到 58%。整套下來，比純關鍵字搜尋省下 35% token，準確率反而從 46% 進步到 58%。

基準測試方面，Rerank 5 Pro 在 46 組綜合資料集中有 39 組奪冠、43 組擠進前二。在考驗推理型檢索的 BRIGHT 基準上拿下 82.2 分，領先 Voyage AI 的 Rerank 3 達 5.8 分；多語言測試裡，日文項目以 89.4 分領先對手 2.7 分，法文、阿拉伯文也有 2.3 分的差距。

分數終於「說人話」：0.7 分就是七成有用

另一個實務上的改進是「校準相關分數」。過去重排序模型給的分數只能拿來排序，不同模型、不同領域的「好分數」標準各異，工程師每次升級都得重新調門檻。Rerank 5 的分數直接對應機率：0.7 分就代表該文件有七成機率真的有用。Cohere 用盲測人工評分與 NIST 的 TREC 評測集驗證，Rerank 5 的分數與真實有用比例幾乎貼著對角線走，誤差約 0.06，是其他受測模型的四分之一左右。

至於主打速度的 Fast 版本，在單張 NVIDIA A100 上每秒可處理約 187 份標準長度文件，吞吐量是 Pro 的 2.9 倍，回應延遲也快上近三倍，適合對延遲敏感、一個任務要跑很多次搜尋的代理人場景。

價格與上線方式

Rerank 5 即日起全面上線，Pro 版每百萬 token 收費 0.05 美元，Fast 版 0.02 美元，可經由 Cohere API、Model Vault、微軟 Foundry、Amazon SageMaker、私有 VPC 或地端部署取得，North 平台用戶也能直接使用。

要提醒的是，上述基準數字都來自 Cohere 自家公布，採用的 RCP-nDCG@10 評測方法也是 Cohere 自行設計，並非第三方獨立驗證。不過對正在為 AI 代理人龐大檢索帳單頭痛的企業來說，「先精選段落再餵模型」這個思路，確實打中了成本控制的要害。

資料來源

• Cohere 官方部落格：Cohere Rerank 5 | More Relevant Context for RAG and Agents（2026-10-21）
• Superpower Daily：Cohere releases Rerank 5 to select the passages AI systems read（2026-10-21）