AIFlowTime 最新文章列表
最新技巧與應用

· AWS · Bedrock · RAG

RAG 檢索別每次都繞圈

Bedrock 受管理知識庫的 AgenticRetrieveStream 可選只取原文、檢索一次再作答,或多輪檢索。模式由應用決定。銀行例子是虛構的,較高輪數不保證更準,只檢索也不等於帳單為零。

AWS 文章題圖,標題為 Single-shot and agentic retrieval with Amazon Bedrock Managed Knowledge Base,右下有 AWS 標誌。這是題圖,不是架構圖。
圖片來源:AWS

同一支 API 的三種檢索

AWS 在 2026 年 11 月 9 日說明,Amazon Bedrock Managed Knowledge Base 的 AgenticRetrieveStream 除了原本的多輪檢索,也可以做單次 RAG,以及只回傳段落、不生成答案。三件事走同一支 API。選哪一種,是應用自己決定,不是這個參數會自動挑模型或自動挑模式。

AWS 原文圖:同一位銀行營運人員、同一支 AgenticRetrieveStream,依 maxAgentIteration 與 generateResponse 分成只取原文、單次 RAG 與多輪檢索。副標寫明這是 illustrative banking policy assistant。
圖片來源:AWS

圖裡的銀行是示例。正文寫,這是虛構的內部銀行政策助理,用來說明流程,不是客戶部署,也沒有實測結果。圖上「較低延遲與成本」是示意方向,不是省下多少百分比。本文不補一個省錢數字。

三種模式都能查多個 knowledge base。maxAgentIteration 設成 0 或 1,不代表只能查一個庫。多輪模式多出來的是拆問題、看證據夠不夠、再搜一次,不是「只有它能跨庫」。

圖把只檢索寫成零次 LLM 呼叫。那是不呼叫負責生成的基礎模型,不是整份 AWS 帳單為零。知識庫、儲存、檢索,以及請求裡若使用受管理的重排,仍可能計費。要看自己帳戶的用量,不要把「沒有生成模型」讀成免費。

輪數要把最後一次生成算進去

AWS 把一次迭代定義成一次基礎模型呼叫。迴圈最後總是留一次給生成答案。因此 maxAgentIteration 設成 n,在開啟生成時,規劃至多 n 減 1 輪,最後一輪才是作答。每一輪規劃是一次改寫查詢加上一次檢索。

有一件不算進這個數字:正式規劃之前那次搶先檢索。它是檢索,不是迭代,不扣 maxAgentIteration,作用是讓請求更快。範圍現在是 0 至 5。

AWS 原文對照表:maxAgentIteration 為 0 時只檢索、不生成、零次 LLM 呼叫;為 1 時檢索一次再回答一次;為 2 至 5 時至多 n 減 1 輪規劃,然後作答。
圖片來源:AWS

這張表沒有寫出 generateResponse 的非法組合。正文的規則是:

maxAgentIteration generateResponse 官方說明
0 false 保證檢索一次,不生成,不呼叫基礎模型。已在用這支 API 的人,不必為了只取原文改去呼叫 Retrieve
0 true 無效,回 4xx。沒有模型呼叫就無法生成答案
1 true 依原問題檢索一次,再生成一次。沒有規劃、沒有改寫查詢
2 至 5 true 保留原本的多輪行為。n 含最後的生成,所以規劃至多 n 減 1 輪

只取原文時,段落出現在串流的 result 事件,沒有 score 與 location 欄位。檢索行為等同直接呼叫 Retrieve,回應格式不同。

文中的知識庫 ID KB12345678,以及獨資、LLC、非居民股東這類問題,都是虛構政策文件上的示例。助理只做政策查詢與比較,不核准開戶,也不取代銀行的審查。

用自己的題目做對照

AWS 建議先準備一組有標準答案的代表問題,用同一個知識庫比較單次 RAG 與你現在的多輪設定。量回應延遲與請求成本,並檢查答案是否正確、是否有段落支撐。要放進兩種難例:答案散在多份文件的問題,以及文件裡根本沒有答案的問題。較快的回覆有時只是把缺證據藏起來。

用結果選仍能達到品質要求的最低輪數。多輪只留在多搜一次真的有幫助的問題;問題範圍已經清楚,就用單次;任務是對原文,就關掉生成。2 至 5 的既有請求行為不變,可以只改一部分流量。

較高的 maxAgentIteration 不保證更準。官方寫,適當的上限要用代表問題來評估,不要假設數字愈大答案愈好。

想成為 AI 高手?即刻搵 Jacob
看更多最新文章