返回文章列表

評估與品質 · 實作指南

從真實工作建立評估集,而不是從示範開始

用有標記的小型測試集,把檢索問題與回答問題分開診斷。

真實工作樣本組成有標記的評估集,分別檢查檢索與答案。
AAhouse 原創 AI 輔助主題插畫

收集有代表性的問題

請員工提供最近難以回答的問題,取得同意後轉成去識別或合成測試。包含例行問題、例外、沒有答案及意思模糊的請求。Bedrock 評估文件介紹預期答案與來源文字,但「正確」的業務定義仍由團隊決定。不要只把章節標題改成問句,因為員工通常不會使用政策作者完全相同的語言,真實用法也更容易暴露檢索缺口。

標記證據與可接受行為

以假設的營運助手為例,每筆測試應包含問題、授權角色、預期來源及可接受行為。有些問題應要求澄清,不應直接產生唯一答案。標記必須出現的關鍵事實,以及不應出現的主張,讓人工審核保持一致。這樣可以防止流暢卻沒依據的內容,只因聽起來熱心便獲通過,也方便不同審核者討論分歧。

流程一覽

輸入整理審核執行
示意流程圖,請按團隊實際情況調整。

保留未用來調整的題目

把一部分題目用於診斷,另一部分保留到方案準備好才測試,避免提示詞只記住可見例子。每次執行都記錄資料庫、解析器、模型與設定版本,分別比較檢索成功、證據支持及總審核投入。單一平均分可能掩蓋少數但後果重要類別的退步。因此報告應按問題類型拆開,並清楚列出未通過的情況,而不只展示總分上升。

從失敗逐步擴充

試點後,把已確認事件與新流程變化加入評估集,避免儲存不必要的個人資料。過時問題可以附理由退役,不要因它難答而偷偷刪掉。評估資料應被視為需要維護的業務資產。它不能保證不會出現罕見錯誤,但能讓未來每次變更,都比隨意跟最新模型聊幾句更有紀律,也更容易向客戶說明接受或拒絕更新的原因。

讓評估直接支持發布決定

發布會議先展示幾個失敗案例,再看總分。請營運負責人判斷剩餘問題在擬定範圍內是否可接受,記錄已接受限制及禁止用途。這讓評估成為決策工具,而不是部署後才附上的裝飾報告。若有人只看到分數提高卻不了解失敗後果,就應暫緩簽核,直到責任與人工後備處理都已說清楚。

來源與延伸閱讀

編輯原則

本系列以 AI 輔助原創撰寫,並對照連結的公開來源。實作建議與假設情境屬編輯分析,並非客戶實績。來源發布日期及產品細節可能與本系列整理日期不同。

想把想法變成可驗證的試行?

聊聊你的工作流程