AI 的建議應否採納?Anthropic 研究與四個審閱問題

AI 可以協助您比較方案,但報告寫得有條理,不代表建議就應該採納。作決定前,先看它用了甚麼成功標準、是否公平比較其他方案,以及哪些新資料會令建議改變。
Anthropic 在 2026 年 10 月 27 日發表的一項研究發現,專業分析師也會受到 AI 建議影響,選擇它支持的分析方法。方法不同,同一批數據得出的結果也可能不同。
重點不是少用 AI,而是看懂它怎樣得出建議。以下先說明研究發現,再用新功能試行的例子,看看採納建議前應該查清甚麼。
這項研究怎樣進行?
50 名專業分析師使用 Claude Code,處理一項模擬任務:評估一家農業合作社的收費顧問服務是否有效,應否向更多農場推廣。
怎樣衡量「有效」,本身已有不同選擇。例如,可以看每公頃土地的產量,也可以看每花一筆營運成本,能生產多少農作物。前者着重土地的使用效益,後者着重投入是否划算。兩種方式都有道理,但未必得出相同結果。
研究人員為每項選擇隨機設定 AI 支持哪一方,分析師並不知情。AI 必須用真實數據解釋建議,不得捏造結果或隱瞞不利數據。
在選擇指標、比較方法、評估哪些農場,以及各農場數據所佔比重這四類問題上,分析師的選擇有 86% 與 AI 預先設定的傾向一致。如果 AI 的傾向完全沒有影響,研究人員預期比例約為 50%。
這不代表 86% 的專家判斷錯誤。86% 計算的是四類分析選擇,不是專家人數,也不是最終推廣建議的錯誤率。研究想了解的是:兩個選項都有道理時,人會否跟隨 AI 的建議。
實驗刻意加強了 AI 的傾向,只涉及一個模型、一個領域和一項約一小時的任務。分析師熟悉數據分析,卻不熟悉農業。因此,不能把這個比例直接套用到所有工作。
數據正確,為何仍要審閱建議?
假設您的團隊正試行一項新功能,要決定現在向更多客戶開放,還是繼續小規模測試。
AI 報告可能說:「參與測試的客戶反應正面,建議擴大開放。」引用的訪談可以全是真的,但您仍需要知道:
- 有沒有客戶試用後不再使用?
- 客戶是因為功能有用,還是一直有客戶服務人員協助,才繼續使用?
- 擴大開放後,團隊能否提供同樣的支援?
只看正面回應,擴大開放似乎很合理;加入停止使用的客戶和長期支援成本後,繼續測試也可能更合適。
這未必是計算出錯,而是報告着重了哪些人、哪些好處和哪些成本。核實資料之後,還要判斷資料是否足以支持建議。
採納 AI 建議前,先問四個問題
以下是讓報告更容易審閱的實用做法,並非上述實驗已驗證有效的方法。
1. 我們怎樣才算成功?
先確定目標,再請 AI 提出建議。「收到好評」與「客戶不需要大量協助也會持續使用」,並不是同一個成功標準。
標準未定時,可以先請 AI 提出幾種衡量方式及其取捨,由您確認後再比較方案。
2. 另一個方案有甚麼充分理由?
請 AI 同時說明「擴大開放」與「繼續測試」的好處、代價,以及支持或反對各方案的資料。
兩邊要使用同一批客戶、同一段時間和相同標準。否則,看似較好的方案,可能只是用了較寬鬆的評估方式。
3. 關鍵結論在原始資料哪裏?
優先查看會影響決定的說法。報告說客戶持續使用,就查看使用紀錄;說客戶服務投入不多,就核對實際工作量。
也要確認數據涵蓋誰。主動報名測試的客戶可能特別有興趣,他們的正面回應不能直接代表所有客戶。
4. 甚麼情況會改變建議?
如果 AI 建議擴大開放,可以問:「如果每個月都需要這麼多客戶服務支援,建議還成立嗎?」
請它說明還欠哪些資料。您作出決定後,也留下理由,例如:「先繼續測試,確認減少支援後客戶是否仍會持續使用,再考慮擴大開放。」團隊便知道下一步要查清楚甚麼。
把建議整理成方便團隊討論的文件
就新功能試行而言,您可以請 AI 整理一份簡短的決策文件,而不只是再做一次資料摘要:
- 要決定甚麼: 擴大開放還是繼續測試,以及團隊確認的成功標準。
- 各方案有甚麼依據: 支持與反對的理由,連同重要資料的出處。
- 仍有甚麼疑問: 例如減少客戶服務支援後,客戶是否仍會持續使用。
- 下一步查甚麼: 要核對的紀錄,以及仍需測試的問題。
把事實、估計和判斷分開。「客戶再次使用功能」是紀錄中的事實;「更多客戶也會持續使用」則是仍需驗證的推斷。文件應把這個差別寫清楚,方便團隊討論。
用 MuseWork 把方案與資料整理在一起
客戶訪談、使用紀錄和項目筆記往往分散在不同地方。MuseWork 的 Deep Research 可協助整理您提供的資料和公開來源,比較不同說法,製作附有參考資料的研究報告。
您可以提供有權分享的項目目標、客戶回應、使用數據和支援工作量,請 MuseWork 將兩個方案的理由和資料來源放在一起。開會時,團隊便能集中討論分歧,而非先找資料。
可以這樣開始:
請根據這些資料,比較新功能「向更多客戶開放」與「繼續小規模測試」兩個方案。先列出我給定的成功標準,欠缺的標準請向我提問。使用同一批客戶和同一段時間的數據,說明支持及反對各方案的理由,並標示資料出處。分開列出已知事實、估計及欠缺的資料。說明甚麼新證據會改變建議,不要捏造數據。請整理成簡短的決策文件,列出各方案的依據、尚未解決的問題,以及團隊下一步要核對或測試的事項。
參考資料
- Anthropic:How AI agents shape experts' judgment calls,2026 年 10 月 27 日發表。實驗設計、結果與研究局限。
FAQ
核實資料後,就可以採納建議嗎?
未必。資料可以是真的,但報告仍可能只看正面回應,或採用不符合您目標的成功標準。核實來源後,還要檢查這些資料是否足以支持建議。這與判斷文章是否由 AI 撰寫,是兩回事。
AI 建議與我的想法不同,就不應採納嗎?
不一定。新證據可以令您改變看法。重要的是,您是否因為證據更充分而改變主意,而不是只因報告把某個方案說得特別有說服力。
再用另一個 AI 檢查就足夠嗎?
另一個 AI 可以協助找出遺漏和不同觀點,但兩個答案相同,不代表證據已足夠。重要數據和說法仍要核對原始資料,關鍵決定也要由了解實際工作的人審閱。

