設計一款真正值得信賴的 AI 助手

我們的助手於初版之時，無論辨識結果如何，皆會以愉悅的口吻回覆「完成！」——即便其中半數欄位皆係臆測而來。使用者初期對此頗為滿意，直至一週後，有使用者匯出報表，赫然發現三項凭空捏造之總額，信任遂於一夜之間瓦解殆盡。

我們遂以單一原則重塑其性格：助手必須以顯而易見的方式，對自身之不確定性保持誠實。當某一欄位無法清楚辨識時，助手應主動表明——「此處辨識為港幣二百四十八元五角，惟總額一欄已褪色，請問是否正確？」——而非將臆測之結果靜默歸檔。

此一結果有違直覺：勇於承認不確定，反而令使用者更為信任其所給出之肯定答案。一個偶爾表示「我無法確定」的系統，當其回覆「完成」之時，方為可信；一個從不自我懷疑的系統，則僅會教導使用者對其所言之每一字皆抱持懷疑。

我們亦一併刪除了所有「人格表演」之元素：不再有模擬打字之延遲、不再有「好問題！」之客套、不再有表情符號之連番轟炸。助手之回覆風格，如同一位稱職的同事——簡潔、精準，唯有內容方開口。

我們所關注之指標並非互動率，而是修正率持續下降，同時「點開細項以供覆核」之比率亦同步下降。使用者隨時間推移而減少覆核動作，而數據顯示——他們確實是對的。