设计一款真正值得信赖的 AI 助手

我们的助手于初版之时，无论辨识结果如何，皆会以愉悦的口吻回复「完成！」——即便其中半数字段皆系臆测而来。使用者初期对此颇为满意，直至一周后，有使用者汇出报表，赫然发现三项凭空捏造之总额，信任遂于一夜之间瓦解殆尽。

我们遂以单一原则重塑其性格：助手必须以显而易见的方式，对自身之不确定性保持诚实。当某一字段无法清楚辨识时，助手应主动表明——「此处辨识为港币二百四十八元五角，惟总额一栏已褪色，请问是否正确？」——而非将臆测之结果静默归档。

此一结果有违直觉：勇于承认不确定，反而令使用者更为信任其所给出之肯定答案。一个偶尔表示「我无法确定」的系统，当其回复「完成」之时，方为可信；一个从不自我怀疑的系统，则仅会教导使用者对其所言之每一字皆抱持怀疑。

我们亦一并删除了所有「人格表演」之元素：不再有模拟打字之延迟、不再有「好问题！」之客套、不再有表情符号之连番轰炸。助手之回复风格，如同一位称职的同事——简洁、精准，唯有内容方开口。

我们所关注之指标并非互动率，而是修正率持续下降，同时「点开细项以供复核」之比率亦同步下降。使用者随时间推移而减少复核动作，而数据显示——他们确实是对的。