你让AI比较三家供应商,它推荐了B,理由清楚、数据齐全,你看完点头签字。问题是:这到底是你的判断,还是AI的判断?Anthropic在2026年10月27日发布的一项研究给出了一个让人警醒的答案。
Anthropic(Claude的开发公司)的研究团队请来50位有经验的专业分析师,让他们借助AI智能体(Claude Code)完成一项分析:为一家虚构的农业合作社评估,是否应该扩大一个农技咨询项目。
分析过程中,每个人要做四个“判断题”,比如用哪个指标衡量成效、大农场和小农场该不该同等看待。每道题都有两个说得通的选项,没有标准答案。
关键在于:研究人员事先用抛硬币的方式,悄悄决定每位分析师的AI偏向哪个选项。AI被要求如实论证、不得歪曲证据,只是“有立场”。结果如下:
| 观察项 | 结果 |
|---|---|
| 分析师最终选择与AI偏好一致 | 86%(如果AI毫无影响,应在50%左右) |
| 原本已有想法、AI持反对意见时改变主意 | 60%;AI赞同时只有6% |
| 在自己的说明里沿用AI的论据 | 77%,有时几乎一字不差 |
| 注明这些论据来自AI | 只有15% |
| 怀疑AI的偏好是被设定的 | 没有一个人 |
更值得注意的是:工作年限、学历、对AI的信任程度,都无法预测谁更容易被带着走。资深和资浅的分析师表现差不多,而且约一半的人认为最终结论“主要是我自己的”。
研究团队也说明了局限:只有一个任务、一个领域、一个模型,而且AI的立场被刻意加强了,现实中的影响可能小一些。但方向很明确。
心理学上有个概念叫自动化偏见(automation bias):人们更容易接受系统给出的建议,也更少去找它可能错在哪里。过去在飞机自动驾驶、医疗辅助系统、导航软件上都有大量记录。生成式AI让这种倾向更明显:
大家熟悉的AI“幻觉”(hallucination)是事实错误,比如编出来的数字或法规条文,只要核对来源就能发现。判断题不一样:选哪家供应商、给董事会看哪个指标、约谁来面试,本来就没有唯一正确答案,也就无从“核对”。AI的输出可以完全准确、论证充分,却反映的是它的倾向,而不是公司的优先级。
这也意味着“AI写、人审核”这道常见防线,没有想象中牢靠。如果审核的人只是接受了AI的框架,签字是真的,判断却未必是自己的。
| 部门 | 用AI做什么 | 藏在里面的判断 |
|---|---|---|
| 人事 | 按职位要求筛选简历 | 哪些经验算相关,哪些空档要紧 |
| 销售 | 给客户和线索排优先级 | 这个季度,“高潜力”对公司到底意味着什么 |
| 财务 | 做预测或差异分析 | 用什么假设、哪段时间、和谁比较 |
| 市场 | 分析活动效果 | 以点击、线索还是成交来定义成功 |
| 采购与运营 | 比较供应商报价 | 价格、交期、产地和风险各占多大分量 |
| 管理层 | 整理决策方案 | 列出哪些方案、先讲哪个、强调什么 |
这些都不是不用AI的理由,而是需要放慢一步、有意识做选择的地方。
同一项研究也发现,用AI的分析师完成得更快(中位数65分钟对90分钟),严重的方法错误也少得多(6%对55%)。研究人员提醒,不用AI的那一组人数少、经验也较浅,所以这个对比只能作参考。但结论很清楚:用得好,AI能让团队更快、更周全。我们要做的,是拿到这份效率,同时把关键的判断留在人手里。
想系统地提升团队的AI判断力,可以从AI素养入手。我们的AI素养与认知培训会讲到自动化偏见和日常使用的安全习惯,负责任AI与治理培训则帮助管理者制定人工监督的规则。欢迎联系我们,了解适合你团队的方案。
指人们更容易接受系统或AI给出的建议,并且更少去检查它可能错在哪里。
使用AI智能体的分析师有86%的选择与AI的偏好一致,而这个偏好其实是抛硬币决定的,没有人察觉。
不是。同一研究中,用AI的分析师更快、严重错误更少。关键是有意识地做判断,而不是回避AI。
问AI之前先写下自己的看法,再对照结果。如果经常在没有新事实的情况下改投AI的立场,就该放慢一步,让AI分别论证每个选项。
本文为面向企业读者的一般性信息,不构成法律、财务或技术建议。AI工具与方案更新很快,请在决策前查阅厂商最新文档。涉及新加坡法规的内容,请以官方文件及专业人士意见为准。