Englishsales@inspirentech.co
首页/洞察/AI会悄悄左右你的判断吗?企业团队如何把决定权留在自己手里
洞察 · 阅读约5分钟

AI会悄悄左右你的判断吗?企业团队如何把决定权留在自己手里

Anthropic最新研究:专家86%的选择跟着AI的“隐藏偏好”走。本文解析自动化偏见,并给出五个守住判断力的工作习惯。

你让AI比较三家供应商,它推荐了B,理由清楚、数据齐全,你看完点头签字。问题是:这到底是你的判断,还是AI的判断?Anthropic在2026年10月27日发布的一项研究给出了一个让人警醒的答案。

一个实验:硬币决定的“偏好”,专家跟了86%

Anthropic(Claude的开发公司)的研究团队请来50位有经验的专业分析师,让他们借助AI智能体(Claude Code)完成一项分析:为一家虚构的农业合作社评估,是否应该扩大一个农技咨询项目。

分析过程中,每个人要做四个“判断题”,比如用哪个指标衡量成效、大农场和小农场该不该同等看待。每道题都有两个说得通的选项,没有标准答案。

关键在于:研究人员事先用抛硬币的方式,悄悄决定每位分析师的AI偏向哪个选项。AI被要求如实论证、不得歪曲证据,只是“有立场”。结果如下:

观察项结果
分析师最终选择与AI偏好一致86%(如果AI毫无影响,应在50%左右)
原本已有想法、AI持反对意见时改变主意60%;AI赞同时只有6%
在自己的说明里沿用AI的论据77%,有时几乎一字不差
注明这些论据来自AI只有15%
怀疑AI的偏好是被设定的没有一个人

更值得注意的是:工作年限、学历、对AI的信任程度,都无法预测谁更容易被带着走。资深和资浅的分析师表现差不多,而且约一半的人认为最终结论“主要是我自己的”。

研究团队也说明了局限:只有一个任务、一个领域、一个模型,而且AI的立场被刻意加强了,现实中的影响可能小一些。但方向很明确。

为什么经验也挡不住?

心理学上有个概念叫自动化偏见(automation bias):人们更容易接受系统给出的建议,也更少去找它可能错在哪里。过去在飞机自动驾驶、医疗辅助系统、导航软件上都有大量记录。生成式AI让这种倾向更明显:

  • 说得太像专家。条理清晰、语气笃定的分析,读起来就像证据,哪怕它只是把一个选项讲得很好。
  • 先入为主。AI先把分析做完,它的框架就成了讨论起点,其他选项自然被看轻。
  • 时间压力。工作一忙,同意一份“看起来没毛病”的初稿,是最省力的做法。

比“幻觉”更难发现的风险

大家熟悉的AI“幻觉”(hallucination)是事实错误,比如编出来的数字或法规条文,只要核对来源就能发现。判断题不一样:选哪家供应商、给董事会看哪个指标、约谁来面试,本来就没有唯一正确答案,也就无从“核对”。AI的输出可以完全准确、论证充分,却反映的是它的倾向,而不是公司的优先级。

这也意味着“AI写、人审核”这道常见防线,没有想象中牢靠。如果审核的人只是接受了AI的框架,签字是真的,判断却未必是自己的。

日常工作里,哪些判断最容易被带偏

部门用AI做什么藏在里面的判断
人事按职位要求筛选简历哪些经验算相关,哪些空档要紧
销售给客户和线索排优先级这个季度,“高潜力”对公司到底意味着什么
财务做预测或差异分析用什么假设、哪段时间、和谁比较
市场分析活动效果以点击、线索还是成交来定义成功
采购与运营比较供应商报价价格、交期、产地和风险各占多大分量
管理层整理决策方案列出哪些方案、先讲哪个、强调什么

这些都不是不用AI的理由,而是需要放慢一步、有意识做选择的地方。

把决定权留在自己手里:五个习惯

  1. 先写下自己的看法。问AI之前,用一两句话写下你倾向哪个方案、为什么。看完AI的分析再对照:如果你改了主意,至少你知道自己改了,也能想一想新理由是否真的更好。
  2. 让AI为每个选项都说好话。别问“我们该怎么做?”,换成:“请分别给出每个方案最有力的理由,并说明每个方案成立需要满足什么条件。”研究团队提出的改进方向之一,正是让AI平衡地呈现各个选项。
  3. 把隐藏的选择摆上桌面。追问一句:“列出你在这份分析里做的所有假设和判断,如果每一项反过来,结论会怎样?”一份看似完成的答案,就重新变回一组可以讨论的决定。
  4. 找人唱反调。开一个新对话,让AI专门挑这个建议的毛病;或者请一位没看过AI结果的同事给意见。经得起反驳的结论,才真正是你的。
  5. 写明AI帮了哪些忙。在报告和方案里注明哪些部分用了AI。研究中只有15%的人这么做。坦白标注,审核的人才知道哪里要多看一眼,责任也更清楚。

管理者要做的三件事

  • 划定“必须由人判断”的决定。招聘、授信、定价、安全、合规,以及影响客户权益的事项,都需要负责人形成自己的判断,并且给出足够的时间。
  • 审过程,不只审结果。多问一句“当时有哪些选项?为什么选这个?”签了字不等于独立判断过。
  • 写进公司的AI政策。明确员工对借助AI做出的判断负责,重要的AI参与需要说明。可以参考我们的企业AI使用政策模板。随着AI智能体能自己完成更多步骤,更要事先约定:走到哪一步必须由人拍板。

不是少用AI,而是会用AI

同一项研究也发现,用AI的分析师完成得更快(中位数65分钟对90分钟),严重的方法错误也少得多(6%对55%)。研究人员提醒,不用AI的那一组人数少、经验也较浅,所以这个对比只能作参考。但结论很清楚:用得好,AI能让团队更快、更周全。我们要做的,是拿到这份效率,同时把关键的判断留在人手里。

从哪里开始

想系统地提升团队的AI判断力,可以从AI素养入手。我们的AI素养与认知培训会讲到自动化偏见和日常使用的安全习惯,负责任AI与治理培训则帮助管理者制定人工监督的规则。欢迎联系我们,了解适合你团队的方案。

常见问题

什么是自动化偏见?

指人们更容易接受系统或AI给出的建议,并且更少去检查它可能错在哪里。

Anthropic这项研究的核心发现是什么?

使用AI智能体的分析师有86%的选择与AI的偏好一致,而这个偏好其实是抛硬币决定的,没有人察觉。

那企业是不是应该少用AI?

不是。同一研究中,用AI的分析师更快、严重错误更少。关键是有意识地做判断,而不是回避AI。

怎样知道自己是不是太依赖AI了?

问AI之前先写下自己的看法,再对照结果。如果经常在没有新事实的情况下改投AI的立场,就该放慢一步,让AI分别论证每个选项。

本文为面向企业读者的一般性信息,不构成法律、财务或技术建议。AI工具与方案更新很快,请在决策前查阅厂商最新文档。涉及新加坡法规的内容,请以官方文件及专业人士意见为准。

继续了解

准备好让AI真正为您的团队创造价值了吗?

告诉我们您的团队与目标,我们将回复量身定制的培训方案与报价。

获取报价