纽约时报：工作中使用AI 的弊端，才现冰山一角
《纽约时报》于2026年6月29日载文（作者：Noam Scheiber）——学者们表示，在工作中使用AI 的“未知性re”可能会削弱这项技术所宣传的益处。
过去一两年，一些公司开始将所谓的AI代理视为真正的“员工”，甚至将其纳入组织架构图之中。
波士顿大学教授艾玛·威尔斯（Emma Wiles）研究AI对员工的影响。去年十月，她在一次会议上偶然发现了这一现象。当时，两位HR主管表示，将AI代理视为真正的员工是提高生产力、使公司走在行业前沿的一种方式。
但威尔斯博士和来自波士顿咨询的三位合作者进一步调查后，发现了一个陷阱。在一项涉及数十家拥有AI员工的公司的实验中，研究人员发现，当被告知文件是由AI员工生成的时候，管理者往往会放松审查。一些管理者在被告知审查的是人类工作成果时，会忽略一些错误。
威尔斯博士推测，管理者可能认为找出AI员工的错误并非他们的职责。如果出了问题，他们可以把责任推给技术团队，或者推给当初想要引进AI员工的高管。“但这不关你的事，”她说道，这番话道出了管理者们对自己角色的固有思维。
自AI横空出世以来，许多公司已经意识到这项技术存在的缺陷，并采取了一些措施来弥补这些缺陷。他们知道AI模型可能对某些群体（例如非白人）存在偏见。他们知道聊天机器人可能会对用户的问题给出自信但却错误的答案。他们也知道机器人有时会泄露本应保密的信息。
然而，随着各公司竞相将AI融入日常运营，研究人员发现了更多不易察觉的缺陷。原则上，这些缺陷本也可以得到纠正。例如，公司可以追究管理人员对AI下属犯错的责任。
但实际上，大多数企业用户似乎对这些问题浑然不觉，这使得AI提高生产力和大幅降低成本的承诺可能面临落空的风险。
即使是研究AI的研究人员，也可能只关注到这项技术带来的问题的一小部分。“还有许多未知的未知，”威尔斯博士说。
AI模型一个有据可查但却被低估的缺陷是，它们往往偏爱AI生成的作品。2025年发表在《美国国家科学院院刊》（the National Academy of Sciences）上的一篇论文发现，一些大型语言模型对人类撰写的文本评价较低，从而造成了一种“可能造成严重后果的隐性‘反人类’偏见”。
但许多公司似乎并未意识到这个问题，或者至少无法想象它会对运营造成怎样的严重影响。随后，一组学者在一篇论文中详细阐述了这个问题，他们发现，公司用来评估简历的AI模型往往更倾向于那些由AI辅助撰写的简历，而不是完全由人类撰写的简历。这一发现引起了一些企业招聘人员的关注。
俄亥俄州立大学运营学教授江易（音译，Jane Yi Jiang）是这篇后续论文的作者之一。她表示，当招聘公司咨询“如何改进流程”时，她和她的合作者很乐意提供帮助。
但他们指出，这几乎肯定不是公司在急于采用AI的过程中无意间引入的唯一问题。“人们急于使用AI，却很少考虑其影响和偏见，”她说。
例如，一些公司现在使用AI来帮助回答诸如产品定价或新店选址等问题。然而，依赖这项技术来实现这些目标可能会导致迅速失控。
人类在自主决策时通常会合作并寻求双赢的结果，但是当AI模型评估某种情况时，它们往往会采取源于基本博弈论的更为冷酷、精于算计的“理性”思维模式。例如，它们可能会引导一家公司采取激进的低价策略来压制竞争对手，即使这会引发一场破坏性的价格战。
“我们测试的大多数法学硕士（LLM）都认为人类比实际情况更理性，”马里兰大学博士候选人、江博士的合作者徐建南（音译，Jiannan Xu）说，“在许多情况下，最理性的应对方式反而会导致对所有人都不利的局面。”
原则上，AI的开发者和用户可以纠正这些偏见。例如，江博士和徐先生发现，他们只需指示模型专注于评估文本的质量，而避免考虑作者，就可以减少反人类偏见。
但AI研究人员无法纠正他们未意识到的偏见，一些学者表示，这些未被发现的偏见的影响可能会加剧。一种情况是，如果未来的模型使用当前模型生成的数据进行训练，而没有进行充分的审查，就会陷入一种自我强化的循环。
在这种情况下，“巩固现有观点和行为的倾向似乎很有可能，”AI专家谢恩·朗普雷（Shayne Longpre）说。他是数据溯源倡议（Data Provenance Initiative）的研究员和创始人，该组织负责监控AI基础设施。
此外，还有一些盲点，这些盲点并非源于AI本身，而是源于人类使用AI的方式。
学者们在研究过程中的每个阶段都求助于AI——询问AI哪些问题值得研究；寻求它对如何回答问题的建议；利用它分析数据；依靠它撰写研究论文——可能会在无意中缩小了研究范围。
“在个体层面，我们未必能察觉到这一点，”哥本哈根商学院心理学家、近期发表过一篇相关论文的作者塞西莉·斯滕布赫·特拉伯格 (Cecilie Steenbuch Traberg) 说，“你和聊天机器人交流，它帮你构思，你可能觉得这很棒。但是在群体层面，情况就大同小异了。每个人说的话都差不多。”
波士顿大学教授威尔斯博士(Dr. Wiles) 研究了人类管理AI员工的方式，他表示，这些缺陷并非技术本身固有的，而是人类在应用这项技术时，对可能出现的问题缺乏关注而导致的。
她和同事们调查了1000多位企业经理，发现约三分之一的人表示，他们的企业将AI称为“团队成员或员工”，近四分之一的人表示，他们的雇主在组织结构图中包含了AI代理。“我们称它为Scout，”一位经理在接受研究人员采访时说道，他指的是一个AI代理。“从技术上讲，它是你团队中地位相当的同事。”
威尔斯博士和她的同事们给所有受访经理提供了五份包含错误的文档，并给了他们20分钟时间尽可能多地审阅。在某些情况下，他们告诉经理们这项工作是由AI员工完成的；在某些情况下，他们说这项工作是由AI工具完成的；而在另一些情况下，他们说这项工作是由人完成的。
总的来说，文件的来源对管理者审查的严格程度影响不大。
但是，在组织架构中包含AI代理的公司中，管理者在被告知他们正在审查AI员工的工作时，发现的错误明显更少。
威尔斯博士解释说，管理人类的人往往会认为“如果我的团队成员犯了错误，那就是我的责任”，这就是为什么他们会仔细检查这些下属的工作。管理者似乎也认为自己要对AI工具产生的工作负责。但是，拥有AI员工的公司管理者似乎并没有对这些员工的工作抱有同样的责任感。
她的结论是：在过去的几个世纪里，学者和商业领袖已经发展出一套可靠的人类管理实践方法。但是，管理拟人化的AI的心理则截然不同，“我们对此一无所知”。
她担心这个问题将会变得更加严重。在一次会议上，她第一次听到HR官员们大谈AI员工的优点，其中一位甚至更加激进，声称她的公司很快就会让AI员工来管理人类员工了。“会场顿时鸦雀无声，”威尔斯博士回忆道。
“我们也需要有人来研究这个问题，”她补充说。
