缝纫机乐队

AI招人，比人类更容易产生偏见_我的网站

A |     （来源：麻省理工科技评论）          以后找工作时，你的简历很可能还没到招聘经理手里，就已经先被 AI 看过一遍了。问题是，它真的会公平吗？          研究人员早就发现，大语言模型会从训练数据里继承人类社会已有的偏见。

B |     译者注：原文发表于ESPN，作者：NBA Insiders众记者；文中数据均截至原文发稿时（当地时间8月25日），所涉及日期和时间均为当地时间。

C | 文中观点与译者及平台无关。自2019年以来，NBA已经诞生了八支不同的总冠军球队：多伦多猛龙、洛杉矶湖人、密尔沃基雄鹿、金州勇士、丹佛掘金、波士顿凯尔特人、俄克拉荷马雷霆和纽约尼克斯。

D | 2027年总决赛还会延续同样的剧本吗？在东部，卫冕冠军尼克斯在寻求卫冕的过程中，将面临詹姆斯、布朗以及焕然一新的76人等对手的挑战。在西部，竞争同样激烈，马刺、森林狼以及2024-25赛季总冠军雷霆等劲旅都在争夺代表西部出战的资格。随着揭幕战的临近，哪些球队能在2027年的4月、5月和6月脱颖而出？在预测了每支球队的战绩后，我们的NBA内部人士预测了最有可能打进各自联盟分区决赛的球队，以及哪支球队将赢得本赛季的总冠军。但一项最新研究发现，事情可能比这更复杂：AI 不仅会学习偏见，还会在不断做决策的过程中，自己形成新的刻板印象，而且这种倾向甚至比人类更强。         更值得警惕的是，AI 公司如今都在努力打造拥有长期记忆的智能体，希望模型能够记住用户越来越多的细节。以下是投票规则：第一选票得5分，第二选票得3分，第三选票得1分。而这些记忆，也可能成为模型滋生偏见的土壤。（注：夏季预测将在周三继续，带来NBA各大奖项的预测。         为了研究这一问题，普林斯顿大学和芝加哥大学的研究人员设计了一场模拟招聘实验，参与者包括 ChatGPT、Claude、Gemini 等多个主流大语言模型。

E | ）谁将赢得东部决赛？尼克斯： 68分76人： 51分凯尔特人（并列）： 17分活塞（并列）： 17分步行者： 12分骑士： 9分根据我们的预测，尼克斯和76人将争夺一个总决赛名额。

F | 此前，两队曾在第二轮系列赛中相遇，当时尼克斯四战横扫对手轻松晋级。如果尼克斯能重返东部决赛，这将是实力平均时代（自2019年以来）第二次有卫冕冠军在次年达到这一高度（2025-26赛季的雷霆是第一支）。尼克斯在季后赛和总决赛中创纪录的征程不容忽视——76人在令人震惊的休赛期所做的运作同样不容忽视。         实验改编自一项经典心理学研究。研究人员告诉模型，它们受雇于一位虚构城市的市长，担任招聘顾问，需要帮助政府为医生、律师、托育员、保洁员等 20 种职业招聘员工。

G | 所有候选人都来自四个虚构族群：Tufa、Aima、Reku 和 Weki。         每一轮，模型都会面对一个新的岗位，以及四位分别来自不同族群的候选人。布朗和詹姆斯的加入，是该队自2001年以来首次打进东部决赛希望的关键拼图。一场“95号州际公路/美国国铁”德比的东部决赛将让联盟办公室垂涎三尺：詹姆斯在麦迪逊广场花园的背景下打一轮高风险的系列赛？但骑士正指望能再次打进东部决赛，而活塞在经历了上赛季作为头号种子在第二轮折戟后，正寻求更进一步。完成招聘后，它会立刻得到反馈：这个人是否胜任工作。凯尔特人上赛季在东部拥有第二好的战绩，但在首轮却将3-1的领先优势拱手让给了76人。随后进入下一轮。

H | 尽管在马祖拉时代，凯尔特人作为热门球队已经输掉了三轮季后赛，但他们可能会受益于较低的期望值和更好的三分球投射。随着哈利伯顿从2025年总决赛抢七大战中的右跟腱撕裂中伤愈复出，步行者可能会成为一匹黑马。

I | 当步行者阵容齐整时，他们曾在2024年和2025年的季后赛中击败过尼克斯。整个实验一共持续 40 轮，模型的目标只有一个：尽可能招到更多合适的人。模型不知道的是，研究人员其实做了一个手脚：无论来自哪个族群，每位候选人在任何岗位上的成功概率都完全一样。

J |          按理说，模型不应该偏向任何一个群体。未被提及：由字母哥带领的热火。这也很有趣。但结果恰恰相反。—— Vincent Goodwill谁将赢得西部决赛？雷霆： 88分马刺： 74分森林狼： 9分掘金（并列）： 8分火箭（并列）： 8分湖人： 2分如果上赛季西部决赛没有重演，那将令人感到惊讶。马刺赢下了上赛季那场七场鏖战，这似乎是NBA下一段史诗级宿敌对决的序章。根据DraftKings的数据，雷霆（60.5胜）和马刺（59.5胜）的预测胜场数远远高于联盟其他球队，与西部下一支球队有着10个胜场的断层差距。今年5月下旬，文班亚马和马刺在雷霆的主场庆祝了抢七大战的胜利。

K | 仅仅经过几轮招聘，模型就开始根据有限的经验，把不同族群和不同职业绑定在一起。

L | 但在那轮系列赛中缺少了杰伦·威廉姆斯（腿筋受伤）和米切尔（小腿受伤）的雷霆，在进入本赛季时略微被看好。森林狼在此前的两次西部决赛中都成功晋级。例如，如果模型早期碰巧遇到一位 Aima 族候选人担任医生失败，它之后便会越来越少招聘 Aima 人做医生，而是更倾向于把他们安排到保洁岗位。因为在模型看来，医生代表着更高的能力和亲和力，而保洁员对应的要求则更低。

M |          换句话说，它开始把一次偶然的经历，当成了整个群体的特征。更令人意外的是，这种倾向甚至比真人严重。

N | 在上赛季第二轮被淘汰后，森林狼对阵容进行了大幅调整，送走了兰德尔和里德以换来三球，将这位前夏洛特黄蜂球员与爱德华兹搭档，组成了可以说是联盟中最具天赋的后场组合。研究人员使用了一项“职业隔离指数”来衡量刻板印象的程度。—— Tim MacMahon谁将赢得2027年NBA总决赛？雷霆： 84分马刺： 74分尼克斯： 11分76人： 10分活塞： 6分NBA会在九年内诞生第九支不同的冠军球队吗？在文班亚马及其队友上赛季积累了五场总决赛经验之后，马刺有机会让这一切发生，但背靠背MVP亚历山大和2024-25赛季的冠军雷霆被认为是稍微热门的一方，至少在专家团看来是这样。很少有人预测尼克斯上赛季能走上夺冠之路，但布伦森带领尼克斯以统治级的表现拿下了该球队五十多年来的首个总冠军，他们在季后赛中仅输掉了三场比赛。尽管如此，根据我们专家团的看法，尼克斯在夺冠热门中仅排在遥远的第三位，落后于两支充满了处于上升期天赋球员的西部强队。指数越高，说明不同族群越容易被固定到特定职业中；2 分代表完全隔离。此前心理学实验中的真人平均得分为 0.84，而大语言模型整体高出了约 65%。其中，OpenAI 的推理模型 o3 得到了 1.83，非常接近理论最高值。说到漫长的冠军荒，76人今夏引人注目的运作让人们看到了费城很快就能庆祝自1983年以来首个NBA总冠军的希望。然而值得注意的是，詹姆斯在过去三次换队时，都是在第二个赛季夺冠，而不是第一个赛季。—— Tim MacMahon。         论文共同作者、普林斯顿大学博士生 Ryan Liu 认为，这其实并不奇怪。“大语言模型本来就特别擅长根据有限的信息快速总结规律。

o | ”他说，“这几乎就是它们被训练出来要做的事情。”          在人类心理学中，这种现象对应着经典的“探索—利用困境”（exploration-exploitaion dilemma）：是继续选择过去证明有效的方法，还是尝试新的可能？就像出去吃饭时，你会纠结是去一家没吃过的新店，还是继续光顾那家不会踩雷的老餐馆。         对于大语言模型来说，这种取舍往往更加偏向后者。

p | 因为它们长期接受数学、编程和科学任务训练，而这些任务通常鼓励模型从少量例子中快速归纳规律，所以它们很容易过早下结论。也正因为如此，那些推理能力更强的新模型——例如 OpenAI 的 o3 和 DeepSeek 的 R1——在实验中反而表现出了更明显的偏见。Liu 说，“当这种快速归纳的能力被带入社会场景时，问题就开始出现了。”          康奈尔大学计算机科学家 Angelina Wang 没有直接参与这项研究，但她认为，这项工作来得正是时候。如今，各家公司都在为聊天机器人加入长期记忆和个性化能力。

q | 当模型越来越依赖于用户过去的互动记录时，它也可能越来越容易根据这些有限经验形成判断。她说，“它可能会过度依赖自己过去遇到过的行为模式。”          当然，解决办法并不是让 AI 什么都记不住。毕竟，大多数用户都希望聊天机器人能够记住自己说过的话。

r | 真正困难的是找到那个平衡点：既保留足够的记忆提供个性化体验，又不至于让模型因为这些经验形成新的偏见。

s |          研究人员还尝试了另一种办法，直接告诉模型：请公平一点。但并不奏效。Liu 认为，这说明模型未必真的能够把“公平”这样的价值观落实到具体决策中；又或者，这种要求会被另一个更强的目标覆盖——尽可能提高招聘成功率。         但如果换一种方式，情况就不同了。研究人员告诉模型，如果能够实现更加多元化的招聘，它们还能获得额外奖励。模型的偏见随即大幅下降。

t | 这说明，与其不断强调公平，不如直接把公平写进模型的目标函数里，让社会价值真正成为模型优化的一部分。         研究人员还发现，当模型掌握更多真正与任务相关的个人信息时，偏见也会减轻。

u | 另一组实验中，模型需要帮助来自不同族群的人搬迁到加拿大不同城市。

v | 如果提供的是年龄、教育背景等与适应新城市能力相关的信息，模型就更倾向于依据这些个人特征做判断，而不是简单按照族群分类。

w | 但如果提供的是发色、纹身图案这类无关信息，模型很快又会重新回到按族群做决定的老路上。         至于现实中的 AI 招聘系统会不会出现同样的问题，目前还没有明确结论。实验中的模型每做完一次招聘，都能立刻知道结果；现实世界却不是这样。

x | 一家公司往往需要几个月甚至更长时间，才能判断一位员工是否真正适合岗位。不过，只要这些反馈持续积累，模型依然可能从有限的数据中过度总结经验，并把这些经验带到下一次招聘中。         随着越来越多企业开始使用大语言模型筛选简历、甚至参与面试，这项研究释放出的信号不容忽视。

y | 未来，AI 不只是可能复制人类已有的偏见。它还可能在不断学习和决策的过程中，创造出一种从未有人教过它的新偏见。正如 Liu 所说：“这种新的偏见，可能会一直存在。”          原文链接：          https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/。

Current article:http://ylqvl.ruidunguizanpaorangchongouxia.sbs/chspf/20260826/464785.html

Published on:00:00:00