雷霆扫毒

A |     （来源：麻省理工科技评论）          以后找工作时，你的简历很可能还没到招聘经理手里，就已经先被 AI 看过一遍了。    　　事情发生往往有先兆！
　　亚太时段，昨晚表现强劲的黄金和白银突然跳水。现货黄金由上涨近1%到下跌超0.5%，白银一度跌超1.3%。问题是，它真的会公平吗？          研究人员早就发现，大语言模型会从训练数据里继承人类社会已有的偏见。

B | 但一项最新研究发现，事情可能比这更复杂：AI 不仅会学习偏见，还会在不断做决策的过程中，自己形成新的刻板印象，而且这种倾向甚至比人类更强。         更值得警惕的是，AI 公司如今都在努力打造拥有长期记忆的智能体，希望模型能够记住用户越来越多的细节。而这些记忆，也可能成为模型滋生偏见的土壤。　　值得注意的是，一宗涉及黄金的大额交易也在海外市场刷屏。         为了研究这一问题，普林斯顿大学和芝加哥大学的研究人员设计了一场模拟招聘实验，参与者包括 ChatGPT、Claude、Gemini 等多个主流大语言模型。有交易员在昨晚美股开盘20分钟后，在SPDR Gold Shares ETF（GLD.US）沽出接近116,000张行使价420美元、9月18日到期的认购期权，相关合约目前处于价内，共收取2.02亿美元期权金。
　　那么，究竟发生了什么？　　黄金突然跳水　　今日早盘，现货黄金一度上涨近1%至每盎司4695.31美元。但随后出现跳水行情，现货黄金直线下挫，跌幅迅速扩大至0.5%以上。

C |          实验改编自一项经典心理学研究。白银亦跟随走弱，跌幅扩大至1.3%以上。铜、铂、钯等大宗商品集体下跌。　　A股市场黄金股亦大幅下跌。研究人员告诉模型，它们受雇于一位虚构城市的市长，担任招聘顾问，需要帮助政府为医生、律师、托育员、保洁员等 20 种职业招聘员工。招金黄金、西部黄金跌幅均超过8%，赤峰黄金跌幅扩大至5%以上，紫金矿业跌幅扩大至3%以上，黄金股ETF跌超4%。所有候选人都来自四个虚构族群：Tufa、Aima、Reku 和 Weki。黄金ETF也显著跳水，跌幅扩大至0.5%以上。         每一轮，模型都会面对一个新的岗位，以及四位分别来自不同族群的候选人。
　　在利率上升背景下黄金持续反弹，本月上升15%，并有望取得自2008年以来最佳单月表现。但昨晚，美国市场一宗大额交易引发关注，亦发出了空头信号，甚至有人认为，这轮黄金升势或将结束。　　昨晚美股开盘20分钟后，有交易员在SPDR Gold Shares ETF（GLD.US）沽出接近116,000张行使价420美元、9月18日到期的认购期权，相关合约目前处于价内，共收取2.02亿美元期权金。完成招聘后，它会立刻得到反馈：这个人是否胜任工作。

D | 随后进入下一轮。其后，该交易员动用部分资金买入相同数量及到期日、行使价430美元的认购期权，涉资1.44亿美元，形成5800万美元净权利金收入。　　虽然沽出价差策略通常被视为中性交易，但由于该交易员沽出价内认购期权，其到期损益平衡点被推高至425美元，即交易两端中间位置。整个实验一共持续 40 轮，模型的目标只有一个：尽可能招到更多合适的人。GLD目前报427美元，意味该交易实际上属于看淡布局，预期金价未来四周将轻微回落。　　Arora Report创办人Nigam Arora表示，黄金短期回调的概率非常高。模型不知道的是，研究人员其实做了一个手脚：无论来自哪个族群，每位候选人在任何岗位上的成功概率都完全一样。         按理说，模型不应该偏向任何一个群体。但结果恰恰相反。动能型资金流仍然非常看好，但聪明资金流已转为负面。仅仅经过几轮招聘，模型就开始根据有限的经验，把不同族群和不同职业绑定在一起。例如，如果模型早期碰巧遇到一位 Aima 族候选人担任医生失败，它之后便会越来越少招聘 Aima 人做医生，而是更倾向于把他们安排到保洁岗位。GLD今日已出现约6000万美元净资金流出。　　分析人士认为，在本周多项重要宏观经济事件前，上述看淡交易尤其值得留意，包括当地时间周三将公布的PCE通胀数据，以及当地时间周四将举行的Jackson Hole经济研讨会。特别是沃什在Jackson Hole上的讲话。因为在模型看来，医生代表着更高的能力和亲和力，而保洁员对应的要求则更低。由于此前贝森特的回购计划令到美元信心出现松动迹象，因此并不能排除沃什通过讲话找回场子的可能性。         换句话说，它开始把一次偶然的经历，当成了整个群体的特征。若此情景出现，黄金下跌也在预期当中。　　潜力究竟如何？　　本月以来，金银表现亮眼，据Bull Theory分析，两种贵金属本月合计增加了近5万亿美元市值。

E | 更令人意外的是，这种倾向甚至比真人严重。不过，两者目前仍低于今年早些时候创下的历史高点。研究人员使用了一项“职业隔离指数”来衡量刻板印象的程度。

F | 那么，其潜力究竟如何？　　针对黄金价格走势，目前大行的研判亦有一些分歧。花旗集团近日上调未来0至3个月黄金目标价至4800美元/盎司，同时维持未来6至12个月5000美元/盎司的目标价不变。

G | 指数越高，说明不同族群越容易被固定到特定职业中；2 分代表完全隔离。

H | 此前心理学实验中的真人平均得分为 0.84，而大语言模型整体高出了约 65%。其中，OpenAI 的推理模型 o3 得到了 1.83，非常接近理论最高值。         论文共同作者、普林斯顿大学博士生 Ryan Liu 认为，这其实并不奇怪。

I | 该行认为，金价仍存在进一步走高的空间。　　花旗认为，黄金上涨仍受到多重因素支撑，包括中东地缘政治风险、实际利率下降预期以及美联储货币政策转向。“大语言模型本来就特别擅长根据有限的信息快速总结规律。该行称，随着霍尔木兹海峡紧张局势有望逐步缓解、实际利率继续回落以及美联储鹰派立场减弱，黄金未来数月仍具备上涨基础。　　摩根大通同样维持对黄金市场的积极判断，但该行认为，短期行情仍取决于宏观数据和美联储政策信号。”他说，“这几乎就是它们被训练出来要做的事情。由于中东局势存在较大不确定性，加上近期关税相关消息推高市场风险溢价，投资者暂缓调整仓位属于正常现象。”          在人类心理学中，这种现象对应着经典的“探索—利用困境”（exploration-exploitaion dilemma）：是继续选择过去证明有效的方法，还是尝试新的可能？就像出去吃饭时，你会纠结是去一家没吃过的新店，还是继续光顾那家不会踩雷的老餐馆。如果通胀数据高于预期，市场可能重新评估降息路径，并推动黄金回落测试200日移动平均线；但如果通胀低于预期，同时市场未完全消化美联储释放的政策信号，黄金价格可能快速向5000美元/盎司靠近。短期来看，摩根大通预计黄金或将在4500美元至5000美元/盎司区间震荡。         对于大语言模型来说，这种取舍往往更加偏向后者。（文章来源：券商中国）。因为它们长期接受数学、编程和科学任务训练，而这些任务通常鼓励模型从少量例子中快速归纳规律，所以它们很容易过早下结论。也正因为如此，那些推理能力更强的新模型——例如 OpenAI 的 o3 和 DeepSeek 的 R1——在实验中反而表现出了更明显的偏见。Liu 说，“当这种快速归纳的能力被带入社会场景时，问题就开始出现了。”          康奈尔大学计算机科学家 Angelina Wang 没有直接参与这项研究，但她认为，这项工作来得正是时候。如今，各家公司都在为聊天机器人加入长期记忆和个性化能力。当模型越来越依赖于用户过去的互动记录时，它也可能越来越容易根据这些有限经验形成判断。她说，“它可能会过度依赖自己过去遇到过的行为模式。”          当然，解决办法并不是让 AI 什么都记不住。毕竟，大多数用户都希望聊天机器人能够记住自己说过的话。真正困难的是找到那个平衡点：既保留足够的记忆提供个性化体验，又不至于让模型因为这些经验形成新的偏见。

J |          研究人员还尝试了另一种办法，直接告诉模型：请公平一点。

K | 但并不奏效。Liu 认为，这说明模型未必真的能够把“公平”这样的价值观落实到具体决策中；又或者，这种要求会被另一个更强的目标覆盖——尽可能提高招聘成功率。         但如果换一种方式，情况就不同了。研究人员告诉模型，如果能够实现更加多元化的招聘，它们还能获得额外奖励。

L | 模型的偏见随即大幅下降。这说明，与其不断强调公平，不如直接把公平写进模型的目标函数里，让社会价值真正成为模型优化的一部分。

M |          研究人员还发现，当模型掌握更多真正与任务相关的个人信息时，偏见也会减轻。另一组实验中，模型需要帮助来自不同族群的人搬迁到加拿大不同城市。

N | 如果提供的是年龄、教育背景等与适应新城市能力相关的信息，模型就更倾向于依据这些个人特征做判断，而不是简单按照族群分类。

o | 但如果提供的是发色、纹身图案这类无关信息，模型很快又会重新回到按族群做决定的老路上。         至于现实中的 AI 招聘系统会不会出现同样的问题，目前还没有明确结论。实验中的模型每做完一次招聘，都能立刻知道结果；现实世界却不是这样。

p | 一家公司往往需要几个月甚至更长时间，才能判断一位员工是否真正适合岗位。

q | 不过，只要这些反馈持续积累，模型依然可能从有限的数据中过度总结经验，并把这些经验带到下一次招聘中。         随着越来越多企业开始使用大语言模型筛选简历、甚至参与面试，这项研究释放出的信号不容忽视。

r | 未来，AI 不只是可能复制人类已有的偏见。

s | 它还可能在不断学习和决策的过程中，创造出一种从未有人教过它的新偏见。正如 Liu 所说：“这种新的偏见，可能会一直存在。”          原文链接：          https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/。