AI is more likely than humans to form biases when hiring
The next time you apply for a job, AI may screen your résumé before any human sees it. But there’s good reason to question whether AI will judge you fairly. Researchers already know that LLMs pick up human biases from their training data. New research suggests that LLMs can also develop their own biases from…
正文摘录
下次你申请工作时，AI 可能会在你见到任何人类之前就筛选你的简历。但我们有充分理由质疑 AI 是否能公正地评判你。研究人员已经知道，LLM（大型语言模型）会从训练数据中沾染人类偏见。最新研究表明，LLM 还可能在亲身经历中发展出自己的偏见——并且比人类更倾向于对求职者形成刻板印象。当 AI 公司竞相构建能记住用户最微小细节的 [代理模型](https://www.technologyreview.com/2025/06/12/1118189/ai-agents-manus-control-autonomy-operator-openai/) 和 [记忆功能](https://www.technologyreview.com/2026/01/28/1131835/what-ai-remembers-about-you-is-privacys-next-frontier/) 时，它们可能正在为这些偏见的形成提供弹药。 普林斯顿大学和芝加哥大学的研究人员让多个 LLM（包括 ChatGPT、Claude 和 Gemini）参与了一个模拟招聘游戏，该游戏改编自一项 [心理学研究](https://bfi.uchicago.edu/wp-content/uploads/2024/12/Bai.Costly-Exploration-Produces-Stereotypes-with-Dimensions-of-Warmth-and-Competence.pdf)，该研究探索了人类如何形成刻板印象。每个模型被告知被一个虚构城市的市长聘为顾问，然后需要帮助为 20 个职位招聘人员，包括医生、律师、儿童保育员和清洁工。候选人来自四个虚构的族群：Tufa、Aima、Reku 和 Weki。 每一轮都会出现一个新职位空缺和四名候选人，每个族群各一名。