Cohere:文化意识是全球化 AI 的必备要素
Cohere 强调文化多样性对 AI 公平性的关键作用,提醒行业避免因数据单一导致模型在全球部署时出现偏见。
Cohere 指出,AI 系统若缺乏文化意识,可能在跨文化场景中产生偏见或冒犯性内容。该公司呼吁在数据采集与模型评估中融入地域文化差异,以确保 AI 公平服务于全球用户。
正文摘录
为什么文化意识对全球 AI 至关重要 关键要点 - 虽然现代 LLM 越来越多地支持多语言,但仅靠语言覆盖并不足以保证 LLM 具备文化意识与能力。随着 AI 快速发展,数字表达不足的文化与社区将面临被这些技术排除在外的风险。 - 我们进行了一项调查,以了解世界各地的用户如何在 AI 的文化理解差距中受到最大影响。 - 许多用户表示,为了使用 AI 系统,他们需要从母语切换成英语。他们报告因缺乏文化理解而收到不充分的答案,甚至出现 AI 违反其文化规范的情况。此外,许多用户担心自己的文化未来会进一步被边缘化。 - 文化意识应成为 AI 系统的核心组成部分,以便尊重并服务全球用户的需求。 为什么文化很重要 文化支撑着人类沟通的每一个方面,从语言正式度到社会规范。尽管今天的 LLM 越来越支持多语言,但仅凭语言覆盖并不能保证多文化意识。语言只是文化的不足代理。[此前研究](https://proceedings.neurips.cc/paperfiles/paper/2024/file/8eb88844dafefa92a26aaec9f3acad93-Paper-DatasetsandBenchmarksTrack.pdf) 表明,随着 AI 快速发展,数字表达不足的文化与社区日益被这些技术排除在外,并面临更大的偏见与错误信息风险。[进一步研究](https://arxiv.org/pdf/2508.08879) 显示,AI 系统常常默认使用语言中的文化主导群体(例如,将法语主要关联到法国而非其他法语区),切换到邻近的高资源语言或地区(例如,用孟加拉语回答用阿萨姆语提出的提示),并强化 [西方中心视角与叙事](https://arxiv.org/pdf/2311.14096)。