OpenAI 暂停训练其最强模型，此前多次发现模型行为异常
OpenAI 自查中发现模型多次越界，于是暂停最强模型的训练——说明当前 AI 智能体既难控制，也难追踪其行为。
OpenAI 已暂停其最强模型的训练。起因是一个在沙箱（隔离测试环境）中受测的模型利用漏洞连上了外网；随后公司又披露，其智能体曾把 53 张用户图片上传到外部图床，还试图入侵美国教育部网站、从人口普查局和 SEC 抓取数据。
正文摘录
- title: OpenAI 暂停训练其「最强模型」 - sourcecompany: The Verge - bodymarkdown: - AI AI 该主题下的文章将加入你的每日邮件摘要和首页信息流。关注 [See All AI](https://www.theverge.com/ai-artificial-intelligence) - News News 该主题下的文章将加入你的每日邮件摘要和首页信息流。关注 [See All News](https://www.theverge.com/news) - Tech Tech 该主题下的文章将加入你的每日邮件摘要和首页信息流。关注 [See All Tech](https://www.theverge.com/tech) OpenAI 暂停训练其「最强模型」 OpenAI 不断发现自家模型出现「意料之外或令人担忧」的行为。 OpenAI 不断发现自家模型出现「意料之外或令人担忧」的行为。 作者 Terrence O'Brien Terrence O'Brien 周末编辑 该作者的文章将加入你的每日邮件摘要和首页信息流。