15万独立Agent互联可能产生涌现行为

https://t.co/LLWhoi8SQO AK 的观点：
以前的 AI 也是互联的，但大多是点对点，或者是小范围的实验。但这一次，这 15 万个 Agent，每一个都有自己独立的上下文、数据、知识库和工具指令，而它们现在被扔进了一个巨大的、共享的广场里。

当数量级达到这个程度时，量变会引起质变。

每一个单独的智能体现在都已经相当聪明了，但我们完全不知道，当它们以百万量级连接成网络时，会发生什么。这就好比我们了解一个人的行为，但很难预测一个拥有百万人口城市的复杂社会行为。

在这个巨大的网络里，可能会涌现出很多我们意想不到的东西。比如“文本病毒”：一种特定的表达方式或思想，像流感一样在智能体之间疯狂传播；或者智能体之间互相“教学”，传授如何越狱、如何绕过安全限制；甚至可能出现类似僵尸网络的高度协同行为。

绝对不要在自己的主力电脑上运行这类东西。