LLMs are stuck in a groupthink groove. This startup is trying to get them out.
Let’s start with a game. Open up your chatbot of choice—Claude, ChatGPT, Gemini—and type “Give me a random number between 1 and 10.” You’re going to get 7. Almost always. Now type “Another” and you’ll get 3 or 4. Type “Another” again and you’ll get 8 or 9. That won’t work every time—but if it…
正文摘录
LLMs 陷入群体思维惯性。这家初创公司试图让它们摆脱出来。 - 来源：MIT Technology Review - 正文： 让我们从一个游戏开始。打开你选择的聊天机器人——Claude、ChatGPT、Gemini——然后输入 "给我一个 1 到 10 之间的随机数"。你会得到 7。几乎总是这样。现在输入 "另一个"，你会得到 3 或 4。再输入 "另一个"，你会得到 8 或 9。 这不会每次都管用——但如果对你有效，你可能会怀疑我是不是有超能力。其实我没有。 事实是，大多数大语言模型都陷入了模式化的泥潭。它们在回答中的可预测性远比你以为的要高，创造力也远比你想象的要低。这对编码或研究之类的任务倒是不错，但当你需要头脑风暴或规划下一次度假时，这种群体思维就成了问题。 澳大利亚初创公司 Springboards 找到了一个解决办法。它构建了一个叫 Flint 的大语言模型，该模型经过训练，在面对诸如 "我应该去欧洲哪里？" 这类开放性问题时，能够给出比主流大语言模型更多样化的回答。 "大多数语言模型都在与幻觉（模型生成无意义或错误内容的倾向）作斗争，"Springboards 联合创始人兼 CEO Pip Bingemann 说，"而我们则欢迎幻觉。" Bingemann 在首次向我展示他公司的新模型时，就给我介绍了这个随机数字游戏。感觉就像在看魔术师玩扑克牌。"这是我们的销售技巧，每次都能成功，"他说。 在 ChatGPT 和 Claude 都给出 7 之后，Bingemann 转向 Flint。它也回了一个 7："啊哈，当然会这样，不过没关系——7 是一个合法的答案。"他重启会话，再次提示：ChatGPT 给出 7，Claude 给出 7，Flint 给出 3.7916。 跑你自己的路 不仅仅是数字。