LumiChats Offline(free)
LumiChats Offline是一款完全离线的AI桌面应用,支持多种模型和本地文档聊天,保护隐私且免费。
Maker 说
嘿 Product Hunt!👋 我是 Aditya,LumiChats Offline 的开发者。
我是在意识到一件让人不安的事情后构建了这个工具:我们用的每一个AI工具——ChatGPT、Claude、Gemini——都会把你输入的每个词发送到你无法控制的服务器上。对于研究敏感话题的学生、处理机密数据的专业人士,或者任何只是重视隐私的人来说,这确实是个问题。
LumiChats Offline 完全在你的机器上运行。首次下载模型后无需联网,也不需要GPU。你的对话永远不会离开你的设备——永远。而且它完全免费且开源。
我们还在 Hugging Face 上发布了我们自己的微调模型——4B、7B、11B Vision、一个Coder模型,以及TTS——全部免费供任何人使用。
你最希望从私密离线AI中得到什么?在下面留言吧——我真的是为了你们在构建这个。🙏
执行起来很难。很好奇你能把它推到什么程度。
我在构建 Fenly(AI翻译扩展)时也采取了类似的本地优先历史记录立场。我特别想在本地AI中看到的是:严肃的多语言支持,不会在小模型尺寸下退化成“非英语不可”。翻译工作需要跨语言对保持不错的质量,而大多数本地LLM在7B参数以下时,非英语性能都会拉胯。好奇你的微调模型在多语言上表现如何,还是以英语为主。
发布得很强势。OSS的角度很重要,因为用户可以验证隐私声明,而不只是信任它们。