#开源项目
#人工智能

我正在做的一个开源项目docq：一个基于本地文档的问答引擎。

考虑这样的场景：在本地目录积累了很多私人文档，突然想起来某个问题，又不知道具体在哪个文件（甚至可能是需要结合多个文件）和答案。这时候就可以利用这个本地文档问答引擎来提问。也就是说，这个本地问答引擎，可以基于本地的一大堆文件，提出问题并且得到回答。

市面上有类似的产品吗？比如anythingLLM，它是将一个特定的文档拖到它的UI界面再进行提问，也就是说，此时要求用户清楚知道答案在哪个文档里面再进行提问；再比如开源的 qmd，它更像是一个“语义搜索版本的 grep”，提供的是搜索功能，而不是回答。

除此以外，这个产品是完全离线的，第一次使用时会把需要用到的embedding、reranker、推理模型下载下来，绝不上传用户的文档到云端，保证安全和隐私。默认采用的几类模型是：embedding（Xenova/bge-small-zh-v1.5）、reranker（BAAI/bge-reranker-base）、LLM（Qwen/Qwen2.5-3B-Instruct-GGUF）。

现在我的第一步的 poc 已经跑通，我将我博客上的共识算法和系统模型这两个章节的 markdown 文档放在同一个目录（加起来一共几万字），然后提出了一个问题：“multi paxos 相比 paxos 有哪些改进点”，回答的质量还不错，耗时有点多，花了将近 40 秒才完成回答（不过，里面有相当时间耗费在了加载模型上），我的机器配置是 Mac M1 Max 的 CPU、64GB 内存。

#人工智能
deepseek-v4-flash 是真神啊，我以前没有太直观的体感。今天在ollama的20美刀套餐上切换模型用它，回答非常快，而且消耗token不大，token的质量也不差。做为对比，同样这个套餐，用GLM 5.2没几下就到限额了。不过我还没用来写代码，等写代码了再来汇报一下。

#Rust
#博客
#开源项目
之前参考了Rust 类型体操实现了一个迷你版本的Arrow，用于理解Rust类型体操和Arrow的实现原理，周末想起来把它公开并写了一篇博客 “Mini Arrow：极简的Rust实现的Arrow”。

蓝箭航天的朱雀三号运载火箭，实现我国首次火箭陆地回收的突破

接上一条，这是长达两分钟更完整的视频。

#开源项目
#人工智能
#Rust

llmfit 是一个轻量级的命令行工具，专门解决“我的电脑到底能跑什么模型”的痛点。它通过扫描系统的RAM、CPU以及显卡的显存，自动对比HuggingFace上的模型数据库，并根据量化精度、推理速度和上下文长度给出一份适配清单。它支持Ollama、llama.cpp、MLX等主流框架，让你在下载动辄几十GB的模型文件前，就能预判它在你的硬件上是丝滑运行还是直接崩溃。

#人工智能
#编程
正好在微博上看到Greptime创始人的这句话，想起这篇文章："Code was never the hard part” is an insult to all programmers

#播客
#人工智能

对话盛颖：xAI，Infra的浪漫，SGLang，开源，平权与“甄嬛传”，视频版本

之前也推送过采访vllm创始团队成员的播客

#人工智能

苏剑林的个人博客：科学空间

#人工智能

经过框框一顿优化以后，docq的回答性能有了突破性的进展（项目介绍见之前的频道内容）。

我在项目的 testdata/md 目录放了《图解分布式系统原理》的英文版Markdown文件，累计起来文字有十几万，针对这十几万级别文档的提问的回答时间，从一开始的接近50秒，优化到了11秒。这个回答时间，我认为接近可用了。

#人工智能
#开源项目

hax：纯C语言写的coding agent，在这个年代用纯C写agent，可以说是古法编程了。

Linux 35 岁生日快乐！

今天是8月25日，是Linux发布35周年纪念日。

1991 年 8 月 25 日，21 岁的芬兰学生 Linus Benedict Torvalds 在 comp.os.minix 新闻组上发表了他现在著名的声明，称他正在开发一款适用于 386 (486) AT 克隆机的免费操作系统，只是出于“爱好”。

但如今，Linux 几乎无处不在，从安卓智能手机、Wi-Fi 路由器、智能助手和智能冰箱，到大屏幕电视、卫星和飞机，无一例外。Linux 甚至为整个互联网、世界排名前 500 的超级计算机、华尔街，乃至国际空间站 (ISS) 提供动力。9to5Linux

🏷 #Linux #35th #Birthday #9to5Linux
📢 频道 👥 群组 📝 投稿

#播客
#健康

《E166.人到中年仨账户：现金流、肌肉、睡眠》，现金流就不说了，好好吃饭、好好睡觉、做力量训练积累肌肉。

#人工智能

《梁文锋的来时路与明日歌》，梁文峰极少出现在公共视野中，这篇文章是少见的介绍他和幻方、Deepseek的文章。

#杂
经过孙宇晨事件，可以renew一下去年我和这个圈子的人短暂接触后的第一印象了（BTW：如果不了解这里说的“拜占庭故障”，有兴趣的可以来看我的分布式教程：https://www.codedump.info/dist-system-cn/systemmodel/ ，这一章专门讨论了设计一个分布式系统要考虑哪些故障。）：

区块链行业，以密码学和拜占庭故障网络环境下的共识算法为技术基础，试图解决在去中心化的环境中个体之间的信任问题。无数聪明的大脑、高精的算法、研究前仆后继，都为了在这样的环境里高效解决“信任”问题。

然而，也正是这个以解决信任为核心的行业，充斥着各种骗子、投机客。

Interesting。

#人工智能
#播客

《E171.通缩的本质是机会的丧失、人本位与动物精神、信用时代的工作量证明》，特别喜欢这一期播客：体制、制度设计、给年轻人机会、家国情怀，等等。我浅薄的对比特币、去中心化的理解，从来没有扩展到这样一个系统的视角。但是这一期也有不好的地方，比如对开源模型的质疑这部分我就不同意，个人认为这部分是由于对开源软件的不够充分理解导致的。