Skip to main content
· 10 min read

Jev 是一种 System One 决策模型——不生成文本、只输出结构化决策,定位是嵌入 Agent 流水线做高频、低延迟的分类与路由。

  • 定位:TypeSafe AI 推出的非 LLM 决策模型,创始人 Diogo Almeida 是 ChatGPT/RLHF 共同发明人
  • 三种原语:Noul(yes/no 概率)、Choice(最多 255 项选一)、Score(有序评分),一次请求并行评估
  • 输出形状:schema-first 的 typed value + 概率分布 + 置信度,程序直接消费,零格式幻觉
  • 速度与价格:端到端 70-500ms,输入 $0.042/1M token,输出 token 免费
  • 不是 LLM 替代品:不能写代码、写文章、做复杂推理,只覆盖「已知答案空间的快速判断」
  • 典型场景:Agent 模型路由、Skill 选择、UI 元素定位、上下文压缩、工具调用前的风险评分
  • 评测边界:官方「193x 更快」来自自家工作流基准,独立复现有限,需在自己负载上验证
  • 已有接入:Vercel AI Gateway、Cloudflare、OpenRouter、LangChain 集成均已支持
· 7 min read

harness 常见定义是 agent + model;通俗理解是模型到人之间 gap 的兜底层。

  1. 常见定义:agent + model,这是工程界共识
  2. 通俗理解:模型和人之间那整层 gap 的兜底层
  3. 兜底范围:上下文、工具、权限、记忆、沙箱、UI、调度
  4. 本质动作:模仿人类工作模式,把模型包成可用产品
  5. 价值定位:LLM 是发动机,harness 是整辆车
  6. 关键判别:同模型不同 harness,效果差 50%+ 是常态
  7. 落地观察:harness 边际收益远高于模型升级
· 7 min read

主进程 Node 的 V8 老生代默认约 1.5G,4G 是 Chromium 渲染进程 V8 pointer compression 的硬上限,跟主进程没关系。

  1. 主进程:Node.js 同款 V8 默认堆,老生代 64 位约 1400–1536 MB,可调到 ~4 GB 上限
  2. 渲染进程:受 pointer compression 限制,V8 堆上限 硬编码 4 GB;off-heap(Buffer / 媒体)走 PartitionAlloc,上限 16 GB
  3. 调整方式:主进程走 --js-flags=--max-old-space-size=N;渲染进程走 webPreferences.additionalArguments
  4. 不要混:主进程上限给小了,Node 业务(数据库 / 缓存 / 文件处理)会先 OOM;渲染进程上限给大了也不生效,4 GB 是天花板
· 9 min read

沙箱不是某项具体技术,而是一类手段的总称:让一段代码在受限范围里运行,触及不到范围之外的东西。操作系统隔离进程、浏览器限制网页脚本、云上租户之间做资源隔离、给 AI Agent 的执行能力加一道边界——沙箱要回答的,都是同一个问题。

  1. 工具层自检:在框架自己的工具函数里拦截;约束的是工具输入,不是整个运行环境
  2. 操作系统隔离:把规则装进内核(Linux 用 bubblewrap + Landlock,macOS 用 sandbox-exec,Windows 用受限令牌 + AppContainer),所有派生进程都受内核监督
  3. 完全隔离:容器 / 虚拟机 / 远程沙箱,与宿主机物理隔离,宿主只暴露有限的受控接口

判断用哪种方式,取决于执行者是谁——约束要放在执行者够不着的地方。DeepSeek Harness 同时采用前两种,在同一个宿主文件系统上落地:策略中心统一管规则,文件工具先解析真实路径再判断,命令执行由 sandbox service 用启动器把规则装进内核。约束可以失败,但不可以被静默绕过。

· 8 min read

AI 思维链 CoT,本质是 用 token 数换推理深度 的工程技巧。

  1. 为什么需要:单次前向传播算力固定,把思考过程外化成 token,变相扩容。
  2. 起步阶段:Google 用程序生成"题目+步骤"数据,监督微调小模型学会推理。
  3. 自举阶段:STaR 让模型自己生成答案,只留结果正确的样本继续微调。
  4. 采样增强:Self-Consistency 多链采样,多数投票决定最终答案。
  5. PRM 路线:OpenAI 训练 verifier 给每一步推理打分,过程可监督。
  6. GRPO 路线:DeepSeekMath 用组内相对分数,只奖励结果对,把 CoT 推向 RL。
  7. 未来趋势:CoT 和工具调用、代码执行、搜索结合,持续催生新能力。
· 7 min read

Corepack 让 packageManager 字段真正生效。

  1. enable:Node bin 下生成 pnpm/yarn shim
  2. prepare pnpm@x.y.z:下载指定版本到本地缓存
  3. use pnpm@x.y.z:写 package.json + 触发 prepare
  4. 核心目的:消灭全局安装,团队/CI 锁版本
  5. 权限来源:enable 要在 Node bin 写 shim
  6. 需要 sudo:apt/brew 装 Node,shim 在 /usr/local/bin
  7. 不需要 sudo:nvm/fnm 装 Node,shim 在用户目录
  8. 免 sudo 解法:--install-directory $HOME/.local/bin
· 7 min read

Agent 上下文不是越大越好,本质是在有限窗口里做信号密度管理。

  1. 4 个循环动作:select 选相关 / structure 结构化分区 / compact 压缩 / persist 外部沉淀,每轮对话都要走一遍。
  2. Context 是工作台,Memory 是后台仓库——工作记忆有限又金贵,跨轮次靠检索联动。
  3. 压缩不是写总结,是写交接文档,保留目标 / 进度 / 决策 / 约束 / 教训。
  4. 多 Agent 隔离:子 Agent 只拿必要信息,结构化结果回传主 Agent 整合。
  5. 6 个常见坑:上下文腐烂、压缩失真、工具结果膨胀、多 Agent 串扰、成本与延迟、难以评估。
  6. 评估四指标:任务成功率、事实准确率、token 成本、响应延迟。
· 7 min read

Pi 在不同尺度上各有名字:Session 是磁盘上的工作单元,Trace 是一次完整的 agent 循环,Turn 是其中一轮模型响应,Steer 和 Follow-up 是两个不同时机的消息注入口。

  1. 三个时间尺度:Session(持久化)包含 Trace(agent_start→agent_end),Trace 包含 Turn(turn_start→turn_end)
  2. Session:一个 JSONL 文件,跨多次 Trace 复用,Pi 的 Session 是什么? 里讲过存储和分支
  3. Trace:一次用户 prompt 触发的完整运行。模型自己开多轮 不会 拆出多条 Trace
  4. Turn:一次 assistant 响应 + 它的 tool 批,是事件层最细的颗粒度
  5. Steer:每个 Turn 开头都会去取一次,抢下一轮 LLM 调用的发言权
  6. Follow-up:只有 Trace 想结束时才去取,本质是续命,不是打断
  7. Queue Mode:one-at-a-time 一条一条发,all 攒齐一次性发
  8. 实战取舍:边跑边改用 steer,结束后追问题用 follow-up
· 13 min read

Pi 和 DeepSeek Harness(DSH)都允许大幅扩展 Agent 能力,但对不可替换核心的态度恰好相反。

  1. 共同起点:模型负责思考,harness 负责管工具、上下文、会话、Agent Loop
  2. Pi 思路:4 层骨架 + 30 个扩展事件,深层替换受宿主接口限制
  3. DSH 思路:模型、工具、会话、默认 Loop 全是插件,底座只有 Cordis
  4. 时空可组合性:Cordis 用注册反向操作做时间可组合,用依赖图做空间可组合
  5. 自进化:DSH 创造模式让 Agent 自己写插件重组 Harness,可逆卸载是基础设施
· 5 min read

AI Agent 产品的中间区域放什么,它就是什么产品——布局即定位。

  • 核心观点:中间放 chat、主工作区还是 artifact,决定了产品类型
  • chat 居中派:ChatGPT / Claude.ai / Perplexity,chat 是产品本身
  • chat 置右派:Cursor / Windsurf,主工作区是产品,chat 是辅助
  • 工作区居中派:Devin / Manus / v0,artifact 居中,chat 是命令面板
  • 判断标准:用户操作什么、产出什么、中间是输入还是输出
  • 设计反问:你想强调什么,就把什么放中间
  • 调布局成本:布局一旦定,所有功能都会被它框住,改一次代价巨大
发文趋势
近 12 个月 · 共 177 篇
10111212345678139