跳转到内容

为什么重复运行更便宜

dassi 第一次做一个任务时,付的是全价。之后每一次,大部分成本都已经没了。

一次运行的成本:第一次 vs 之后每一次 两根柱子。第一次运行由三部分组成:读取所有内容、摸清网站、做实际工作。之后每次运行,前两部分缩成一小条,柱子其余部分消失;只有实际工作保持同样大小。 第一次运行 读取所有内容 摸清网站 实际工作 之后每一次 这部分你不再需要付费 实际工作 — 同样的活,同样的价 dassi 已经发过的上下文 — 复用,不重新处理 摸清页面 — 被 dassi 自己写的捷径替代
示意图。实际能省多少取决于任务、网站,以及你指向的模型服务商。
提示中重复的部分保持完全一致,以便复用 两次运行并排。每次都是一根柱子,由一大块重复部分和一小块今天的请求组成。第二次运行中重复部分完全相同并标为已复用;只有小块是新的。日期放在小块里,而不是重复部分里。 第 1 次 指令 · 你教它的 · 你的规则 今天的请求 第 2 次 字节完全相同 — 复用,不重新处理 今天的请求 所有会变的东西 — 包括日期 — 都放在这里 →

dassi 发送的大部分内容每次运行都一样——指令、你教它的东西、你的规则。任何跑模型的东西都可以复用重复的部分而不是再嚼一遍,条件只有一个:它必须和上次完全一致地到达。

所以 dassi 让它保持一致,并把所有会变的内容都放在外面——连日期也是。不管谁在跑模型——大型服务商、你自己的机器、你租的服务器——复用都是同一个技巧。唯一的区别是你拿回什么:账单上的折扣(在 Claude 上,复用部分最高省 90%),或者不用再花的重新处理时间。

第一次访问读取页面并写下捷径;之后的访问调用捷径 两行。第一次访问:页面流向读取整页,再流向任务完成,下方写下一个捷径。之后的访问:页面直接经过捷径到任务完成,跳过读取步骤。 第一次访问 页面 读取整页 任务完成 写下捷径 之后每次访问 页面 调用捷径 任务完成

成本的另一半是摸清页面——哪个按钮才是对的、表格在哪、表单要什么。

dassi 在一个网站上工作时,会给自己写一个捷径:一小段知道东西在哪的代码。下次它直接调用捷径,而不是再读一遍页面。

两者叠加:一个每周跑的任务,复用了大部分发送过的内容,跳过了大部分读过的内容。第一次运行为思考付费;重复运行不应该——所以一个任务保留得越久就越便宜。

  • 新工作按新工作的价格算。 这是针对重复的折扣。dassi 从没做过的任务、从没见过的网站,付全价。
  • 省多少不一定。 托管模型把它变成账单上的折扣;你自己的硬件把它变成时间。无论哪种,收益的大小取决于任务里到底有多少是重复的。
  • 网站改版会重置捷径。 网站形态变了,dassi 为它写的捷径可能不再适用,它会回到直接摸清页面的方式,直到学会新版。