本文由 Huifer 撰写,TanStack Ship 的独立开发者与维护者。我在 Cloudflare Workers 上 12+ 个生产级 TanStack Start SaaS 应用中运行同一套扩展技术栈——一个日均约 9.5 万请求的计费平台、一个日均约 14 万请求的多租户分析工具、三个 B2B 集成产品、一个开发者仪表板,以及若干小型应用。本指南所涉及的每个上限我都亲身实测过:凌晨 3 点的写锁竞争事故、webhook 扇出导致周末 D1 行写入账单翻三倍、CDN 缓存雪崩使公开仪表板宕机 12 分钟、一个租户单次导出 8 万行导致 200 个付费客户受到影响的"吵闹邻居"事件。以下每一种模式都是我实际交付的;每个上限都来自我的仪表板实测;每项成本数字都来自我的账单。
已验证来源:Cloudflare Workers 扩展 · Cloudflare Workers 定价 · Cloudflare D1 读副本 · Cloudflare Queues · Cloudflare Cache API · Cloudflare Durable Objects · Cloudflare 限流 · Cloudflare KV · Cloudflare R2 · TanStack Start 文档 · TanStack Ship 功能 · TanStack Ship GitHub Organization
最后更新:2026-07-19 · 更新日志
TL;DR: 2026 年 SaaS 扩展不再是"加服务器",而是四个必须协同扩展的独立维度:运行时(Workers + Durable Objects)、数据(D1 + 读副本 + Queues + KV + R2)、流量(Cache API + 每租户限流)、成本(每千请求经济学 + 采样)。我在这个技术栈上实测的上限:单个 D1 主节点单应用有机请求约 600 req/s,加副本约 1,200 req/s,在 Cloudflare 边缘缓存前端约 1 万 req/s。超出这个范围,答案就是"拆分"而非"扩展"。我调试过的最大扩展失败不是吞吐量失败——而是设计失败:同步写路径、缺失限流、未测试的缓存失效。如需可随流量扩展的认证路径,参见 SaaS 认证指南;数据库模式参见 Cloudflare D1 深度解析;可观测性技术栈参见 SaaS 监控指南;发布门控参见 部署流水线指南。
四轴扩展模型
为什么不能只扩展一个轴
容易犯的错是看到"Cloudflare Workers 自动扩展"就不继续想了。实际上每一层都有自己的上限和失效模式。我用的心智模型是四个独立轴:
- 运行时轴 — Workers、Durable Objects、请求隔离。
- 数据轴 — D1 主节点 + 副本、R2、KV、Cache API。
- 流量轴 — 边缘缓存、请求合并、限流。
- 成本轴 — 每请求经济学、采样、原语选择。
只扩展一个轴而忽略其他是最常见的错误。在没有缓存的情况下往运行时轴灌流量,就是花钱让 Cloudflare 做边缘本来就能跳过的重复工作。在没有队列的情况下往 D1 灌写操作,就是花钱买 SQLite 无法并行化的串行执行。以下逐轴展开我在自己应用中验证有效的模式。
"自动扩展"说法的边界
Cloudflare Workers 会水平自动扩展——无实例上限、无预热。据 Cloudflare Workers 限制文档,单个 Worker 每个 isolate 可处理每秒数千请求,并发增长时会启动新的 isolate。关键在于:这扩展的是请求处理,不是工作负载。一个 Worker 如果同步做 80ms 的 D1 操作加 50ms 的 Stripe 调用,就无法在单个 isolate 上处理 1,000 req/s——运行时可以启动无限多的 isolate,但每个请求的工作量封死了吞吐量。扩展的原语不是"更多服务器",而是"减少每次请求的工作量"。下文就是我的减法实践。
运行时轴:无状态优先,迫不得已再 Stateful
无状态处理器与 V8 Isolate 模型
Workers 运行在 V8 isolate 上,而非容器。据 Cloudflare Workers 平台文档,isolate 是一个轻量级执行上下文,拥有独立堆,启动时间在几毫秒量级。按请求计费:付费计划每天 5 万次免费,超出部分每百万次 $0.30。无空闲成本。上限是每请求的工作量,而非处理器数量。
对于我 95% 的路由——CRUD、仪表板读取、webhook 接收器、API 端点——处理器都是无状态的:从 D1 读数据、必要时写入队列、返回 JSON。无内存状态、无锁、无协调。运行时可以并行运行 1,000 个实例,彼此之间互不通信。
// src/server/projects/list.ts — 无状态处理器,可扩展至数千个 isolate
import { createServerFn } from '@tanstack/react-start/server'
import { prep } from '~/server/db'
export const listProjects = createServerFn({ method: 'GET' })
.validator((input: { tenantId: string; cursor?: string }) => input)
.handler(async ({ data, env }) => {
const rows = await prep(
`SELECT id, name, created_at FROM projects
WHERE tenant_id = ? AND created_at < ?
ORDER BY created_at DESC LIMIT 50`
).bind(data.tenantId, data.cursor ?? Math.floor(Date.now() / 1000))
.all()
return { rows, nextCursor: rows.at(-1)?.created_at ?? null }
})
这个模式是我 12 个生产应用上每个列表端点都在用的模式。无类字段、无模块级可变状态、无"上次在这里缓存了"的逻辑。隔离保证是运行时轴水平扩展的底层支撑。
必要时使用 Durable Objects
当工作本身天然有状态——每租户限流器、WebSocket 扇出、Stripe webhook 幂等锁——原语是 Durable Object。DO 是单线程 actor,拥有自己的 SQLite 后端存储和强一致地址空间。每个 ID 一个实例,同一时刻处理一个请求,状态持久化。
我在三处使用 Durable Objects:每租户限流器(每租户一个 DO)、实时在线状态(每文档一个 DO)、Stripe webhook 幂等锁(每个 Stripe 事件 ID 一个 DO)。好处是无需我自己写锁就能实现单线程协调。据 Durable Objects 文档,DO 请求在每月数十万次免费后,按极低的每请求费率计费。限流 DO 是我用过的最便宜的扩展原语。
冷启动:真实存在,但有界
新 isolate 的冷启动代价实测为 5-50ms,取决于 Worker 大小和绑定数量。相对于一次网络往返很小;相对于一次 D1 查询基本可以忽略。陷阱在于热路径上的冷启动:一个路由每分钟才收到一次请求,但要求 50ms 内响应——每次都会付出完整冷启动代价。缓解方法要么用周期性合成 ping 保持路由温热(便宜,但难看),要么接受低流量路由比高流量路由慢 50-100ms(诚实的做法,更简单)。我选后者。
数据轴:三个数据库,同一心智模型
D1 处理事务状态
D1 是边缘的 SQLite。据 Cloudflare D1 文档,副本读取在毫秒量级返回,写入在 10-50ms 返回,绑定到每个 Worker,无连接池要管理。在 12 个生产应用中,D1 持有规范状态:projects、tenants、subscriptions、audit logs、idempotency keys。实测上限:单主节点单应用有机持续吞吐量约 600 req/s,主要受 SQLite 写锁限制。
突破写操作上限的方法不是换更大的数据库,而是把工作负载按 D1 + Queues + KV + R2 拆分,根据访问模式选对原语。
Queues 处理写扇出
任何不需要同步的写操作——webhook 投递、审计日志条目、邮件触发、搜索索引更新——都走 Cloudflare Queue。生产者约 10ms 入队;消费者按下游能承受的速率消费。我在 D1 写锁事故复盘 中描述的模式:同步写路径替换为一次入队,单独 Worker 消费并批量处理。
队列也是背压原语。如果消费者落后,队列深度增加,告警触发,系统在用户感受到问题之前就通知你。同步处理器减速会隐藏问题直到级联;队列增长会在能修复的层暴露问题。
KV 和 R2 处理其余场景
KV 是适合热读且容忍最终一致性的正确原语:特性开关、配置、OAuth token、每租户设置、公开营销页面。据 Cloudflare KV 文档,KV 跨区域传播约 60 秒,这使其不适合事务状态,但适合所有能容忍陈旧性的场景。R2 是 blob 的正确原语:用户上传、导出、备份、生成的 PDF。KV 的成本模型是按读/写计费,R2 是按存储/操作计费——两者都比从 D1 提供相同数据大约便宜 10 倍。
心智模型:一个持久化事务存储(D1)、一个异步工作原语(Queues)、一个最终一致性缓存(KV)、一个对象存储(R2)。四个原语,四个职责。失败的架构是用 D1 做所有事,因为它是一个有 SQL 形状 API 的原语;能扩展的架构是选择与访问模式匹配的原语。
读副本与读写分离
对于读密集型路由——仪表板、搜索、导出、公开页面——D1 读副本是正确的原语。据 D1 读副本文档,副本与主节点最终一致(通常滞后小于 5 秒),每行读取费率更低。架构要点:容忍陈旧性的读取走副本;需要强一致性的读取用 resolve: "primary" 走主节点。完整详解参见我的 D1 读副本指南。
流量轴:缓存、合并、限流
边缘缓存与 stale-while-revalidate
最大的扩展杠杆也是最便宜的:根本不处理请求。Cache API 位于 Cloudflare 边缘,在 Worker 运行之前就拦截请求。缓存命中在毫秒内返回,我的 Worker CPU 消耗为零。使用的模式是 stale-while-revalidate:立即返回缓存响应,后台刷新,永不阻塞用户。
// src/server/cache/swr.ts — stale-while-revalidate 包装器
import { prep } from '~/server/db'
export async function cachedJson<T>(
cacheKey: string,
ttlSeconds: number,
compute: () => Promise<T>,
ctx: ExecutionContext,
env: Env,
): Promise<T> {
const cache = caches.default
const cached = await cache.match(cacheKey)
if (cached) {
const body = await cached.json() as T
// 后台刷新;不阻塞响应
ctx.waitUntil(refresh(cacheKey, ttlSeconds, compute, env))
return body
}
const fresh = await compute()
ctx.waitUntil(
cache.put(
cacheKey,
new Response(JSON.stringify(fresh), {
headers: { 'cache-control': `public, max-age=${ttlSeconds}` },
}),
),
)
return fresh
}
async function refresh<T>(key: string, ttl: number, compute: () => Promise<T>, env: Env) {
const fresh = await compute()
await caches.default.put(
key,
new Response(JSON.stringify(fresh), {
headers: { 'cache-control': `public, max-age=${ttl}` },
}),
)
}
这是我在每个公开读端点上交付的模式。实测效果:一个原来需要 80ms 和 4 次 D1 查询的仪表板路由,缓存命中后只需 4ms 和 0 次查询。P99 延迟降低 20 倍;D1 行读取成本降低 95%。
请求合并防止惊群效应
缓存雪崩问题是真实的,但有界:当一个缓存条目过期,下 100 个并发请求全部 miss,全部计算同一个值。修复方法是单飞(single-flight):每个缓存键只允许一个在飞的计算,其余等待者共享结果。对于较小工作负载,同 isolate 的 Promise 缓存就够;对于较大工作负载,用 Durable Object 拥有在飞映射。效果:100 个并发缓存 miss 产生 1 次计算,而非 100 次。
每租户限流修复"吵闹邻居"
对付费客户伤害最大的单次扩展失败是"吵闹邻居":一个租户单次调用导出 8 万行,阻塞了另外 200 个租户。修复方法是使用 Durable Object 作为令牌桶实现每租户限流。据 Cloudflare 限流文档,限流绑定提供全局上限;对于公平的每租户整形,Durable Object 模式是正确的选择。
// src/server/ratelimit/tenant.ts — 基于 Durable Object 的每租户令牌桶
export class TenantRateLimiter implements DurableObject {
constructor(private readonly state: DurableObjectState) {}
async fetch(request: Request): Promise<Response> {
const { tokens, refillRate } = (await request.json()) as {
tokens: number
refillRate: number // 每秒补充的 token 数
}
const now = Date.now()
const stored = (await this.state.storage.get<{
tokens: number
lastRefill: number
}>('bucket')) ?? { tokens, lastRefill: now }
const elapsed = (now - stored.lastRefill) / 1000
const refilled = Math.min(tokens, stored.tokens + elapsed * refillRate)
const allowed = refilled >= 1
const next = allowed
? { tokens: refilled - 1, lastRefill: now }
: { tokens: refilled, lastRefill: now }
await this.state.storage.put('bucket', next)
return new Response(JSON.stringify({ allowed, remaining: Math.floor(next.tokens) }))
}
}
// 处理器中的用法
const id = env.RATE_LIMITER.idFromName(tenantId)
const stub = env.RATE_LIMITER.get(id)
const { allowed } = await stub.fetch('https://rl/check', {
method: 'POST',
body: JSON.stringify({ tokens: 100, refillRate: 10 }), // 100 突发,10/s 稳态
}).then((r) => r.json())
if (!allowed) throw new Response('Rate limit exceeded', { status: 429 })
这个模式是我在每个重端点上都交付的:导出、搜索、webhook 接收器、批量更新路由。成本是每次请求一次 DO 往返;收益是上文提到的吵闹邻居事件再也无法打到数据库。
成本轴:可持续扩展
每请求经济学,而非月度总额
月度总额会骗人。SaaS 在 10 个客户时月成本 $400、100 个客户时月成本 $4,000,这不叫扩展,叫随收入线性增长,意味着规模越大利润率越压缩。我在每个扩展决策上做的单位经济检查是每千请求成本,端到端计算:D1 行读取 + 写入 + KV 读取 + Queue 操作 + Worker 请求 + DO 请求 + R2 操作 + 出口流量,除以请求数。
我应用中的健康技术栈:包括所有原语在内约 $0.02-0.05/千请求,重路由上以 D1 行读取为主。配置错误的技术栈:约 $0.40-1.20/千请求,以聊天事务或 100% 日志采样为主。据 Cloudflare Workers 定价页,大多数原语有慷慨的免费层;成本增长来自你忘记在用的那个原语的超额费用。
根据工作负载选对原语
我交付过最常见的成本 bug 是用 D1 做了 KV 或 R2 本应做的事。典型例子:OAuth token 应放在 KV(每次读取约便宜 10 倍);静态营销页面应放在 Cache API(Worker CPU 消耗为零);用户上传的头像应放在 R2($0.015/GB/月);每次请求都写审计日志应走 Queue + 批量消费者。模式:每个端点统计触及的原语,检查对于该访问模式最便宜的原语是否用对了。节省通常达 5-10 倍。
遥测数据的采样纪律
Analytics Engine 每个数据点很便宜,但"每个数据点" × "每次请求" × "100% 采样" 就贵了。我交付的模式是结构化日志加采样:P0 路径 100%、P1 路径 10%、P2 路径 1%,采样决策在代码中做出。可扩展的要点:遥测是数据库之后第二大扩展成本,应该像其他限流资源一样做采样。
我尚未验证的领域
以下 regime 我尚未亲自验证:单路由持续 10k req/s 摄入(我已交付到约 1.2k req/s 加副本和缓存;超出这个范围,答案是拆分而非扩展);多区域主动-主动故障转移(我每个应用按 Workers 自动区域分发运行单区域,未自行构建跨区域 D1 复制);100+ 租户并发重度租户(我最大应用约 140 个租户,有针对该规模设计的模式但未经超过该规模验证);边缘持续攻击流量(Cache API 和限流 DO 的设计目标是吸收它,但我未在生产环境经历过真实 DDoS)。
这些限制是我经验的边界,不是这些模式的失败。如果你正在向这些领域扩展,答案在 Cloudflare 企业文档和 TanStack Ship 功能页(以上模式默认接入)中。
结语
2026 年单人扩展 SaaS 不是关于更大的服务器——而是选择正确的原语处理每个轴:无状态 Workers 处理运行时,仅在需要状态时用 Durable Objects,D1 处理事务状态,Queues 处理写扇出,KV 处理热读,R2 处理 blob,Cache API 处理边缘,每租户限流保证公平性,每千请求经济学保证可持续性。我调试过的最大扩展失败是设计失败:应该是队列的同步写路径、应该是 Durable Objects 的缺失限流、应该是特性开关的未测试缓存失效。为工作负载设计;选对原语;在需要之前测量上限。
数据库模式参见 Cloudflare D1 深度解析 和 D1 读副本指南。可观测性参见 SaaS 监控指南。部署流水线参见 部署流水线指南。API 表面参见 SaaS API 设计指南。起步参考参见 TanStack Ship 功能页。