首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >AI写小说上下文只有 128k,怎么记住一本 70 万字的小说,怎么解决AI写作上下文记忆问题

AI写小说上下文只有 128k,怎么记住一本 70 万字的小说,怎么解决AI写作上下文记忆问题

原创
作者头像
用户12865354
修改于 2026-11-20 10:53:38
修改于 2026-11-20 10:53:38
330
举报
文章被收录于专栏:写作智能体写作智能体

一、AI写作上下文管理问题需要解决的问题,我们看看具体数据分析,以260章、70万字为例

项

数值

说明

成书规模

260 章 / 70 多万字

单部作品

单章

2400–3000 字

目标区间

窗口

128k(按 token 计)

中文按 1 字 ≈ 1 token 粗算,约 12 万字符量级

结论

正文是窗口的 6 倍以上

塞不下,而且不是差一点,是差一个量级

所以问题从一开始就不是"怎么塞",而是"塞什么进去"。

这个认知一换,架构就变了:不再问"能不能把前文放进去",而问"这一章到底需要知道哪些东西"。前者是容量问题,后者是检索问题。

我们内部有一句话:"模型不需要记住整本书,它只需要在当前这一步做对。"

有一个常见的反驳:现在不是有 1M 上下文的模型了吗?是。但窗口变大只改变"能塞多少",不改变"70 万字正文塞不进"这个事实——1M token 约等于 100 万字符量级,70 万字正文勉强塞得下,代价是每章都付这个钱,而且中段信息的利用率会掉。预算表的思路不随窗口变大而失效。


二、方案:把 128k 当预算表来分

一份能长期跑下去的分法,不是"能塞多少",而是分几块、谁是大头、超了裁谁:

预算项

量级

为什么

固定开销:四类锚点(文风 / 人设 / 主线 / 伏笔)

大头之一

不随章数变,是所有章节的"共同标准"

固定开销:当前环节的规则卡

大头之一,通常是最大的一块

只加载当前环节那一张,不是全部 26 张

本章框架:本章结构、场景、戏眼

很小,但必须有

一章一个,量小

台账取用:出场人物 + 引用事实 + 最近几章摘要

只占一小份

按需取,不按库存取

输入合计

6–7 万字符(实测)

与实测吻合

留给输出

必须留够

单章 2400–3000 字 + 余量

这张表是全篇最值钱的东西。它把"上下文管理"从"能塞多少"变成了"分几块、谁是大头、超了裁谁"。

三个立刻能看出来的结论:

  1. 固定开销占了大头——锚点和规则卡加起来接近一半。 这就是为什么"短篇不划算":两三千字的短篇也要付这份固定开销;
  2. 留给输出必须留够(三到四成这个量级)。 输出预算被挤掉的表现很直观:章节写到一半被截断,或者越写越短;
  3. 台账只占一小份。 有人以为"加台账会让上下文爆炸",实际它是替代了线性增长的那几十万字符,不是叠加。

2.1 检索的四条规矩

① 锚点和规则卡常驻。 四类锚点 + 当前环节的规则卡,每个环节都带,体积固定。

② 人物只取本章框架里列过场的那几个,不取库里全部。 本章框架里没列出场的人,就是不该出场的人——这既是省预算,也是一条内容约束。

③ 事实只取本章引用到的那几条,不取全部设定。

④ 前情摘要只取最近几章,不取全部摘要;伏笔只在框架和审查环节取,且只取"该回收还没回收"的。

这四条合起来,输入体积就和章数脱钩了。 第 260 章和第 10 章取的东西一样多——因为它们都只取"这一章需要的"。

超预算时,裁剪顺序同样是想清楚过的:先裁前情摘要,再裁事实条目,最后才动本章框架;锚点和规则卡永不裁。 顺序是业务规则,不是体积排序。按体积排,最大的块一定先被裁,而最大的块通常正是锚点。

2.2 什么该进台账,什么不该

这是最容易做错的地方。判断标准只有一个:这个东西"能不能被键唯一确定"。

内容

能不能进台账

理由

人物性格、关系、能力边界

能

有主键(人物),记录稳定

世界观设定、数值、时间线

能

有规范键(世界 / 物品 / 关系分层)

伏笔埋设 / 回收状态

能

有明确状态(已埋 → 已回收)

每章固定几项摘要

能

有主键(章号)

"这段描写当时的语感"

不能

无法键化,只能靠锚点示例

"整体气质要冷"

不能

无法判定,只能靠示例

灵感、临时想法

不能

没有稳定形态,写进台账就是污染

一句话:能键化的进台账,不能键化的进锚点示例,两样都不是的,别硬存。


三、实测条件与判据

项

值

测试时间

2026 年 9 月 – 2026 年 10 月

模型

DeepSeek V4.1 Flash(全流程同一模型)

流程

8 环节状态机,每环节等待确认

单章目标字数

2400–3000 字

连续推进

260 章 / 70 多万字

统计口径

每次请求记录 prompt 字符数、章节号、环节、输出长度

判据(什么算"记忆机制失效"):

  1. 第 100 章之后的单章输入体积,比第 10 章高出 50% 以上(这是"假台账"的唯一硬指标);
  2. 需要的人物 / 事实条目没被注入,导致产出与台账冲突(属检索配置错误,单独记);
  3. 输出被截断,或单章字数连续 5 章低于目标区间下限(属预算配置错误)。

四、数据

指标

数值

说明

单章输入

6–7 万字符

不随章数增长

第 260 章 vs 第 10 章

基本持平(差异在 5% 内)

同题材同流程

人物一致性失败

0 次(触发审查后返修)

台账比对生效

伏笔断线(超 30 章未收)

0 次

伏笔台账追踪

返修率

约 8%

主要为薄章与场景重复

连续推进

260 章 / 70 多万字

单部作品

为什么"不涨"这么重要? 它是记忆机制是否真的生效的唯一硬指标。如果第 260 章的输入涨到了几十万字符,那所谓台账就只是个更花哨的提示词。

内部实测,不代表别人复现同样结果。


五、结论

把窗口当仓库,你永远在算"还能塞几章";把窗口当预算表,这个问题会自动消失。

三条能直接抄的建议:

  1. 先写一张"每项占多少"的表,再动手。 固定开销、本章框架、台账取用、输出预留四栏,写不出来说明你还没想清楚要检索什么。
  2. 检索键用确定性字段,别用向量相似度。 长篇里"召回错了"比"召回少了"贵得多——一次人设冲突要倒回去改好几章。
  3. 给输出留足三到四成,并写进配置。 输入挤满的表现不是报错,是"这一章莫名变短了",很难定位。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

目录
  • 一、AI写作上下文管理问题需要解决的问题,我们看看具体数据分析,以260章、70万字为例
  • 二、方案:把 128k 当预算表来分
    • 2.1 检索的四条规矩
    • 2.2 什么该进台账,什么不该
  • 三、实测条件与判据
  • 四、数据
  • 五、结论
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档