Jia Sui
3c2f3ae374
此前纠错只有交换（sahng -> shang）与 QWERTY 邻键（shabg -> shang）两类，
生成器在离线阶段就把「一个错串对应多个音节」的变体整个丢掉，运行时也只
取代价最低的一条切分。三类输入因此没有出路：漏字的（shng）、多敲一键的
（shangg、sjhang）、漏声母连基础切分都切不出来的（uanli 想打 quan'li）。
本次按专利 CN 101133411 B 的思路重排整条链路：错串可能对应的读音全部
保留到运行时，先由 k-best 切分带出平行读音，再让词典词频决定谁排前面。
- 纠错类型从两类扩到四类：新增漏字（shng -> shang）与多字（shangg 双打、
sjhang 邻键 -> shang）。两个新位跟随既有 autocorrect_transposition /
autocorrect_neighbor 开关联动（任一打开即生效），定义保持独立，留待
将来的独立配置键。查询与 preedit 重建共用同一映射，两侧纠正空间一致。
- 生成器从两表扩到四表并保留歧义变体（ahan -> {shan, zhan}）；同一条
(错串, 正确) 对被两条规则产出时在两张表各留一份，保证每个类型开关
单独有效。正确音节收敛进 kCorrectSyllables 单表、行内改存 16-bit
下标，一万七千多行不再各自重复音节字符串，--check 拦截过期表头。
- 切分层新增 autocorrect_cut_kbest：按位置自左向右做 top-k 假设传播，
排序键是（纠错边数，边权之和，生成序）——最少纠错优先的契约不变，
权重只在同边数内打破平局，引擎绝不用一条额外纠错换更低权重。边权取
专利 [0052] 允许的估常量（交换 10 / 漏字 11 / 多字 12 / 邻键 13），
标定路径是挖掘用户日志。漏字/多字边不等长，切分段改按 raw 长度推进
位置，preedit 分隔跟着原始字母的区间走。
- 词典层固定 k=9，为离线评测定值：漏声母键 uan 有 10-15 个等权漏字
目标，k=3 按表序截断够不到 quan'li 的正确读音；k=9 提升 R@1/R@3
且 p95 不变。主切分仍是查询键，其余读音交给
merge_alternative_segmentations 与主读法在词频下竞争；备选读音在
缓存命中路径同样发布，corrected_from 标记对全部纠错读音生效；纠错
读音排在音形别名读音之前。结尾单插入（shangg = shang + g）天然是
简拼尾形状，仍被简拼形守卫拦下——多字纠错的可达面在中间/开头插入
与多音节输入。
- 纠错门放宽：!segments.empty() 从门里去掉。BFS 工作在原始字母上，
基础切分为空的丢声母输入恰是最需要纠错的一批，jian -> ian 现在能
走到纠错候选并按词频合并到首位。简拼形守卫保留：合法音节加至多一个
尾字母（zheg）是用户意图，任何纠错表都不得改写。
- preedit 补两道防线：zheg 在显式三位掩码下仍走简拼守卫，不被漏字表
重排为 zheng；只有 BFS 切分的读音与 scheme 别名层完全一致时才按
BFS 位置重画分隔符，否则 sahng 会被切成 sa'hng 而候选实际来自
别名读音 shang。
新增独立评测工具 eval_quanpin_autocorrect：从真实 msime.db 采样高频
词条，按交换/邻键/漏字/多字模型注错，测 R@1/R@3、读音还原率与温态
p50/p95，固定种子可复现。它是评测工具不是测试，永远不进 CI，作为
纠错阈值与门逻辑改动的零回归标尺；注错规则与生成器逐键一致，改任一
侧须同一提交同步另一侧。
表格测试改为按 (错串, 正确) 对断言唯一并加覆盖门（合计 >= 4700 条），
新增歧义保留、漏字/多字变体、k-best 排序与权重定序、preedit 守卫等
用例；engine/tests 的 README 与 AGENTS.md 同步写清 imetest 与评测
工具两个产物的边界。
2.3 KiB
2.3 KiB
engine/tests
本目录产出两个独立二进制，共用 CMakeLists.txt 里的引擎源列表，互不依赖：
| 目标 | main | 用途 |
|---|---|---|
imetest |
src/test_pinyin.cpp |
引擎测试：全拼/双拼会话、退格、词典增删与查询时序；注册源只有 test_pinyin.cpp，CI 不执行，仅作本地跑测试的入口 |
eval_quanpin_autocorrect |
src/eval_quanpin_autocorrect.cpp |
全拼纠错离线评测：采样真实 msime.db 注错，测召回（R@1/R@3）、读音还原与温态延迟 |
构建
cmake --preset default
cmake --build build --config Release --target <imetest | eval_quanpin_autocorrect>
eval_quanpin_autocorrect 会把引擎源完整再编一遍（接近翻倍构建时间），日常改代码跑 imetest 即可，按需单独构建评测目标。
eval_quanpin_autocorrect：离线评测工具
这是评测工具，不是测试，永远进不了 CI：
- 依赖真实的
msime.db（用--db指定）和server/assets/tables资源目录（在仓库根目录运行，或--resource指定）。 - 不挂测试框架、不进断言，产出的是 markdown/CSV 报告，供人工对照基线。
- 存在的理由：纠错阈值、门逻辑（gate）或错误类型改动后，需要用同一把尺子复测。固定种子保证逐档样本一致，数字与历史基线可比。基线口径是「改动后各档不得低于基线值」的零回归门禁。
注错的变体生成规则（交换/邻键/漏字/多字、QWERTY 邻键表、长度与合法音节过滤）与 server/scripts/generate_quanpin_autocorrect.py 必须逐键一致——两侧漂移会让注错模型脱离纠错表的假设空间，基线失去可比性。改任一侧时在同一个提交里同步另一侧。
历史基线与采集笔记在归档任务目录：.trellis/tasks/archive/2026-09/09-12-quanpin-autocorrect-patent/eval/（阶段 0 基线）与 09-13-quanpin-insertion-autocorrect/eval/（insertion 上线前后对照）。
运行
# 仓库根目录执行；--model 可选 mixed|deletion|ambiguous|insertion
./engine/tests/build/bin/Release/eval_quanpin_autocorrect.exe `
--db <msime.db 路径> `
--samples 300 --seed 42 --model mixed `
--csv eval-mixed.csv > eval-mixed.md
参数细节与报告分节说明见 src/eval_quanpin_autocorrect.cpp 文件头注释。