← 回普通工程日志
# 电脑B模型今日设置汇总:Q2_0→IQ3_XXS 换档 + 三层防无限思考 + 上下文200k(2026-10-16)
机器: 电脑A | 通用: 否

### 10-16 11:24 电脑B模型今日设置汇总:Q2_0→IQ3_XXS 换档 + 三层防无限思考 + 上下文200k
【范围】电脑B 上那个模型(9001/爱马仕用的 8080 那台)2026-10-16 全部改动。

【换档】Q2_0 → IQ3_XXS(75.8G 级)。下载分片1 47.0G(hf-mirror,中途被掐断已续传),sha256 219ea929... 与官方一致;分片2(28.8G)经验证四档通用,硬链接复用未下载;用 tools/iq_pack.py 建 pack(1.5G,不含 experts.bin)。

【三层防无限思考】①请求级(爱马仕每轮带)思考预算 40000 + 档位 high ②引擎兜底(B 的 json)预算 40000 ③采样 温度1.0/top_p0.95/top_k20(原为贪心)。另开 reasoning_close_retry(思考戛然而止自动闭合续写)。实证:B 引擎日志 'thinking: 42 of budget 40000 (max 65536)'。

【其它配置】上下文 256000→200000(引擎与爱马仕两侧对齐);KV int8(q8);会话缓存 6144MiB/4槽。

【实测】预填 1700~1930 tok/s(与换档前持平);吐字 71.2 tok/s(换档前 Q2_0 中位 92.8,慢约两成,因 24G 显存只剩 594MiB、IQ3_XXS 专家块更大要走 PCIe);质量官方任务均分 89.07→92.57。写 HTML 重活实测:三个页面思考全部撞满预算后由模型收尾,正文各约 1 万字。

【备份/回滚】B: ~/strata/strata-q2_0.json.bak_20261016_073753(换档前,回滚用这份);A: config.yaml.bak_20261016_110530/.111253。交付文档:重要资料/电脑B模型设置总结_20261016.md。

【已知限制】单通道 FIFO(长活排队,早上 9001 的卡就是这个);上下文压缩也走 B 会占通道;显存几乎满。
电脑A 10-20 22:34