model-navigate

name: model-navigate description: "AI 模型导航与追踪系统（Model Navigate）。全自动化 AI 模型追踪流水线，覆盖采集→提取→校验→审核→推送全链路。当用户需要追踪最新 AI 模型发布动态、自动采集 llmstats.com / 腾讯研究院 / HuggingFace 的模型信息、用 LLM 从文章中提取模型数据、用 GPT-5.5 审核模型质量和重要性评级、生成钉钉日报并推送、批量补全模型字段（公司/尺寸/官网/发布时间/备注）时使用。触发关键词：模型追踪、模型导航、AI 模型采集、日报推送、模型审核、模型补全、llmstats、腾讯研究院。"

Model Navigate — AI 操作手册

本文档是给 AI 的操作手册。项目说明和安装指南请见 README.md。

项目定位

Skill 工作目录为本文件所在目录。核心入口是 main.py，运行时需要 .env 配置 API Key。

配置管理（三层分离）

项目参数按安全性和变化频率分为三层：

修改参数时：先判断属于哪一层，改对应的文件，不要在脚本里硬编码 URL 或 Key。

• 新增中国公司？→ 改 config.py 的 CN_ORGS
• 换 API 提供商？→ 改 .env 的 LLM_API_BASE
• 调超时阈值？→ 改 config.py 的 SUBPROCESS_TIMEOUT_MINUTES 等
• 换爬虫目标页？→ 改 config.py 的 TXRESEARCH_SOHU_URL

数据架构（v3：总表 + 增量归档 + 备份）

data/
├── Object-Models.xlsx          ← 唯一真相源（总表，全量模型记录）
├── increments/                 ← 增量归档（每次运行产出的新增模型快照）
│   └── YYYYMMDD_runHHMM.xlsx   ← 单次增量文件，含"触发时间"列
├── Backup/                     ← 总表备份（合并前自动备份）
│   └── Object-Models_YYYYMMDD_HHMM.xlsx
└── run_log.csv                 ← 运行记录（时间/来源/新增数/是否推送）

核心原则：

• 总表是唯一真相源：所有去重、查询、推送都基于总表
• 增量按次归档：每次流水线跑出的新模型，先写入 increments/，再合并到总表
• 合并前自动备份：防止数据损坏可回滚
• 去重标准：name.strip().lower().replace('-','').replace('_','').replace(' ','')

冷启动建议：首次使用时，可将已有模型数据直接放入 data/Object-Models.xlsx 作为初始总表。

Trace 审计与来源追溯

Trace/ 目录提供模型来源追溯和数据质量审计两大能力：

1. 流水线运行记录（自动生成）

每次流水线执行完毕后自动生成结构化运行记录：

• 路径：Trace/trace_{since}-{until}_{timestamp}.md
• 内容：执行参数、每步结果（SUCCESS/FAILED/SKIPPED）、数据质量填充率、产出文件清单、问题与不足
• 用途：复盘流水线是否按 SKILL 规范跑通、定位失败步骤、追踪历史运行情况

2. 人工校验审计工具（trace_audit.py）

cd Trace/

# 追溯指定模型的完整数据链路（从哪采的、经过哪些步骤、字段填充状态）
python trace_audit.py trace "pareto-code"

# 批量审计增量文件（可疑项标记 + 字段缺失清单）
python trace_audit.py audit --latest       # 最新增量
python trace_audit.py audit --all          # 全部增量

# 总表数据质量评分
python trace_audit.py quality

核心功能：

• 来源追溯：模型名 → 增量文件 → 采集脚本 → 具体数据源（llm-stats/OpenRouter/HuggingFace/NVIDIA 等）→ 完整链路图
• 可疑项检测：非 LLM 类混入（TTS/ASR/classifier/embedding）、占卜娱乐类、路由后缀名称异常
• 字段填充率：官网/备注/发布时间的填充状态，🟢🟡🔴分级
• 报告自动生成：输出到 Trace/reports/，Markdown 格式，便于人工审核

表格字段（14 列）

AI 能力等级：L0 纯机械 / L1 规则判断 / L2 需 AI 创作或 web search。

三阶段工作流

首次运行（冷启动）

本 Skill 支持从零冷启动——无需提前准备 Object-Models-Old.xlsx 基线文件。

1. 将本目录（或从 Skill 源复制）作为工作目录
2. 创建 .env 文件（参考 .env.example），填入 API Key、Webhook 等脱敏参数
3. 运行 python main.py --since YYYYMMDD --until YYYYMMDD

冷启动时 main.py 会自动创建空基线 Excel（含正确表头），无需手动准备。

阶段 A：自动采集（v3 八步流水线）

运行 python main.py --since YYYYMMDD --until YYYYMMDD，自动完成：

1. 数据采集 — auto_collect.py：多源采集（llmstats + 腾讯研究院 + HuggingFace + 平台目录 + LM Arena），2026+ 时效过滤
2. 增量去重 — 与总表 Object-Models.xlsx 对比，只保留新增模型，标记"触发时间"
3. AI 审核 — review_models.py：GPT-5.5 审核（名称规范 + 字段补全 + 重要性评级）
4. 数据校验 — verify_models.py：Web Search 校验新增模型的发布时间/官网/备注
5. 交叉巡检 — cross_check.py：LLM 联网搜索该时段新模型，与已有数据交叉比对，补漏遗漏模型
6. 合并归档 — 新增模型写入 increments/YYYYMMDD_runHHMM.xlsx，合并到总表，合并前自动备份
7. 钉钉推送 — push_dingtalk.py：生成日报推送（需 --push 参数）
8. 运行记录 — 写入 run_log.csv（时间/来源/新增数/是否推送）

阶段 B：AI 创作校验（你的核心任务）

在对话中完成以下步骤：

1. 读取文章全文：Extract/articles/ 下的 TXT 文件
2. 提取新模型信息：模型名称、公司、类型等
3. 生成语义化备注：web search + AI 知识综合，分号分隔
4. 核实发布时间：web search 交叉验证，不可只用未验证数据
5. 补全缺失字段：公司/类型/开闭源/尺寸/官网等
6. 去重：标准化后对比 s.strip().lower().replace('-','').replace('_','').replace(' ','')
7. 写入 Excel：需用户确认，提醒关闭已打开的 Excel

阶段 C：推送与验收

1. 数据质量检查（公司 100%、备注 100%、发布时间 100%）
2. 钉钉日报推送
3. 人工终判

操作规范

读写规范

备注风格

语义化标签式，分号分隔，中文为主、技术术语保留英文。

示例：

• MoE架构；1T参数；262k上下文；GPQA 90.5%；$0.95/4；MIT (modified)
• 视频生成；成本减半；Lite版本
• 开源Agent；内置学习循环

备注和发布时间是 L2 任务，必须 web search + AI 知识综合，禁止模板批量生成。

数据质量标准

进入推送前必须达到：

⚠️ 时效性校验机制（三重校验，强制执行）

核心原则："被报道" ≠ "当天发布"

腾讯研究院 AI 速递是新闻汇编，一篇 04-27 的速递可能报道过去一周内发布的模型。因此 LLM 从文章中提取的模型，不能直接假定其发布日期等于文章日期。必须经过三层校验。

第一层：LLM 提取时 Prompt 约束

extract_models_llm.py 的 Prompt 必须强调：

• 从文章正文中找到明确的发布时间锚点（"X月X日发布"、"昨日上线"、"今天宣布"等）
• 如果找不到明确发布时间，release_date 留空，不要用文章日期填充
• 输出字段增加 release_date_source：标注日期来源是"文中明确提及"还是"推断"

第二层：自动化交叉核实（代码层）

LLM 提取完成后，extract_models_llm.py 或 review_models.py 自动执行：

1. llmstats 交叉核实（已有）：匹配 llmstats JSON 中的发布日期
2. 时间窗口过滤（已有）：剔除发布日期明确在 since-until 窗口外的模型
3. 无日期模型标记：release_date 为空的模型标记为"待人工确认"，不自动写入主表

第三层：AI 对话中 Web Search 验证（人机协作层，必须执行）

在钉钉推送前，AI 必须对每个新增模型执行 web_search，验证：

1. 该模型的实际发布日期是否在时间窗口内
2. 如果 Web Search 确认发布日期在窗口外 → 剔除该模型
3. 如果 Web Search 无法确认 → 标记为"低置信"，提醒用户人工判断

校验流程：
LLM提取 → llmstats交叉核实 → 时间窗口过滤 → Web Search验证 → 人工终判 → 推送
                                                    ↑
                                              这一步之前经常被跳过！
                                              必须在推送前完成！

校验结果处理

双时间线机制

Excel 中维护两条独立时间线：

push_dingtalk.py 的 load_models() 会同时检查两列：只要任一日期落在 --since ~ --until 窗口内，该模型就纳入日报。这样确保：

• 按报道日期推送日报时，能包含当天报道但更早发布的模型
• 按发布日期查询时，能追溯到模型的真实发布时间

教训案例

2026-04-29 日报推送了 6 个模型，Web Search 事后验证发现其中 4 个（Vision Banana 04-22、StepAudio 2.5 ASR 04-24、uAI Nexus MedVLM 04-24、GPT Image 2 04-21）实际发布日期都早于 04-27，只有 HappyHorse 1.0 和 GenFlow 4.0 是真正在 04-27 发布的。根因：腾讯研究院速递汇编了过去一周的模型发布，LLM 提取时未区分"被报道"和"当天发布"。

常见陷阱

1. 不要假设 Excel 内容 — 必须先 pd.read_excel() 读取
2. 不要在 Excel 被占用时写入 — 提醒用户关闭
3. 区分"已做"和"可做" — 严禁把"可以核实"说成"已核实"
4. 备注和发布时间是 L2 任务 — 不要用模板规则替代 AI 创作
5. sub agent 统计需二次验证 — 用磁盘数据核实
6. str.format() 含 JSON 时花括号须转义 — {} → {{}}
7. 脚本创建后必须立即运行 — 不要假设"创建=已执行"
8. 模型名可能含隐藏换行符 — 写入前 replace('\n',' ').strip()
9. 多源写入同一张表时先对齐字段规范 — 关键字段取值必须统一
10. PowerShell 不支持 && — 用 ; 分隔；复杂 Python 逻辑写临时 _*.py 脚本
11. "被报道" ≠ "当天发布" — 腾讯研究院速递是汇编，文章日期不等于模型发布日期；推送前必须 Web Search 逐个验证

执行环境与进度输出规范

⚠️ IDE Shell 有 300 秒硬限制（前台/后台均适用）

IDE 的 shell 工具有 300 秒不可修改的硬限制（前台和后台模式均受限）。这是平台层面的约束，代码无法绕过。

执行策略：拆步执行

禁止一次性跑全流水线。必须按以下方式拆步：

# ✅ 正确：拆步执行，每步 < 4 分钟
shell("cd D:\yuwang\action; python -X utf8 main.py --step 1 --since ... --until ... --force")  # 步骤1 ~10s
# 步骤 2 含爬虫，通常超时 → 提示用户手动在终端执行，或跳过依赖缓存
shell("cd D:\yuwang\action; python -X utf8 main.py --step 3 --since ... --until ...")  # 步骤3 ~30s
# ... 逐步执行其余步骤

# ❌ 错误：一次跑全流水线
shell("cd D:\yuwang\action; python -X utf8 main.py --since ... --until ... --push --force")

步骤 2 特殊处理

步骤 2（auto_collect.py）含 Selenium 爬虫，通常 5-20 分钟，必超 IDE 300 秒限制。处理策略：

1. 如果 JSON 缓存已存在（TXresearch/articles_SINCE-UNTIL.json）→ 步骤 2 会自动使用缓存，可在 IDE 中执行
2. 如果需要爬虫 → 告知用户在独立终端（PowerShell/CMD）手动运行：

   cd D:\yuwang\action; python -X utf8 auto_collect.py --since YYYYMMDD --until YYYYMMDD
   

3. 阶段 B（AI 创作校验）不依赖步骤 2 → 可直接读取 Extract/articles/ 下的 TXT 文件在对话中完成

心跳探测机制

所有子进程调用统一使用 run_subprocess_heartbeat() 函数：

• 30 分钟上限：超时自动终止
• 每 60 秒心跳：检查子进程是否存活
• 5 分钟静默 = 不健康：超过 300 秒无输出则判定为卡死并终止
• 实时输出：子进程的 stdout 实时转发到终端/日志

长耗时步骤提醒

执行前主动告知用户哪些步骤耗时较长：

超时配置

执行失败处理

• 爬虫超时/卡死 → 心跳探测自动终止，检查已有文章缓存 TXresearch/articles_*.json
• LLM 提取失败 → 记录失败篇数，不阻塞流水线
• 任何步骤失败 → 终端输出恢复提示：修复问题后，可用 --step N 从失败步骤重新开始

--log 参数

python main.py --since YYYYMMDD --until YYYYMMDD --push --force --log pipeline.log

所有输出同时写入终端 + 指定日志文件，适用于后台运行时 AI 轮询监控。

命令速查

# 全流水线
python main.py --since YYYYMMDD --until YYYYMMDD

# 含推送
python main.py --since YYYYMMDD --until YYYYMMDD --push

# 单独推送（预览加 --dry-run）
python push_dingtalk.py --since YYYYMMDD --until YYYYMMDD

# 模型审核
python review_models.py

# LLM 提取
cd Extract; python extract_models_llm.py --since YYYYMMDD --until YYYYMMDD

# LM Arena 排行榜采集
python auto_collect.py --source lmarena --since YYYYMMDD --until YYYYMMDD

# LLM 交叉巡检（dry-run 预览）
python cross_check.py --since YYYYMMDD --until YYYYMMDD --dry-run

GPT-5.5 模型审核详情

review_models.py 对新增模型执行四项任务：

1. 模型名称规范性审核：检测产品泛称（无版本号），标记 should_remove
2. 旧模型检测：2024 年或更早的模型
3. 缺失字段补全：尺寸/发布时间/官网（高置信度自动应用，低置信度写入核实列）
4. 重要性评级：高/中/低 + 理由，输出格式 [重要性:高|理由文本]

三层过滤：Prompt 指令层 + 代码黑名单层 + GPT-5.5 审核层。