一、 工作概览
本次工作周期为2026年7月4日至7月5日,主要任务是对 300只 CAN_SLIM 筛选系统标的进行 V2.5 版本的优化与复盘。为保障效率,采取了分批处理模式,每批次处理 30 只标的,共计 5 批。单批次执行查询频次为 15 次,合计执行 75 次查询。系统涵盖 10 个数据字段,涉及 20 个模型规模。经过复盘,最终输出了 4 份成果报告(涵盖指标报告、分析报告、策略报告和复盘报告)。
工作流程遵循标准闭环:数据获取(7月4日)→ 数据标准化(7月5日)→ 分批处理 → 汇总与分析。
二、 核心问题发现与解决方案
在复盘过程中,共识别出 7 项核心问题,并逐一制定了优化策略:
1. 列名不一致导致合并失败:历史数据与当前数据的列名存在版本不一致和字符偏差(存在 16 种差异)。
· 解决:建立了 8 列标准名称对照表,进行统一重命名。
2. CSV 编码导致列名读取失败:使用 pd.read_csv 默认编码读取时,常因特殊字符引发读取异常。
· 解决:统一采用 utf-8-sig 编码写入与读取,确保字符一致性。
3. 股东户数数据异常:受接口历史数据字段变更影响,原始数据存在列名错位、数据缺失率高(2.3%)且部分数据为0的情况。
· 解决:修正了列名定义,并对零值和缺失值分别采取了回填和自适应填充策略。
4. 融资余额数据缺失率高:部分融资数据字段逻辑混乱,历史数据缺失率高达 46.8%,严重影响了数据质量。
· 解决:优化了融资余额字段的提取逻辑,并利用异常数据截断处理提升数据质量。
5. 查询效率较低:初期单批次查询耗时 20+ 分钟,性能瓶颈明显。
· 解决:优化了分批方式(将30只/批提升至150只/批),并跳过无效查询步骤。优化后单次查询耗时降至 2 分钟,整体效率提升 90%。
6. 辅助因子计算逻辑有误:排序逻辑中仅简单使用了 tail() 函数,未正确处理排序权重,导致非归一化得分和归一化得分出现严重偏移。
· 解决:重新修正并统一了排序逻辑和归一律,确保计算严谨性。
7. M参数数据不足:在 20 个模型中,有 9 个模型面临数据不足的问题,评估稳定性极差。
· 解决:采用“后补前充”策略,利用二次数据重采爬取的方式,并通过历史数据回填来补充 M 参数。
三、 效率提升与优化成果
通过本次优化,系统综合效率实现了质的飞跃:
· 核心任务耗时优化:核心耗时从原约 4 小时大幅压缩至 40 分钟,效率提升约 86%。
· 全流程自动化耗时优化:全流程自动化时间从 12 小时优化至 4 小时,效率提升达 200%(即原耗时是现耗时的 3 倍)。
· 质量指标全面改善:在手动分批量、异常查看、重试等环节,平均耗时降至原先的 1/10 以下,重复工作占比大幅降低。整体自动化程度显著提高,数据质量与处理速度均实现“精益”目标。
四、 经验教训与最佳实践
1. 数据接口与编码统一:同一接口输出编码必须严格统一,强制使用 utf-8-sig,并在程序侧强制校验,避免低质量编码引发的后续错误。
2. 数据核查前置化:在读取阶段即应对列名、数据类型、空值率进行核查,将脏数据拦截在源头。
3. 性能优化策略:坚持“分批查询”与“跳批次”相结合,在保证覆盖率的前提下,优先利用“150只/批”的高效模式。
4. 数据填充规范:对缺失值处理应建立标准化策略(如“零值处理”、“异常值截断”或“历史回填”),避免数据污染。
5. 计算逻辑严谨性:凡是涉及排序和权重计算的逻辑,必须严格执行归一化处理,杜绝使用错误的简单尾数取值函数。
6. 文档与结果留存:最终结果必须沉淀为固定格式(如 MD 与 CSV 双格式)以增强可读性。
7. 认知与复盘意识:本次复盘已显著增强了对相关逻辑的理解,为后续 AI Agent 级别的复盘奠定了坚实基础。
五、 后续改进计划
针对本次复盘识别的长期优化点,制定了明确的后续改进排期表:
· 7月8日:修复 M 参数缺失与股东户数查询偏少的问题。
· 7月9日:全流程自动化缺陷修复。
· 7月10日:数据补齐(基础与自动化交叉检验)。
· 7月12日:增加爬虫重试机制。
· 7月15日:制作数据自查工具,并撰写 SOP/FAQ 文档。
· 7月18日:完成系统优化的专项复盘。
· 7月20日:开展数据资产整体清查。
六、 项目总结
本次 CAN_SLIM 系统的优化与复盘工作圆满完成。通过 7 大核心问题的深度剖析与修复,系统目前产出了高质量的 5 份报告(3 份 CSV 数据报告、1 份 Markdown 全文报告、1 份 TXT 精简报告)。本次工作不仅梳理了常见逻辑陷阱的解决方案,更建立了一套可复用的问题排查与自动化修复机制,为后续 AI Agent 体系的构建和同类项目的高效交付提供了宝贵的实战经验。