2026年6月,九天·天行行业大模型完成新一轮重大升级。本次升级在推理效率、行业知识注入和多模态理解三个维度实现显著突破,进一步夯实了九天技术在行业大模型领域的竞争力。
核心升级
MoE架构全面升级
新版天行大模型从稠密架构切换至MoE(混合专家)架构,总参数量保持在合理范围,但每次推理的活跃参数量降至37B。这一改变带来了显著的性能提升:
🚀 性能对比(新版 vs 旧版)
· 推理速度:提升3.1倍(同硬件条件下)
· 单次推理GPU显存占用:降低约58%
· 并发吞吐量:提升2.7倍
· 活跃参数量:37B(旧版稠密模型全量激活)
行业知识深度注入
本次升级新增了超过800万条行业专业知识数据,覆盖政务、能源、制造、民生四大垂类领域。通过持续预训练(CPT)+ 指令微调(SFT)+ 强化学习(RLHF)三阶段训练,模型在专业问答准确率上实现大幅提升:
- 政务问答:准确率从85.3%提升至93.1%(基于内部评测集5000题)
- 能源设备故障诊断:准确率从78.6%提升至92.4%(基于某能源集团实测数据)
- 制造业工艺优化建议:专家采纳率从67%提升至89%
- 民生政策解读:语义理解准确率从88.1%提升至94.7%
多模态理解增强
新版天行增强了视觉理解能力,支持对工业现场照片、设备监控画面、城市治理场景图片的自动识别与分析。例如,在能源巡检场景中,模型可以通过分析无人机拍摄的光伏面板照片,自动识别热斑、隐裂等缺陷。
技术细节
训练数据治理
行业知识注入的关键不在于数据量,而在于数据质量。九天技术建立了完整的行业数据治理流水线:
- 数据采集:从合作单位脱敏获取、公开政策文件、行业技术标准、专业教材等
- 数据清洗:去重、去噪、格式标准化,自动过滤低质量内容
- 专家标注:行业专家参与关键样本的人工校验与标注
- 持续迭代:根据实际使用反馈持续补充高质量数据
推理优化
除了MoE架构本身带来的效率提升,天行还采用了vLLM推理引擎的PagedAttention技术,大幅降低了KV缓存的显存碎片。结合量化推理(INT8),单卡可支持的并发请求数提升了4倍。
未来计划
下一阶段,天行大模型将重点在以下方向持续优化:
- 更长上下文支持(目标128K→256K),适配复杂政策法规分析场景
- 边缘端轻量化版本,满足数据不出域的离线推理需求
- 工具调用能力增强,更精准地对接政企现有业务系统
九天技术始终坚持以行业需求为导向,持续打磨天行大模型的专业能力,让AI真正成为政企客户的好帮手。