2026年6月,九天·天行行业大模型完成新一轮重大升级。本次升级在推理效率、行业知识注入和多模态理解三个维度实现显著突破,进一步夯实了九天技术在行业大模型领域的竞争力。

核心升级

MoE架构全面升级

新版天行大模型从稠密架构切换至MoE(混合专家)架构,总参数量保持在合理范围,但每次推理的活跃参数量降至37B。这一改变带来了显著的性能提升:

🚀 性能对比(新版 vs 旧版)

· 推理速度:提升3.1倍(同硬件条件下)

· 单次推理GPU显存占用:降低约58%

· 并发吞吐量:提升2.7倍

· 活跃参数量:37B(旧版稠密模型全量激活)

行业知识深度注入

本次升级新增了超过800万条行业专业知识数据,覆盖政务、能源、制造、民生四大垂类领域。通过持续预训练(CPT)+ 指令微调(SFT)+ 强化学习(RLHF)三阶段训练,模型在专业问答准确率上实现大幅提升:

多模态理解增强

新版天行增强了视觉理解能力,支持对工业现场照片、设备监控画面、城市治理场景图片的自动识别与分析。例如,在能源巡检场景中,模型可以通过分析无人机拍摄的光伏面板照片,自动识别热斑、隐裂等缺陷。

技术细节

训练数据治理

行业知识注入的关键不在于数据量,而在于数据质量。九天技术建立了完整的行业数据治理流水线:

  1. 数据采集:从合作单位脱敏获取、公开政策文件、行业技术标准、专业教材等
  2. 数据清洗:去重、去噪、格式标准化,自动过滤低质量内容
  3. 专家标注:行业专家参与关键样本的人工校验与标注
  4. 持续迭代:根据实际使用反馈持续补充高质量数据

推理优化

除了MoE架构本身带来的效率提升,天行还采用了vLLM推理引擎的PagedAttention技术,大幅降低了KV缓存的显存碎片。结合量化推理(INT8),单卡可支持的并发请求数提升了4倍。

未来计划

下一阶段,天行大模型将重点在以下方向持续优化:

九天技术始终坚持以行业需求为导向,持续打磨天行大模型的专业能力,让AI真正成为政企客户的好帮手。