Domyn 借助 NVIDIA Nemotron 为受监管行业定制 AI 模型

NVIDIA Developer 的直播介绍了 Domyn 公司如何利用 NVIDIA Nemotron 开源生态，为受监管行业构建和定制专属 AI 模型，包括一个 263B 参数的推理模型和若干面向特定领域的小模型。其训练流程涵盖模型压缩、多语言持续预训练、监督微调和强化学习，在文本到 SQL、知识图谱抽取和安全性分类等企业任务上取得领先效果。

监管行业对模型的所有权、控制和治理要求严格。此前企业通常依赖通用模型，难以满足透明度与审计需求。Domyn 展示了基于开源生态构建专用模型的具体路径，可能推动更多受监管企业效仿，采用可定制、可审计的 AI 方案。

受监管行业需要端到端的治理、透明度和可审计性，因此模型必须由企业完全掌控。Domyn 通过模型压缩、多语言持续预训练、监督微调和强化学习，利用 NVIDIA Nemotron 开放工具链，从基础模型出发定制出领域专用模型，从而在特定任务上达到领先表现，同时保持所有权。

对于需要满足合规要求的产品，可借鉴此模式，利用开源模型自行训练专属模型，以增强数据主权和定制能力。但定制化训练需要较高技术投入和时间成本，可能影响研发周期；模型压缩技术则有助于在保持性能的同时降低部署资源消耗。

• 为金融、医疗等受监管行业开发基于自有数据的定制法律合规问答助手，提供全链路审计日志。
• 将开源基础模型压缩并部署到边缘设备，实现低延迟、合规的本地文本转 SQL 查询服务。
• 建立知识图谱抽取服务，用于客户关系管理和风控，满足透明性和可解释性要求。

• Domyn 的 263B 模型具体在哪些行业投入生产？
• 训练定制模型所需的算力和成本规模如何？
• 与其他开源替代方案相比，Nemotron 生态的独特优势是否已被充分证实？
• 该方案如何保证端到端的可审计性，是否有具体技术实现细节？