为什么工业企业选择私有化部署工业大模型？

为什么越来越多的工业企业选择私有化部署工业大模型？该如何部署自己的工业大模型产品？

复旦大学计算机学院教授、中工互联首席科学家张奇作如下表述：

图：中工互联首席科学家张奇教授

1、安全

对于云端部署的大模型，企业往往存在这样的顾虑：核心数据无法确保绝对安全，一旦泄露将付出沉重代价。作为企业核心资产的生产数据和管理数据，是不能离开企业的。大多数工业企业更倾向于采用私有化部署的方式，将大模型的训练、应用等全流程置于内网环境中。如此一来，现有的安全防护体系可以与大模型系统无缝对接，数据安全性就可以得到有力的保障。

2、实用

我们在训练过程中，会使用几百亿的模型。但在企业级场景中，大多数任务只需数十亿的模型就能高效完成。我们会针对不同的应用场景，对大模型进行适当压缩和优化，从而最大限度发挥大模型的性能并确保私有化部署的便利性。

图：复旦大学计算机学院教授张奇