红帽张家驹：大模型出现幻觉怎么办

经济观察网 记者 陈奇杰在生成式AI时代，开源社区公司都在关注什么？在10月26日举行的红帽2023论坛中国站上，开源解决方案供应商红帽（Red Hat）公司首席架构师张家驹在采访中向记者表示，在大模型应用场景中，“特别是企业级应用，很多时候我们要考虑确定性，虽然大多数时候能得到大模型的帮助，但一旦在应用、生产上出现幻觉的话，往往就是灾难。”

所谓“大模型幻觉”，指的是人工智能模型生成的内容，不是基于任何现实世界的数据，而是大模型自己“想象”的产物。

张家驹表示，“红帽跟IBM的结合，我觉得在生成式AI时代是非常重要的，相信会给行业带来很大转变。”他指出，现在引起业内讨论的大模型幻觉、AI治理问题，可能在一些环境里面，其他模型没有考虑那么多，但是IBM的模型在这一方面有独特优势。“另外，OpenShift AI平台不光可以跑IBM的模型，其他所有的开源大模型都可以跑，是一个开放平台体系。”张家驹补充称。

此前，红帽发布了生成式AI相关服务OpenShift AI。红帽首席技术官Chris Wright指出，在充分利用人工智能获得好处方面，基础模型可以为企业提供实实在在的好处，但仍需要在训练和微调方面进一步投资。红帽的企业级AI愿景依托红帽OpenShift AI的当前能力而制定，为基础模型在生产中的训练、维护、微调和实际使用奠定了灵活而且可扩展的基础。

不久之后，红帽母公司IBM又推出由红帽OpenShift AI提供支撑的基础模型watsonx.AI，该产品致力于为AI构建者提供利用开放直观的用户界面，以用来训练、测试、调整和部署由基础模型提供支持的传统机器学习和新的生成式AI功能。