2023年2月17日,由中国信息通信研究院、CNCF、华为云联合主办的创原会·云原生技术创新峰会在四川成都圆满闭幕。会上,中国信息通信研究院云计算与大数据研究所副所长栗蔚分享了《云原生助力数字原生企业崛起》主题演讲,关于ChatGPT,关于云计算、关于数字原生新实体,栗蔚带来的思考和研究如下:
“OpenAI与云计算的联姻,就像大脑找到了中枢神经,不仅仅催生出ChatGPT这样的爆款产品,更是充分释放出以云计算为中枢神经构建的数字生命体的竞争力。”
“ChatGPT是同时拥有模型算法(脑区)和云计算(中枢神经)的系统化人工智能。云计算能够感知和调度巨量的分布式应用信息单元,促进多维脑区(模型算法)的进化,使ChatGPT越来越智慧。”
“云原生技术为ChatGPT超大规模的模型提供了大规模计算的统一分布式调度系统。云原生的每个节点就像数字世界的神经元,通过承载的不同类型模型参数,彼此调度链接通信,形成人工智能的不同机能。”
……
以下,便是栗蔚在主题演讲中分享的最新研究详情。
01
云计算是数字世界的中枢神经
数字化时代,云计算本质已经发生根本改变,实现了由最初的虚拟化技术向数字世界的中枢神经演升,从以服务化资源交付向云原生化价值赋能转变。云计算正在成为数字生命体的中枢神经,成为企业数字化转型的胎生力量。
只有脑区而没有中枢神经的智能是静止的智能。传统人工智能侧重模型算法创新,却忽略了智能是一个复杂的系统化工程,就像人的智慧是建立在完善的中枢神经之上的。模型算法实现的是机器学习能力,相当于人类大脑的认知脑区(脑力功能区的简称),人类有600多个脑区,但人类整体的智能应该包括脑区部分和中枢神经,中枢神经是由脑和脊髓组成(脑和脊髓是各种反射弧的中枢部分),比起早期腔体动物和节肢动物只能处理单维信息的中枢神经不同,人类的中枢神经可以同时、分布式传递和处理所有来自眼耳鼻舌身意的超高量信息至不同的认知脑区,并相互连接他们,促进脑区不断发育。
模型算法和云计算恰好分别扮演了脑区和中枢神经的角色。OpenAI与云计算的联姻,充分释放出以云计算为中枢构建的数字生命体的竞争力,大多企业和用户在聚焦模型算法优化改良时,不可忽略云计算作为中枢神经的作用。ChatGPT是构建在云上的人工智能,就像生物的进化一样,是脑区与中枢神经系统关系在数字世界的成功演绎。
ChatGPT的两个被津津乐道的创新是系统化工程的创新,这其中云计算功不可没,一是情景学习模式以及多模态(文本、代码、图片等多维度信息)输入;二是人类反馈强化学习(RLHF)的微调训练机制和提示导引模式。这两个创新中云计算的应用部署和离混部技术发挥了重要作用。
云计算作为中枢神经,作用有三:
01
是数字世界脑区(应用)调度算力的系统
云计算分布式调度超高量异构高性能计算GPU和通用计算CPU资源,支持ChatGPT模型的1750亿参数,对于异构的计算资源,云计算屏蔽了复杂的部署框架,给大规模参数一个标准化计算环境,可以高效使用异构算力,降低了大量开发的开销和运行的成本,提高了效率。
02
数字世界多维脑区(多维应用)接入、部署和连接的基础环境
云计算实现了多维模型参数的标准化部署,使得ChatGPT可以围绕某个主题同时学习多维(图像、语音、文本等)信息,大部分传统人工智能就像早期腔体动物只有一个脑区,只能学习训练单一维度参数,云计算可以将不同应用参数通过云原生容器等技术标准化部署在不同节点,并相互连接处理,通过云原生数据库等实现多维数据的统一处理,就像人类的大脑中枢神经一样连接处理不同层级和不同维度的脑区。
03数字世界实现存储记忆(离线训练)和各个脑区反馈(在线提示引导)的机制
通过云原生离线混部技术支持ChatGPT离线训练,在线提示引导的算法实现,就像人类中枢神经会不断传递经验和现实信息给大脑进行大脑信息修正,在用户看来ChatGPT可以根据交流调整答案,非常智能。
02
ChatGPT是“数字原生”人工智能,
云原生理念和技术是其胜出的重要因素之一
ChatGPT是长在云计算上的“数字原生”人工智能,就像生物进化先进化中枢神经一样,ChatGPT天生拥有中枢神经、多维脑区、开放学习能力和智慧创新的四位一体的智慧能力。云原生是中枢神经整体实现的关键技术内核,容器在其中就像上千上亿的神经元承担了不同应用计算能力和信息传递能力,算法在计算时将前端后端的神经元部署在不同的容器上,去进行每一个计算、传递和通信。
01
云原生技术为ChatGPT提供超大规模并行计算的统一调度分发服务能力,显著降低ChatGPT训练成本