当前,大模型引发的AI再造产业趋势已经势不可挡,对于支撑AI的底层数据库而言更是如此。“以ChatGPT为代表的超大语言模型的迅速应用将引发云计算与数据库行业的大变革。”北京酷克数据科技有限公司(简称“酷克数据”)联合创始人兼CEO简丽荣近日在接受《中国电子报》记者专访时表示。大模型热潮将改变云计算和数据库市场竞争维度,加速企业IT架构向分布式和并行化发展的趋势,这也符合“东数西算”的政策导向。同时,大模型将会推动多云化的普及,具备中立性、产品支持多云部署的独立数据库厂商将有望从中受益。
数据处理全链路将被重塑
(资料图片)
AI大模型是基于海量多源数据打造的模型,需要通过不断地训练从大量标记和未标记的数据中捕获知识,并将知识存储到大量的参数中,以建立对各种任务进行高效处理的技术架构。它具备通用、可规模化复制等诸多优势,是实现AGI(通用人工智能)的重要方向。
“‘数据仓库’‘数据平台’和‘大模型’本质上都是为了更好地回答决策问题。从某种意义上讲,它们之间是相辅相成的。”简丽荣表示,一方面,数据仓库成熟的数据管理、清洗、并行处理技术,可以有效提升训练、微调大模型所需训练数据的处理流程;另一方面,数仓作为天然的事实数据或知识管理平台,可以为生成式AI提供正确答案所需的上下文,有效解决大模型普遍存在的“幻觉”问题。数仓和大模型的有机结合,可以更好地帮助企业实现辅助决策。
区别在于,大模型处理数据的方式明显不同于现在主流的数据仓库、数据平台。数据仓库、数据平台往往会把原始数据编制成二维表格,然后进行数据清洗、规整、补全等处理,最终通过复杂的SQL实现商业智能。而大模型则需要不断把原始文本信息用提示的方式进行投喂,让其进行深度学习,从而实现对任务的高效处理,这与传统的基于二维表格的形式存储、管理数据完全不同。
简丽荣分析称:“传统数据处理需要消耗大量人力、物力以及时间,而且有很多环节非常容易出错,如数据清洗、数据血缘分析、主数据管理、数据质量、数据治理、ETL、数据分析、数据库运维等。以ChatGPT为代表的通用人工智能模型的迅速应用,将会大幅提升数据处理全链路各个环节的自动化程度。”
比如,Text2SQL(即Text-to-SQL,指将自然语言文本转换成结构化查询语言的过程),就是借助大模型的能力,自动根据自然语言生成结构化查询语言,完成BI(商业智能)任务,提升数据工程师工作效率。
简丽荣表示:“大模型的出现,一方面,让大家开始思考如何利用模型的能力去重构数据处理全链路的各个环节,以实现更高程度的智能化、自动化;另一方面,也促使大家开始思考如何将数据仓库、数据平台的数据处理规则与大模型进行适配,从而更好地支持大模型的训练、调优、部署、推理及应用。”
云计算资源消费模式将被改变
众所周知,大模型训练的关键在于算力、数据和算法。简丽荣认为,云计算平台正是提供这三个要素最合适的平台。首先,大模型需要大量算力,特别是高端GPU;其次,需要海量的数据,特别是一些高质量的数据;此外,大模型还需要算法的支持,Model as a Service将成为一种新的PaaS服务。这些都是新的需求,也是云平台最擅长做的事。所以,大模型的出现将会非常有效地提振云计算市场。同时,拥有更强GPU算力的云厂商会更具竞争优势。
简丽荣指出,大模型的出现,将会对自然语言处理、计算机图像,甚至自动驾驶造成颠覆性的影响,改变这些领域的整个软件和硬件技术栈,从而给云计算市场带来全新的资源消费模式。
以SaaS服务为例,大模型对低代码的冲击将会非常明显。低代码(或零代码)核心价值是通过拖拉组合解决软件开发慢、门槛高的问题。然而,大模型的出现颠覆了低代码的整个开发模式。“低代码能够覆盖的应用场景是有限的,未来后台的技术栈会被大模型彻底颠覆。”简丽荣表示。
像ChatGPT之类的大模型可以通过自然语言描述直接创建应用程序,AI生成代码的速度远超人工,甚至还可以通过对话持续提出改进建议。此前,曾经估值130亿美元的AI写作工具Grammarly在ChatGPT发布后就出现了网站用户直线下降的情况。
简丽荣认为,AI应用的大规模推广实际上增加了IT行业的竞争维度,不同的企业在不同的维度上面的竞争力是不一样的。IT层会更加多元化,这自然也会推动多云的普及程度。
未来,大部分普通的非科技企业用户只需要调用云厂商提供的MaaS服务(模型即服务)来构建自己的垂类模型和应用,而一些大型企业用户出于数据安全、行业监管要求、成本、自主可控等因素,可能会更倾向于建设自己的基础平台来完成专有模型训练和推理任务。
大模型加速数据库分布化和并行化
伴随“模型热”的兴起,庞大的数据量带来了存储和计算资源的压力,这要求数据库本身紧密跟云计算技术结合,通过元数据、计算和存储层解耦,从而充分发挥云平台的弹性和扩展能力。
简丽荣认为,在大模型爆发的背景下,数据库需要提供可以横向的并发访问能力、多范式的数据处理分析能力(包括支持声明式语言SQL,过程式语言Python/R,图计算、全文检索、流式计算、高性能计算、机器学习和人工智能)和海量异构数据(结构化数据、半结构化数据、非结构化数据以及实时数据)的存储管理能力。
在这种趋势下,基于云原生架构的数据仓库将成为未来数据库行业发展的重要方向,而大中型企业考虑到高可用以及议价能力等因素,通常会选择多云部署的模式。
“这种趋势对我们做多云数据库的企业也有明显影响,用我们的核心产品HashData云数仓为例,设计之初,我们对多云部署场景的考虑是通过将系统的不同组件解耦,降低对特定接口的依赖,方便对接各种开放的云平台,满足企业数据在不同云平台流转的需求。”简丽荣说,“我们现在在开发增强HashData数据仓库支持向量数据存储和处理检索能力的功能组件,再结合云数仓的高扩展性、高可用和高弹性,实现更好地支撑和扩展大模型的应用场景。”简丽荣表示。
与此同时,分布式和并行化潮流将进一步加速。“大模型的应用将进一步加速数据库行业的分布式和并行化潮流,而且在一个更深更广的层面上进行分布式和并行化。”简丽荣表示,“更深指的是更多异构的算力资源需要并行化,包括CPU、GPU、DPU等,更广指的是类似‘东数西算’工程,这些都要求数据系统能够更好地提供共享和协作能力。”
此外,除了类似ChatGPT一样的To C的形态外,大模型在企业级市场将更多地以个性化、独立部署的形态出现,也就是说各行各业甚至同一家企业不同的部门都会有各自的大模型实例,类似行业专家。在这样的背景下,需要在数据库内核集成深度学习和大模型的能力。
“无论是数据分析全链路的各个环节还是数据库自身的运维工作,都非常耗时和依赖经验,我们正在尝试利用大模型训练数据库领域的专家系统,期望提升数据分析和数据库智能运维能力,实现在数据库范围内有类似于‘自动驾驶’一样的功能。”简丽荣表示。
标签:
X 关闭
X 关闭