曹刚：加速大模型产业落地

专题：2024中国AIGC创新(xīn)发展论坛

　　2024年服贸会专题论坛之一——“2024中(zhōng)国AIGC创新发展论坛”于9月13日-14日在北京举(jǔ)行。蚂蚁集团财富保险(xiǎn)事业群平台科技(jì)总经理曹刚出席并演讲。

　　曹刚表示，大模型技(jì)术是(shì)实(shí)现(xiàn)高质量(liàng)金融服务普惠的关键。他说，高质量的金融服务是非常稀(xī)缺的，从统计数(shù)据来看，目前国内投资者大概(gài)有7.2亿，但真正具备投资顾(gù)问资质的专家(jiā)只有20万，要服务(wù)好广大消费者的，光(guāng)靠专家的能力是非常困难的，而(ér)且金融(róng)服务门槛比较高。

　　“大模型技术的到(dào)来(lái)，让我们看(kàn)到了高质量金(jīn)融服务(wù)普惠的可能性，大模型具备压缩(suō)世界金融知(zhī)识(shí)的能力，专业知识力一定程度(dù)上远超人类专家，同时还有强大的推理能力，并可以通过自(zì)然语言进行交互，相对于传统的 GUI图形界面操作，自然语言交(jiāo)互更加简(jiǎn)单和(hé)流畅”，他说。　　

　　以下为演讲实录：

　　曹刚(gāng)：各位领导、各位来宾，大家下午好，我是来自蚂蚁集团(tuán)财富保险事业群(qún)的(de)曹刚，很高(gāo)兴参加今天2024中国AIGC创新发展论坛，我今天(tiān)分享的题(tí)目是“加速大模型产业落地，让AI人人可事”。

　　蚂蚁集团一直是普惠金融的实(shí)践者，伴随整个科技的发展，我们坚持用科(kē)技持续(xù)为整个社会带(dài)来微小而美好的变化(huà)。在互联(lián)网(wǎng)早期阶段，我们推出了快捷支付、扫码(mǎ)支付的服务，实现了整个支(zhī)付服(fú)务的普惠。不管(guǎn)是在街边买一个包子还是去商场付个款(kuǎn)，很容易就能完成支付过程。我自己也非(fēi)常荣幸参与了快捷支付(fù)建设过程，至今仍然是非(fēi)常有成就感的一件事情。进入大(dà)数据、云计算以及移动(dòng)互联网这个阶段后(hòu)，蚂(mǎ)蚁(yǐ)集团从支付走向了(le)金(jīn)融，推出了余额宝、花呗(bei)、借(jiè)呗(bei)，以(yǐ)及蚂(mǎ)蚁财富等金(jīn)融产品(pǐn)，通过这(zhè)些产(chǎn)品用户能更加容易获得信贷服务和理财服务。到了2022年(nián)，以ChatGPT为(wèi)代表的大模型技曹刚：加速大模型产业落地术(shù)爆发，点燃了整个业(yè)界，大模型出色的推(tuī)理、认知(zhī)和(hé)生成能力，让(ràng)我们看(kàn)到了实现(xiàn)AGI的可能。我们也一直在思考和(hé)探索怎么样让大模型技术落地到金融场景中，让大模型成为业务发展新的驱动力(lì)，就在刚过去的一周，我们在上海的外滩(tān)大会发布了蚂蚁集团三(sān)款大模型AI的产品，分别是AI金融管(guǎn)家、AI生活管家，还有(yǒu)AI健康管家(jiā)，大家可以上支付(fù)宝进行搜索试用。

　　回到金(jīn)融领域(yù)，我们认为，大模型技术是实现高质量金融服(fú)务普惠(huì)的关(guān)键(jiàn)，高(gāo)质(zhì)量(liàng)的(de)金融(róng)服务(wù)是非(fēi)常稀(xī)缺的，从统计数据来看，目前国内投(tóu)资者大概有7.2亿，但真正具(jù)备投资顾问资质的专家只有20万，要服务好广大消费者(zhě)的(de)，光靠专家(jiā)的能力是非常困难的(de)，而且金融服务门(mén)槛比较(jiào)高，相信大家(jiā)都知道这个问题。大模型技术的到来，让我们看到了高质量(liàng)金融服务普惠(huì)的可能性，大模型具备压缩世界金(jīn)融知识的能力(lì)，专业知识力一定程度上远超人类专家，同时还有强大的推理(lǐ)能力，并可以通过自然语言进行交互，相对于传统(tǒng)的GUI图形界面操作，自然语言交互(hù)更加简单和流(liú)畅。

　　面对大模(mó)型技术的发展以及实现高质量金融服务普惠的机遇和(hé)挑战，我们确(què)定了金融AI的战略布(bù)局，在我(wǒ)们内部称为1+2布局，1+2是(shì)1个大模型基建，这个大模型基建是由我们自(zì)研的凤凰大模型以及AgentUniverse专业的智能体框(kuāng)架组成(chéng)，后面(miàn)会给大(dà)家展开介绍，两个大模型AI产品，一个是2C的蚂小财，也就AI金融管家，蚂小财集成了财经、投研、财报、核(hé)赔等金融服务(wù)能力，通过语(yǔ)控一切、有问必答、全程陪伴方式，为用户带来全新(xīn)的智能服务体(tǐ)验(yàn)。另一个是2P的支小助，支小助一个专业严谨的AI助手，主要服务对象就是我们整个金(jīn)融服务链条上的各类专家(jiā)，希望通过支小(xiǎo)助提高专家作业流程的(de)效率和水平。

　　大(dà)模型基建部分(fēn)，从去(qù)年大模型技(jì)术爆发以来，不管是国外还是国内(nèi)，有非常多的大模型企(qǐ)业冒出来，形(xíng)成了“百模(mó)大战”的态(tài)势。我们尝试过多个通用大模型底座，但效果都不是特别理想。我(wǒ)们看到大模型技术落地专业严谨领域(yù)还(hái)存在诸(zhū)多困难和挑战，比如(rú)用户会(huì)问：”A公司的最新财报(bào)表现是什么样？”，在金融领域(yù)，这涉及到一个公司的财务数据，时效性要求高，需要对信息进行精确的处理(lǐ)。比如用户(hù)会问：”我有(yǒu)甲状腺结节，到底能不(bù)能买这款保险产(chǎn)品？”，这个问题(tí)涉及到保险领域核赔核保的(de)专业知识，判(pàn)断和决策逻辑是非常复杂的。再比(bǐ)如用户会问：”能不能给我推荐一款稳赚(zhuàn)不赔的基金？”，这(zhè)个(gè)问题涉及(jí)到金融常识以及金融(róng)合规性的要求，我们只能在安全合规的(de)前提下(xià)去给用户做(zuò)答。这些问题(tí)是通过大模(mó)型难以甚任的。

　　为此(cǐ)，从(cóng)去年(nián)开始，我(wǒ)们自研(yán)了蚂蚁(yǐ)凤凰大模型，去解决通用(yòng)大模型在专业、严谨、安全合规层(céng)面面临的问(wèn)题(tí)。凤凰大模型今年(nián)已经通过(guò)备案，我们的工作重心集中在这几个方(fāng)面：首先(xiān)是(shì)专业性(xìng)方面，核心是让大模型对齐人类专家的(de)知识和决策逻(luó)辑，通过这(zhè)种(zhǒng)方式(shì)，我们(men)在产品(pǐn)客服、投研分析(xī)、财经编辑领域做到了80%左右的水平，可以很(hěn)好的辅(fǔ)助专家进行作业。在严(yán)谨(jǐn)性上，我们核心在数据指(zhǐ)标查询和数据(jù)指(zhǐ)标计算等领域进行发力，从实践(jiàn)结果来看，在数据指标查询方面，我(wǒ)们已经实(shí)现(xiàn)了95%以上的准确率。在金融计算部分，金融领(lǐng)域(yù)有很多计算(suàn)逻辑，比如计算你的存款(kuǎn)利(lì)息(xī)、理财收益等等，大模(mó)型通过工具调用，能(néng)做到80%左(zuǒ)右的水平(píng)，还有很大提(tí)升空间。在安全合规层面(miàn)，我们(men)搭建了安全技术围栏，通过专家标注以及自动化攻(gōng)防等措施进行防(fáng)控，上线以(yǐ)来，零风险事(shì)件(jiàn)的发生。同(tóng)时，为了提高上(shàng)层应用的创新效率，我们搭建并(bìng)开源了(le)一套专(zhuān)业的多智能体的框架AgentUniverse，相对于市面上常见的智能(néng)体平台而言，我们核心在专业能力上(shàng)进行增强，同时搭(dā)载了一(yī)些可快速插拔的工具(jù)，比如检索增(zēng)强(qiáng)相关(guān)的RAG、SUG等等，通过这(zhè)样的能力让我们在研发上层的蚂小财和支小(xiǎo)助(zhù)应(yīng)用时，变得更(gèng)加高效。现(xiàn)在我(wǒ)们把这套框架开源出来，希望这(zhè)套框架(jià)能够助力更多企业在研发智(zhì)能(néng)体的时候能更加高效。

　　下面结合今天论坛主题(tí)，展开介绍一下我们(men)在支小助部分的实践，首先是营销创意产品，先来看一下产品Demo视频。（现场播放视频）。营销是每个企业都(dōu)会涉及的领域(yù)，大(dà)模型对于(yú)营销领域而言，最大的增益在于供(gōng)给侧的创意可(kě)以直接由(yóu)AI生产，我们通过(guò)多模态大模型能力，结合用户偏好以及(jí)市场热点，能够批(pī)量化地快速(sù)生成符合生产要求的图文、视频和卡片，改变过(guò)往这(zhè)些素材需要运营专家或者设计师人工(gōng)生(shēng)产的方式(shì)，极大提升了运(yùn)营的效(xiào)率，同时丰富了对客表达的空间。我(wǒ)们还在探索(suǒ)用(yòng)大模型做用户理解(jiě)、产品理解、做(zuò)样本增强，通过与推荐系统的结合，整个流量运营效率能够进一(yī)步提升，从实践的结果看，我们平台上50%展位背(bèi)后(hòu)的创意是由AI生产的，同时，营销能力能为(wèi)平台带来(lái)10%以上的(de)GMV复(fù)利增长，效果(guǒ)上是非常好的(de)。

　　除了营销创意，我们还在用它做金(jīn)融市场投(tóu)研(yán)分析，金融市场投(tóu)研分(fēn)析是一个蛮复(fù)杂的事情，它需要投研分析专家对市场或某一个行业的趋势和问题进行分析，把(bǎ)趋势和问题拆解成一个一个小的任务，由各个专家(jiā)小(xiǎo)组(zǔ)通过对市场信息的收集、整理形成研判(pàn)观点，最(zuì)终形成投研分析报告需要经过(guò)专(zhuān)家评审后才会(huì)被(bèi)广(guǎng)大用户看到。投研支(zhī)小(xiǎo)助的建设，核心就是用系统和AI的方式在(zài)模拟整个(gè)投(tóu)研分析生产的过程，我(wǒ)们通过刚才(cái)讲到的Agent框(kuāng)架，将(jiāng)整个过程拆解成策划、执行(xíng)、表达、评价这样(yàng)四个大的阶段(duàn)，通过注入专(zhuān)家知识框架，以及检索各种各样的知识库，用多个智能体去模(mó)拟整个小组(zǔ)分(fēn)工协作的(de)过程，从而产出投研分(fēn)析内容(róng)。目(mù)前我们已经能够(gòu)快(kuài)速支撑9类标的物的分析，在分析(xī)效率上(shàng)从过往的(de)小(xiǎo)时级别到现在的分钟级别。

　　这是投研支小助方面的(de)介绍，同(tóng)时，我们还在尝试用大模型(xíng)去做财务报告的撰写，上市公司每个季度都要发财务报告，财报是一个非常专业、复杂度极高的报告，去年(nián)我们跟阿里巴巴集(jí)团进行(xíng)合作，用大模型的方(fāng)式去辅助(zhù)财曹刚：加速大模型产业落地务人(rén)员完成财报的生产过程，这里面包括怎么用大(dà)模型做财务数据计算，怎么做业绩归因和(hé)推理(lǐ)，怎么做财(cái)报专业的表达，这些都对大模型的能力(lì)提出了更高(gāo)的要求和挑战(zhàn)。从实(shí)践结果来看，大模型辅助生成财(cái)报整(zhěng)体采纳率达到77%，上个(gè)季度(dù)阿里巴巴(bā)集(jí)团的财报就是通过我们的大模型和财务人员共同撰写，整个财(cái)报的写作效率得到了提升，同时我们也可(kě)以看到，大模型在业绩归因和财务推(tuī)理这部分的准确率还不够高，我们还会进一(yī)步提升整个推理部分的能力。

　　上面给大家介绍了我们在2P支小助(zhù)部分的三个产品，支小助通过大模型能力、多(duō)智能(néng)体能力对整个金(jīn)融服务链条各个环节进行升级和重塑，现(xiàn)在已经覆盖了营销、投(tóu)研等(děng)十几个垂(chuí)直领域，是各(gè)垂直领(lǐng)域专(zhuān)业严谨的AI业务助手，目前我们已(yǐ)经在蚂蚁集团财富保险多个业务场景中进行了规模化验证，基本上是业界首个完(wán)成规(guī)模化验证的产品，使得各服务环节效率倍增，通(tōng)过这种2P2C模式，为上亿用户带来了高(gāo)质量的金融服务。支小助已经跟平台上(shàng)120多家机构开展(zhǎn)了合作(zuò)，我们期待和更多的(de)产业合作伙伴一起，加(jiā)速大模型产业落(luò)地(dì)，让AI人人可享。

　　以(yǐ)上是我的分享，感谢大家聆听(tīng)，谢谢。

　　新浪(làng)声明：所有会(huì)议实录均为现场(chǎng)速记整理(lǐ)，未经(jīng)演讲者审阅，新浪网登载此文出(chū)于(yú)传递更(gèng)多信息之目的(de)，并不意味着赞(zàn)同其观点或证实其描述。

责任编(biān)辑：梁斌 SF055

未经允许不得转载：骏诺车品JNCP官方网站曹刚：加速大模型产业落地