来源:北京商报
入场倒计时
11月6日,北京商报记者从蚂蚁集团获悉,根据国家七部委联合公布的《生成式人工智能服务管理暂行办法》指导要求,蚂蚁百灵大模型已完成备案,基于百灵大模型的多款产品已陆续完成内测,将向公众开放。
本次通过备案的是蚂蚁百灵语言大模型,该大模型采用TransFormer架构,基于万亿级Token语料训练而成,支持窗口长度达32K。
据了解,蚂蚁大模型坚持自主研发、全栈布局,目前已形成包括大模型底层基础设施、基础大模型、行业大模型、应用产品在内的完整技术链条。
算力上,蚂蚁建设了万卡异构集群,其中硬件算力效率(HFU)超过60%,集群有效训练时长占比90%以上,RLHF训练在同等模型效果下训练吞吐性能相较于业界方案提升3.59倍,推理性能相较于业界方案提升约2倍。
安全力方面,蚂蚁研发了大模型安全一体化解决方案——蚁天鉴。“蚁鉴”平台作为业内首个大模型安全评测工具,支持50万/天饱和式攻击,全面覆盖生成内容数百类风险;“天鉴”平台可在大模型运行时,覆盖八大类风险,采用大模型对抗大模型的方式,使得风险召回率大于99%,其Guardrails前置护栏功能,能精确召回20多类提问风险意图。
知识力上,蚂蚁通过统一语料体系、数据预处理标准化、数据标注强化、评测立体化,形成了完备的知识处理能力。其中,集评测数据集与评测框架一体化的大模型评测平台——EVE,能支持语言大模型和多模态大模型一站式自动化评测。
据悉,在基础大模型层面,除了本次通过备案的百灵语言大模型,蚂蚁集团也在研发百灵多模态大模型,并已内测。
易观分析金融行业高级咨询顾问苏筱芮评价,本次通过备案的是蚂蚁百灵语言大模型,大语言模型(LLM)是指建立在大量数据集上预训练的巨大模型,包括多项关键要素,其中就需要海量算力与数据支撑的大参数;拥有智能能力,可解决它从未或极少见过的问题的能力;此外可加入预训练,仅需要少量数据的微调甚至无需微调,就能够解决多种通用型任务。
谈及落地业务方向,在苏筱芮看来,从上述特征来看,通用的大语言模型既可与蚂蚁擅长的金融业务结合,向企业经营关键环节进行渗透,促进业务能效及可持续发展能力大幅提升,同时也可以向整个阿里生态内的其他本地生活、消费类等业务进行赋能,通过灵活的AI能力助力业务经营。
谈及业务场景,蚂蚁集团副总裁、百灵大模型负责人徐鹏透露,备案通过后,“百灵”将全线应用到蚂蚁的各个业务场景,并在各垂直领域创新研发产品,更多应用产品即将面向社会开放。
激战升级
除了通用大模型,目前在行业大模型层面,蚂蚁集团也布局了包括金融、医疗、安全等领域。例如今年9月,蚂蚁对外发布金融大模型及两款应用产品:面向消费者的金融智能助理“支小宝2.0”和面向行业专家的金融业务助理“支小助”。
据介绍,支小宝2.0可为用户提供高质量的行情分析、持仓诊断、资产配置和投教陪伴等服务,在知识力上,支小宝2.0的金融知识数据存储量已达到百亿级,能同时服务亿级用户。
浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林评价,通过大模型来引导用户进行投资决策,是非常好的辅助工具,也能赋能金融行业,能解决一些金融消费级产品和用户匹配的问题,蚂蚁大模型应该围绕消费者的偏好来开发应用,增加玩法。
在大模型的浪潮里,积极布局的并非蚂蚁一家,尤其是今年以来,大模型产业进入“百模大战”模式,赛道热度不断高涨。
例如消费金融领域, 11月3日,招联消费金融发布消费金融行业首个130亿参数开源大模型“招联智鹿”。该模型落地消费金融实际业务场景,以客服场景为例,该模型可结合具体会话状态与服务场景,实时精准地定制回复话术,助力客服工作提质增效,节约时间成本近80%。据了解,该模型未来还将应用于更多细分场景,如风控管理、代码生成、运营提升等,并在“智能体”技术、仿真模型、科技向善等方面持续探索。
无独有偶,今年8月,马上消费金融也发布了首个零售金融大模型“天镜”,已在自动化营销、风控等实际业务场景应用近6个月。马上消费金融CTO蒋宁介绍,“目前,马上消费每天能基于用户1000万个行为作出个性化的营销和风险判断,每天做上亿次模型计算,每秒可以处理150万特征的计算”。
苏筱芮认为,垂直领域的金融大模型,对于金融行业来说有两方面意义,一方面是前端对客的核心价值与场景,主要作用是能够提升服务体验,包括智能营销、智能客服等方面,同时也可在中后台运营管理方面,例如信贷审批、核保理赔等流程性任务层面提升工作效率;另一方面则是在智能投研、投顾等财富管理场景,以及量化交易等金融特定任务方面,需根据金融大模型开展训练与微调,具备进一步探索创新的价值。
难点待解
不过,现阶段,如何在金融领域发挥大模型的能力,业内认为还有多个挑战需要解决。
正如中国工程院院士邬贺铨不久前表示,金融大模型的发展目前仍面临着三方面挑战。首先是金融行业对数据安全性、隐私合规性都有着严格的要求。尤其是在风控方面,对时效性与精准性要求严格,而一般的基础大模型透明性、可信性、专业性不足,很难直接迁移为金融大模型。同时是金融大数据在成本与质量上的平衡问题。由于金融行业内的数据难以共享,因此金融大模型的数据规模远远不及通用语料,导致金融大模型难以产生“智能涌现”的效果。此外则是本地私有部署需要自建算力设施,对软硬件产品有严格的信创要求,而且参数规模大则算力成本高。
“技术局限尚需突破。”苏筱芮同样指出,目前大语言模型仍然为静态数据驱动的学习范式,无法实现新知识的快速学习与迭代。尤其是涉及到时效数据与专有数据的场景下存在障碍。另外,巨大的模型训练与推理算力等成本拉低效益比,企业前期面临大量的人力、物力投入,此外,大模型在参数体量巨大的情况下,仍然存在较高的推理成本。在她看来,安全合规可信应用底线尚需刚性保障。另外,无论是大模型的训练推理,还是对话应用的过程中,都存在过多《彩票娱乐10元可提现》的隐私暴露与数据安全风险,这还有赖于技术突破和监管合规的进一步建立。
北京商报记者 刘四红
举报/反馈
责任编辑:李桐
3月21日,陕西西安的刘女士在社交平台发布视频称 ♓,自己的孩 ❌子彩票娱乐10元可提现在学校被老师殴打引发关注。刘女士称,2月23日,周至县仰天 ☽小学一位二年级老师,因数学作业问题体罚学生,课上打了十多个孩 ♋子,而自己的孩子被打最为严重,被老师扇了数十个耳光 ⛸,并被对方 ⛸用凳子击打身体。刘女士称,此事给孩子造成较大心理阴影,如今听 ♏到巴掌声会产生应激反应,正在医院治疗。3月21日,一位知情人 ⛅告诉记者,事发后教育局、公安局已介入处理 ➡,对涉事老师和校长分 ☼别作出开除、免职处理 ♍,并由校方承担孩子医疗费用。21日,当地 ♍派出所民警称,此事已处理完毕。
顾海东要求全市各地各相关部门凝聚共识,推进新能源产业创 ♌新集群建设 ⏫,驰而不息开辟新局。九大市级新能源产业园要形成市域 ➧一体、整体联动、高效协同的强大合力,推动新能源产业创新集群建 ⛎设破题见效 ♋。积极吸纳高层次科技人才,力争在新能源领域新增市级 ♍姑苏创新创业领军人才30人,推动数字技术与新能源技术有机结合 ⛼,放大财政资金和产业基金的杠杆作用,用好苏创投等国资平台,设 ♓立规模超50亿元产业基金,全市营造系统完备、互融共生、安全稳 定的新能源产业生态。(记者 张帅)
本报记者 姬喜 【编辑:王燮 】