金融大模型的最优技术决策

许多金融行业过去一年主要集中在将多种资产进行统一风控和交易，在一个平台上实现，随着投资方向越来越多样化，包括场内交易、场外交易等，这样的需求越来越强烈。

通常总行会提供大数据平台服务，分行基于自身应用目的以自助的、自取的方式在平台上建立自己的数据服务，从而让技术更好地服务于一线用户需求，特别是时效性很强的、需要快速迭代的需求。

同时，它们也很关注精细化管理方向，做了更加深入的工作，涉及数字化管理、成本优化、管理考核等方面。

最后，国产化建设也是去年很重要的课题，是近两年也是往后几年的重点，国产化要从管理系统慢慢深入到核心系统，核心系统涉及交易、份额登记等方面。

用户营销仍然是金融行业避不开的主题，许多企业正在构建统一的用户标签系统，以满足万级QPS的在线营销应用。标签系统原来更多是用在离线的客户分析上，现在用到更日常的营销活动中。标签的建设在命中效率、索引建设方面都会遇到不小的困难。

BI平台、指标平台、推荐系统等关注度也不低，只是复杂度更高，目前仅在小规模建设与应用，在未来会进行推广，尤其是智能能力方面。

大模型在金融行业的应用主要还是集中在文本处理，基于知识库构建和检索增强，做基于大模型的智能检索与问答，offline部分的工作包括配合文本解析、pdf解析、图表OCR、语音解析等任务，把多模态的信息进行统一梳理和标签化、片段拆分、上下文匹配，从而构建大型文本知识库，可以应用到研报、路演、法规、咨询、舆情等场景中。另外就是一些还不太成熟的方向，比如代码生成、SQL生成等应用，仍然在尝试阶段，需要结合专用的数据接口，并让大模型读懂这个接口。最后就是基于智能体的应用，虽然主流的大模型已经有了一些接口调用的能力，但总的来讲还是离生产有一些距离，目前正在一些文本回答以及更复杂的任务中应用。

一些金融企业也会尝试自主进行模型预训练或微调，但通常基于垂域数据训练出来的效果，其实比不上主流的大模型。而出于数据安全的诉求，当然还是不希望SaaS的方式来对外调用模型。目前它们正在观望一些中等体量的大模型，毕竟这样更加经济实惠。AI大模型国产化的趋势是更长远关注的方向，毕竟国外的大模型使用起来不是很方便。

秉持“数聚垂域，智领未来”信念，DataFunCon2024·上海站将继续顺应趋势，组织数智·新金融等论坛，邀请数据智能技术专家、行业专家，与你共同探讨数据智能落地的现在与未来。