孙洪军指出，金融行业各层面对大模型有了统一认识后，就可以快速推动企业内部的转型。但他也强调，大模型是数学逻辑上的推理，因此，肯定会产生幻觉，“它回答100个问题，90个问题回答正确，但10个问题有可能会产生幻觉”。

　　孙洪军表示，大模型提供商也在不断研究如何减少幻觉、让逻辑全流程推理的更好。“我们在针对一些业务场景时，必须要消除一些幻觉，因为我们最终业务不知道来源，普通用户包括我们自己内部员工没有全景，没有大的判断力，如果你给出了90个认为是对的，突然出现一个幻觉或者两个幻觉，认为是一个错误的问题，会认为也是对的，有可能对业务带来一些潜在危险和损失”。

　　“业务层面目前可以解决这些问题，但是有代价的，有可能会对大模型本身训练的一些知识会做一些放弃。也就是说我们会在应用方面会做更多的付出”，他说。

　　以下为演讲实录：

　　我的片子分为几个部分：第一部分是理论思考。第二部分是我们的案例，从技术或者从应用的远景来看有一些共同性特点的案例。最后引入我们的思考在里面。

　　实际上大模型在一年多的时间里，各个行业包括各个企业无论是金融还是制造业都在应用，其实这里面有很多挑战，包括每个企业用AI推动我们的应用时，都会存在一些问题需要去思考。

　　第一，大模型不是100%准确的，问题的确定性在金融行业是特别关注的，数据必须是准的，不能一本正经的胡说八道，那怎么来解决这些问题？

　　第二，大模型是个黑盒子，怎么知道他给出的答案确实是正确的，决策链条是什么，决策的可解释性，无论是内部员工还是外部客户都觉得这个决策链条是可信的。

　　第三，大模型以前更多是一种语义推理、逻辑推理，现在我们逐步在往数据跟数字化结合转型起来看，更强调的是数学计算能力。以前我们做的大屏、决策等等更多是数字化的。

　　第四，对于一个更大企业思考一个更大挑战是什么？是技术快速迭代，算力、芯片的快速迭代，大模型能力的快速迭代，我们应用开发的快速迭代。

　　第五，你的建设和你的投入成果预期的平衡。综合来看你的成本怎么去规划，这些都是需要去思考。

　　第六，还有一块是数据安全和隐私。大模型厂商包括在座各位很多人会用网上API的应用，那些数据各大厂商会留。所以我们内部会用哪些敏感数据，哪些必须网上去用，哪些必须私有化用，这些需要区分。

　　所有做大模型应用服务的，都会有类似的架构。我想说的，作为软通动力来讲有有什么？我们有一层算力，这是第一。第二，我们有技术软件，操作系统、数据库。我们不具备的是什么？我们不具备大模型，这是大模型厂商的。除了大模型这一层，我们网上应用，包括我们跟客户二十多年长期合作过程中有大量业务场景和客户一起探讨，这是软通在金融行业的一个情况。

　　下面十几个案例，第一方面是大模型目前在业内用的，大家相对都比较认可了，就是研发领域提高IT的开发效率，这不光是一个开发，实际上涉及到我们的需求、需求解决，需求设计文档，大模型可以直接提炼需求用户故事，直接生成代码。去年大模型还有限制，4K、8K，现在长度可以放到128K，代码生成对软件工程整个领域的改造带来的价值是很大的。

　　这是我们的一个应用效果，在银行的实际应用，从去年9月份就开始去用了，用的过程中一直到现在不断迭代，大规模需求结束是在今年年初1月份，现在已经稳定快9个月了，在实际应用效果中确实能极大提高开发的效率，整个IT里面开发的效率。这里面最有意思的一个事情是，我们永远不知道一个事情，无论你的产品设计的多么好，或者你开始的理念设计的多么好，但真正把这个产品用到极致的一定是我们的用户，我们的用户跟我们说，在这个代码辅助或者需求解读或者等等方面的情况，大家用的最好的场景是什么？是以前有大量的项目，很多人不懂，这时候要做数字化转型，转成微服务的，cover如何去转成这样的情况，而是要工程性的、系统性的，不是我们写几个代码，或者我们让代码生成，我们用户跟我们反向输出了一条实时工艺，这是挺有意思的一件事情。

　　第二个领域，在AIGC生成图、生成视频、生成文生图包括文案创作，这个可能是比较小众的事情，但跟客户交流中我们发现，我们在文生图或者文生视频有时候决定了你推出一个的速度，比如我们去做产品宣传，决策节点很多时候是外包的，或者外部设计公司要求出一个图或者出一个海报，是最快的，可能得需要两三天。在现在效率为王的年代，谁先推出第一个包括谁能及时的去调整，这是一个很大的场景。我们走了很多城商行，城商行对我们这块需求很大，在UI包括行业服务的时候觉得人不多，七八个人负责整个手机银行UI工作，但忆秦速度很慢，最关键的是文生图，可以把一个企业文化要素通过大模型进行初步训练，再通过应用你对企业的理解，产生的图确实是符合你企业文化的。这点是外部设计公司完全取决于人的能力是不太一样的，进行了一些变化。我们二十四节气，软通动力公司内部的二十四节气都是利用AI来做的。

　　而且还有一个变化，现在说用大模型应用对算力要求很高，但文生图对算力要求其实很低，最关键的是昇腾、910B这种高算力的，这种卡还是没办法做这件事情，我们需要传统4090、4080普通的卡就可以，为什么它可以，因为在图的渲染里面已经围绕着家数来做的。机械革命一台笔记本一万多块钱，就可以快速地去做这件事情。这是一个场景。

　　第二个场景是我们给银行做的行史助手，把行里资料、知识传上去记录下来就可以了，但这个是由行器做的，2009年成立到2024年所有信息都上传进去，包括机构信息、人物信息、大使级、金融业务、文化建设、规章制度、财务数据、合规制度等数据信息，我们认为这些是知识，这些知识有可能有重叠的，有可能一个人的变迁在不同文档里面都有，类似我们以前做数字化转型、做数据中台、做大数据平台，我们需要去做知识梳理，但时间很紧，整个知识梳理大概只用了两周时间，当然有些确实也没有完全说这个知识是隔离的，只在一个地方出现的情况，但我们两天时间就满足了客户提出的要求，说你回答的问题要么是准的、要么就不说，要是准的则必须是全的。比如邮储和民生总行部门很多，总行一级部门有哪些，负责人是谁、主要负责的事项是什么，这些分布在不同的知识里，让它有顺序的输出来，这个其实很有挑战性。大家可以把这些知识放到大模型去推理，可能推出完整的，但顺序不对；有的可能推不出完整的。这是我们做的行史，不光是检索，也可以生成产品营销的一些文案，包括撰写感谢信或者撰写一些其他的东西，都是可以的，不光是检索，可以根据行里提供的资料去学习、去写出来。

　　这是咱们总结出来的一些，回答了开始的挑战，基本实现“白盒”，就是我知道这个知识哪儿来的 ，也知道大模型是根据什么推理出来的，这里面是我们行史在这块的总结。

　　第三个场景是AI的写作，大家对AI写作觉得无非是让大模型帮我写一篇报告的情况。但如果把这个场景扩了一下，要跟我们实际的应用数据结合起来写就有一定难度了。比如数据大数据平台、大数据中台，信贷数据、营销数据都在里面，如果需要根据现有数据写一篇新的报告或者营销报告，里面有数据库里的数据，也有市场的形势分析，这里面如何让它自动化做这件事情，而且要准，这是我们在场景里尝试去做的一件事情。

　　这里面其实可以分为两个点，第一个点，传统取数据小模型或者小规则的方法很重要，也是很准。第二点，充分发挥大模型对数据的变化趋势或者结合行业的信息，它的推理的总结能力。这块就可以把报告很快写出来，当然也涉及到报告里面对Agent的定义，就是说文档结构应该是怎么去做的，哪些提示词怎么去写，然后自动化去输。这是AI写作的一个场景。

　　当然还有很多，时间关系我就不去讲了。

　　这里面有些问题，我们在做过程中有一定的结论，有些在思考中。第一个，现阶段的大模型不是一个发动机，我们都说第四代的工业革命过来了，创新过来了，但是在目前大模型也在不断地创新，算力的短缺短时间也不太好解决。而且整个社会对大模型的认知还需要时间，所以说现阶段大模型应用不是一个发动机，而是一个加速器。这个加速器，我们分析每个业务环节，哪些业务环节可以急速提高效率，比如客户领域，以前客户只能接20个电话，因为大量时间要写报告，我们引入语音、引入我们的智能总结，嵌入到客户里面，那可能一天能接100个电话。这个是银行客户自己实践的。所以这里面是个加速器，没有改变我们原有的IT流程，也没有改变我们的业务流程，但它极大提升了效率。

　　第二个，针对一些企业在初创过程中到底是建一个平台，还是直接上来就应用，还是找一个切入点？我们的意见是先建一个平台，去提供服务能力，在平台上找一个点去把行里或者企业内部所有对大模型的认知，从普通公众的认知，一本正经的胡说八道转变成可以它可以精准地去控制、可以去提出的情况。

　　第三个，如果从切入点来讲，我们建议通用助手的意义远远大于现在专业助手的意义，去训练一个垂直领域大模型，没有通用能力建立起来后不是先去做垂直训练，先做细节，不会考虑更多的全景。

　　第四个，外部推广的时候，金融的话建议从APP角度去感受，无论是风控、营销还是合规，从APP，从内部到外部的情况去做。

　　第五个，这个事情也急不得，但我们又要不断地去做，用一句话来讲，如水渗透到金融行业，渗透进去之后，各个层面对大模型产生统一认识之后就可以快速地去推动整个企业内部的转型。

　　在做的过程中还有一些很有意思的问题，大模型是一个数学逻辑上的推理，肯定会产生幻觉，它能回答100个问题，90个问题回答正确，但10个问题有可能会产生幻觉。大模型提供商也不断地如何减少幻觉、如何让逻辑全流程推理的更好。我们在针对一些业务场景时必须要消除一些幻觉，因为我们最终业务不知道来源，普通用户包括我们自己内部员工没有全景，没有大的判断力，如果你给出了90个认为是对的，突然出现一个幻觉或者两个幻觉，认为是一个错误的问题，会认为也是对的，有可能对业务带来一些潜在危险和损失。业务层面目前可以解决这些问题，但是有代价的，有可能会对大模型本身训练的一些知识会做一些放弃。也就是说我们会在应用方面会做更多的付出。

　　第二，目标和数据哪个更重要，其实这两个同等重要，是相辅相成的道理，不可能因为大模型多强忽视了我们自己数据的准备工作。我们也做了一些测试，自己做大模型应用的时候有业务平台，网上也有各种像知识库助手这样的应用平台，我们把我们的数据切分好之后放到外网，这都是脱敏的数据，它的准确度和我们自己的有差距，这里面对数据的理解和你业务上去做需要相辅相成。

　　第三，模型需要微调，我们建议还是做一定的微调，对行业知识的理解会有更大的帮助。

　　第四，外挂知识库还是长上下文。什么意思？现在应用包括大模型token很长，可以传一本书上去，十万字、二十万字，它马上可以对这本书进行提问，这里面和我们外挂知识库经过治理的还是有区别。我们在过程中遇到比较大的问题，是图的精准识别问题，图的达标。比如一个员工要部门转正，打个标，我希望它识别出来是转正申请的标签，但识别出来的是绩效考核，因为那张表里面大部分是绩效、打分、评价。所以，图，在目前行业里是还没有很好突破的一件事情。早上我看到一篇文章，GPT-4对图有比较大的突破，这个我们需要进一步去调研。国内我们还没有看见。包括知识识别表的问题也是一个大的问题，就是表格，中国式报表，人看起来没有问题，但机器去读懂而且不能出错，表格里面都有数，这是一个比较大的挑战，我们做了一些探讨，再针对那些表格来讲是100%，但针对合并单元格这种特别多的情况下，人读起来比较费劲，大模型也解决不掉，这需要我们做额外的处理。

　　第五，在企业应用的时候经常面临这样的问题：大模型有开源的和闭源的，怎么选？开源好处是便宜，不花钱，闭源的是花钱，但效果更好一些，启动后续服务会更好。我们的建议是什么？当你去尝试一个事情的时候，你可以选择开源；当你上规模的时候还是应该选择闭源，提供更好的服务。当你上规模的时候有体系化的要求，对大模型厂商有定制化的要求，这是我们的建议。

　　第六，大模型的项目谁牵头？我们建议是业务牵头，因为业务知道哪些地方需要改进、哪些地方需要提效，科技上不知道这个事情。

　　第七，无论是代码推、语义推理还是文生图推理都存在一个普遍的问题，就是知识召回不足的问题，无论是采取知识库还是采取其他手段，我们召回的长度总是有限制的，现在主流的，市面上用到主梁的是32K，最大的是128K，32K要去推问要提示词，召回还要加上推理内容，32K其实并不多。所以有些信息召回不了，推理就会缺失，这个问题需要引入更多的Agent，要从大Agent向小的Agent处理逻辑去固化。推理深度不够的问题需要提升大模型的能力，它的数学的一些算法。

　　这是我们在过程中的一些思考，实际上我们还强调一点，大模型来了，原来系统是不是都废掉了？都更新掉了？我们做的过程中都不是的，这些是相辅相成的，以前IT系统无论是风控还是营销都是把人的规则、专家规则、业务规则都固化下来，有答案，寻找起来比较困难。大模型是交互很简单，我想要什么，一个语音或者一段话告诉我就好了，交互变得很快。但我们在实际做的过程中这两个完全可以结合起来去做，很多很精准的，以前做到系统里面很多逻辑可以作为大模型的一些规则，甚至当成一些小模型来用，这里面结合起来，把整个大模型在业务的创新和以前IT建设留下来的资产很好的利用起来。这是我们的建议。

　　另外一个简易师什么？我们还是需要以AI中台来连接算力和应用，从规划上来讲，是需要把它隔离出来的，比如说我们在一个企业内部来建设的话，可能有很多算力，可能会采取很多模型，因为不同大模型的能力是不一样的，那你需要去解耦。第二点，当你在企业内部上了一个大模型应用的时候，会发现同类型的应用可以快速复制、快速搭建的，我做了合规制度检索就可以去做风控制度的检索，我做了报告撰写就可以做营销报告撰写，虽然业务内容不一样，但我们从技术上去看是一样的，这里需要行强大的AI中台，把共同的东西适配、增强技术、模型适配，叫Agent也好或者业务权限，通过组件方式、搭积木方式去搭建出来。从我们自己经验来讲，有了中台之后，去搭一个知识库同类质来讲，时间就是耗在知识整理上了。

　　同时我们在不同场景里面也总结了一些情况，不是所有的东西、所有产品都要追求高算力，要结合自己的实际业务场景，比如图生文、AIPC，一个笔记本就可以了，要求简单，不需要负责推理的，一般一个台式机就可以。如果需要垂类或者代码推理，华为昇腾机器就可以。但对数据要求特别高的可以上一些910，国内情况是不一样的。

　　这是软通动力在整个环节里面，包括适配、迁移、运维以及场景开发、模板定制我们提供全方位服务，最后打了广告，谢谢大家。

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。

责任编辑：梁斌 SF055

宋翔容（记者 吴家栋）09月18日,罗某珍和鲜大爷居住在四川南充市南部县王家镇乡下，两女一子都已成家，在外居住生活。儿女们曾经接了二老到城里方便照顾，但他们待不了几天就坚持要回去——他们在村里种了四亩田地，养了鸡鸭，生活自给自足，觉得这样的生活才踏实。这片稻田，就是夫妻俩一起播种的，今年收成不错，预计能收一千多斤。但这一次，罗某珍再也无法享受丰收的喜悦……1割稻葬礼已过去好几天，鲜大爷仍不愿相信老伴已经离世。这位86岁的老人，身高1米6左右，头发花白，指甲缝里嵌着泥垢，握手时能清晰地感受到他指关节处的硬茧，这是长期干农活留下的烙印。妻子罗某珍比他小3岁，勤劳本分，比他心细，家里大小事都是妻子拿主意。但在几天前，这个家拿主意的人走了。“那天，她要是听话去看医生就好了，她都是为了我啊……”9月9日，坐在凳子上的鲜大爷突然低下头，用手捂住双眼，屋里随后传出断断续续的抽泣声……9月2日，一个平常的日子。凌晨5时，鲜大爷和妻子罗某珍起床煮了稀饭，这是当地常见的早餐。吃饭时，妻子说自己有些头疼，他不放心，让妻子等会儿去看医生，不要跟其下田割稻。但妻子觉得只是小毛病，吃过饭就拿上镰刀背着背篓跟他一起下田。这块稻田，鲜大爷和妻子已连续收割了两天，再劳作一上午，就可以收完了。他后来想，妻子那天肯定是担心自己一个人割稻太累太慢，才坚持要一起下田的。▲收割后的稻田 王超摄今年鲜大爷家的稻子收成不错，预计有一千多斤。鲜大爷说，春耕时没下雨，稻田距河远抽水不便，错过了插秧时节，好在后来落了一场雨，他跟妻子拿上钉耙花了两天平整稻田，赶着撒下3斤多稻种。这样直接将谷种随意撒进稻田，对于种庄稼几十年的鲜大爷夫妇来说，也是第一次。好在，这些种子努力地发芽、生长，终于变成黄澄澄的稻穗。鲜大爷和妻子只需割下稻穗，背回家用机器脱粒就好了。9月2日上午，年过八旬的夫妻俩一直在稻田忙碌。上午9时，南部县气象部门发布高温橙色预警，预计未来24小时内最高气温将升至38℃以上，提醒高温时段尽量避免户外活动和露天作业。今年以来，当地已发布多次高温预警。“从来没见过哪一年像今年这样热。”鲜大爷说，割稻这几天，他和妻子每日凌晨5时起床，吃完早饭就下田，一般劳作到上午11时才回家。那天上午割稻时，罗某珍又嘀咕说自己头有些疼，鲜大爷催她去看医生，但她并没停下手里的镰刀。11时许，鲜大爷让妻子先回家，剩下的稻子自己一个人割就行了。罗某珍看了看自家田里所剩不多的稻子，同意先回家。随后，她走上田埂，背上背篓，离开了稻田……2死亡妻子走后半小时，鲜大爷也回家了，只剩最后一点稻谷没收割。然而，回到家，他却没看到妻子。妻子左眼早年失明，右眼视力也不好，平时不用手机。他呼喊妻子的名字没回应，又出去找了一圈，还是不见人。鲜大爷慌了，给远在成都的儿子鲜伟（化名）打电话，儿子闻讯往家里赶。鲜伟告诉红星新闻记者，老家的监控能确定母亲当天没回家，邻居家的监控显示母亲离开稻田后，走向了跟回家相反的方向。在回家路上，鲜伟报了警。当天下午，村干部通过广播号召村民帮忙寻人，但一直找到晚上毫无进展。一个大活人突然消失，村民们心中闪现出不祥的预感：会不会溺水了？村外就是西河……9月3日，接到求助的南部县红十字会救援大队带着装备进村，除了在岸上寻找，还重点沿河搜救，但一无所获。▲救援人员在河里搜救 救援队供图直到9月4日早晨，家属和搜救人员在村里一处荆棘丛生的山林里发现了罗某珍，她倒在荒草丛中已经去世，现场还遗留着她的背篓。这里，距她的家有三四百米远。鲜伟说，这里本来有条小路，但很多年没人走了，现在杂草齐腰，不走近看，根本不知道里面有人。搜救人员和村民分析，罗某珍失踪那天应该是中暑了，而且情况严重，加上她视力不好，迷迷糊糊中走错了方向，最后晕倒在山林里不幸去世。鲜大爷至今后悔不已，那天如果自己不继续割稻，而是跟着妻子一起回家，妻子就不会出事。3留守鲜大爷的家，位于村庄的一个山弯里，周围还有几户人家。平时只有三对夫妇留在这里生活，最年轻的是鲜大爷的侄媳，但她今年也已70岁，三户人家都种着庄稼。土地，对他们这一代人来说，是比生命还珍贵的东西，有了土地才能种出更多粮食，养活一家人。鲜大爷和妻子从未外出务工，就靠着土地养育了两女一子，供他们读书、长大，然后各自成家。鲜伟说，母亲虽患眼疾，但热爱劳动，心思细密，家里很多事情都是母亲拿主意。此前，他们曾尝试将父母接到成都生活方便照顾，但父母待了几天就坚持要回老家。作为子女，他们只能顺从老人心愿。他们带父母去做过体检，没什么大的问题，就连常见的“三高”也没有，这让他们对父母回老家生活也多了一份安心。“我想我妈心细，两个人在老家互相照应，种点蔬菜就当锻炼身体。”鲜伟说，没想到父母回到老家还是坚持种了很多庄稼。提到母亲的意外离世，鲜伟感到很内疚，“他们（父母）总想着给儿女减轻负担，作为子女，我们是不孝的。”但鲜大爷说，儿子、儿媳和女儿，对他和妻子都很孝顺，几个孩子已经做得很好了。他和妻子平时身体情况都还可以，打理着家里的四亩田地，种蔬菜、花生、玉米、红薯，也种稻谷、油菜。此外，家里还养了鸡鸭。“每天都有活儿等着干。”鲜大爷说，农忙自不必说，农闲时也要时不时去地里看看庄稼，锄草施肥，忙完回家还要给鸡鸭添食喂水。晚上，罗某珍因视力不好，夫妻俩很少出门散步，也不看电视，早早就上床休息，等待新一天的到来。这样的乡村生活，虽然单调重复，但鲜大爷和妻子都觉得踏实。4这一代人罗某珍的离世，在村里没有引起太大讨论。村里人不多，留下来的也基本是老人，死亡对他们来说似乎是很自然的事。一名村干部告诉红星新闻记者，村里的年轻人基本都外出打工了，留在村里的老人都七八十岁了，村民会根据自身情况种些粮食庄稼，对于那些无人耕种的撂荒地，村委会便统一耕种管理。走在村里，房屋“关门闭户”很常见，一些屋前院落甚至长满荒草。但撂荒地很少，成片稻田在收割后留下或高或低的谷桩。61岁的老杜花了5天终于收割完父母种的一亩多稻谷。老杜家有三兄弟，他排行老二，在新疆做生意30多年。因年近90岁的父亲身体不好，83岁母亲身体也大不如前。兄弟几人商量后决定轮流回家照顾父母，以便遇到突发情况可及时送父母就医。老杜说，去年有一次父亲突发疾病，自己远在新疆，只能打电话托老家一个朋友开车送父亲去医院。他的母亲在一旁抱怨，自己的身体一年不如一年了，但她每年都要种些水稻、花生和玉米，现在每到庄稼收割就发愁，不知该怎么收回家。好在今年老杜在家，帮忙将粮食收回了家。他算了笔账，今年收割一千多斤谷子，按每斤1.4元计算，除开成本就1000多元，这也就是自己两三天的收入。他的母亲觉得账不能这么算，自己在家种点粮食喂些鸡鸭，总能给孩子减轻些负担。她和老伴曾被儿子接到新疆生活，但待了两个月就坚持要回家，“不习惯，我就想回老家喝点红薯稀饭。”同在一个村生活，老杜的母亲也为勤劳本分的罗某珍意外离世感到惋惜，“她怎么就没走回家呢？”母亲就这样走了，鲜伟有些伤感地说，在农村生活的父母这代人总想着为儿女减轻负担，平时很少关心自己的健康，小病小痛总想着忍一忍就好了。比起来，他们对地里庄稼的长势这些农事更关心，也更心中有数。儿女们担心父亲鲜大爷接受不了这突来的打击，商量后决定接他进城生活。鲜大爷这次同意了儿女的建议，进城前，他卖掉了家里的鸡鸭，还跟儿子一起，去把地里已成熟的花生收了回来。▲收割后的稻田 王超摄坐在屋里，他抬头就能看到百米开外的那块稻田，走路就三四分钟，他想不通妻子那天怎么就没走回来。他多想重回那一天，他会搁下手里的镰刀，跟妻子一道回家。他又重复着说：“那天，她要是听话去看医生就好了。”红星新闻记者 王超编辑郭宇 责编 魏孔明

宋翔容（记者 王彦霖）09月18日,�

#endText .video-list li{overflow:hidden;float: left; list-style:none; width: 132px;height: 118px; position: relative;margin:8px 3px 0px 0px;}