大模型技术作为人工智能领域的一项重要突破，正在逐渐改变古板工业的生长模式，其强大的数据处理能力和模式识别能力，为古板企业提供了智能化、自动化升级的新机缘。然而谈及如何高效利用大模型技术去解决企业运营当中的实际问题，提升市场竞争力，仍是企业需要深入探讨的问题。为此，在78m威九国际携手华为云联合举办的首次“AI动力营”企业CXO思享会上，特别设置圆桌交流环节，邀请78m威九国际高级副总裁何登攀主持，对话嘉宾78m威九国际COO黄耿，华为中国云AI解决计划总监陈亮辉，华为全球培训中心金牌讲师王一夫，以及客户代表顶新国际PMI数字化推进总监杨勇，广州志尧软件业务卖力人葛艺。圆桌嘉宾们针对企业数据与AI的应用、闭源与开源大模型的选择、应用AI爆发的记挂，以及实际应用时遇到的挑战与结果等话题，进行热烈的探讨与交流。通过汇聚多方智慧，深入剖析企业在构建立异生态系统、应用大模型技术等方面的现状与挑战，并探索解决计划及最佳实践，希望为企业的立异生长提供新思路，配合推动企业在新时代的转型升级和高质量生长。同时，现场嘉宾们的提问与互动，也让各人爆发了更多的共识与思考，将现场气氛推向热潮。01 企业迈向智能化的要害数据积累▲ 78m威九国际高级副总裁何登攀何登攀：谈及AI这件事，78m威九国际很早就开始进行这方面的实验，早在2022年，78m威九国际研发团队就实验在摸索AI相关的一些应用。从去年2月份开始，整个市场变得比较火热，各人对AI的关注度急速提升，同时对此也充满了�；�，畏惧因为无法跟上时代的浪潮而被淘汰替代。那时78m威九国际也跟海内的许多生态同伴相同探讨，并主动与海内外的AI领域先行者做一些相应的对接，期间78m威九国际也率先宣布了自主研发的包括H-Copilot融合AIGC平台等企业数字化产品。在这历程中，我们清晰地感知到企业才是AI应用中的主角，而我们饰演的更多是“助手” 的角色，能够为企业提供在算力、算法、数据等更多层面上相应的专业化能力，为其AI大模型的应用与落地提供更好的资助。今天我想请嘉宾一起聊聊，从企业端考量，应该在数据和工程化这两件事上如何做到落地，尤其谈到数据作为企业迈向智能化的一个要害要素，除了通用大模型外，行业级与企业级大模型的建设与微调都离不开相应的数据积累，企业对此应该如何着手开始？▲ 78m威九国际COO黄耿黄耿：关于数据这件事，在AI热点泛起之前，各人或许有意识到数据很重要，可是关注度比较有限。我在研究 AI的历程当中，发明许多企业都希望拥有一个个性化、具备一些自建能力的大模型。可以说私有化大模型训练是一个企业必须要面对的事，可是私有化训练又是一个很模糊的事情，并没有一个明确的标准化教程，所以需要各人自己“摸石头过河”，在这一历程中困难重重。另外就是数据积累的问题，数据积累是需要时间的，企业肯定是越早开始越好。事实上大部分企业都在面临着数据沉淀的挑战，大大都企业的数据积累是缺乏的，并且数据积累并不是“临时抱佛脚”就可以解决的。以制造业为例，有一个“良品率”的看法，它是需要在流水线历程中积累大宗数据并沉淀后才华实现的，短期的数据无法支撑这一诉求。这就要求企业明确目标，并建立相应的流程，进行数据积累，如果在不清楚具体需求时，也可以先积累可能对未来有用的“半制品”数据。我认为数据供应与需求是一个螺旋上升的历程，企业应先提供一些基本的数据资源（例如关于客户的360度视图），纵然这些数据可能不是最精确或完整的，可是这种开端的数据有可能会启发业务部分提出更具体的需求，从而形成一个连续革新的循环。尤其是在AI时代，我们更建议企业在需求完全清晰之前就开始行动，做好数据积累。唯有这样才华包管企业在大模型训练的进程中，不会泛起因为数据缺乏而造成“巧妇难为无米之炊”的窘境。何登攀：其实同样的话题，从从颐魅者的角度和从企业治理的角度来讲，看法不尽相同，所以我想请我们的客户代表顶新国际PMI数字化推进总监杨勇先生为我们分享一下。▲ 顶新国际PMI数字化推进总监杨勇杨勇：关于数据我们确实有比较深的感受，首先因为顶新国际作为目前海内规模庞大的食品生产企业，今天讲的数据问题于我们而言，不是在AI时代才保存的，数字化时期我们就在和数据打交道。只是之前数据可利用的价值就没有像现在这么大，所以各人对数据的重视度并不是很高。顶新国际早在数字化转型初期，就开始重视数据治理，并使用标准的要领论来进行数据战略制定、大数据架构搭建、数据质量和宁静包管等事情。但尽管投入了大宗人力物力进行数据治理，其对业务的实际价值照旧很难直接体现。在AI时代，我们也在思考，是否有一些AI工具可以资助企业更快地沉淀数据、提高数据质量，并简化数据治理的历程，从而更直接地体现出业务价值，解决我们的困扰。何登攀：谢谢杨总分享，关于您提到的困惑我也有相似的感受，请华为全球培训中心金牌讲师王一夫王老师，针对杨总的困惑谈谈您的见解。王一夫：关于杨总的困惑，其实还挺难回覆的，因为数据治理实质上就是一个耗人且耗时间的事情。就目前实际情况而言，古板行业在数据治理方面难免保存“欠账”，因为关于企业而言，满足其时的业务需求才是首要事情。别的数据治理许多时候需要由上而下地推动，且没有步伐立刻见到效果，是一个“冷板凳”的事情，很是需要有战略耐心。不过杨总说的问题其实各人也在思考，好比业界正在实验通过自动化手段来辅助数据清洗等事情，但效果在目今阶段并不显著，这是由于自动化手段的处理与业务的具体情况密切相关，因此在实际应用中的效果尚且有限，但从久远来看，它对企业具有深远的价值。02 企业应如何选择闭源与开源大模型何登攀：众所周知，目前AI大模型有闭源的也有开源的，企业在实际应用中也需要考虑如何选择开源大模型和闭源大模型这一问题。我们知道华为云有盘古大模型；上个月，Meta宣布了Lamma 3.1 405B开源大模型，其能力经过评测险些与GPT 4.0持平。业界有一种看法，认为商用大模型更适合个人使用者，而行业级的应用或者企业级的应用模型，更适合基于开源大模型，通过自安排和自训练来实现更为聚焦的能力。关于这种看法，王老师有什么看法？▲ 华为全球培训中心金牌讲师王一夫王一夫：目前来讲，二者其实各有特点，且赛道不尽相同，可是也保存部分重合。闭源大模型的优点是其通常陪同着一定的相助关系，相对本钱可控，可是缺点是微和谐版权问题可能保存限制。而开源大模型的优点是其生长迅速且灵活性高，另外开源社区已经形成一定规模，从颐魅者众多，因此更容易从中借鉴领先的思想和技术，并且模型的维护和更新也比较稳定。由于目今海内正处于一个相对混沌的状态，所以嗣魅整体上用开源大模型也是一种比较常见的一些选择，尤其是企业初期投入时，使用开源大模型作为试水较为常见。然后才会凭据试用结果决定后续生长偏向。从我个人角度来讲，我认为在比较专业的领域中，闭源大模型可能更有优势；在通用领域中，其实开源大模型和闭源大模型之间的差别并不是很大，就目今情况而言，开源大模型也是一个不错的选择。03 数据宁静如何包管应用AI的记挂与挑战何登攀：我们看到大模型技术正以极快的速度生长，可是企业在追求技术先进性的同时，也要兼顾实用性和宁静性。尽管目前GPT等商用大模型在效果上领先，但部分企业尤其是国有企业，还需要考虑数据宁静和保密性等问题。事实上大大都企业也更倾向于将敏感数据保保存外地以确保宁静，可是将大模型私有化本钱过于高昂，所以我们接下来想探讨一下企业除私有化安排以外是否保存其他解决计划，可以有效应对智能时代的数据宁静担心。关于这个问题，我想请教一下华为中国云AI解决计划总监陈总，作为数字化基础设施的提供商，华为对这种记挂是否有什么看法，能否给企业一些建议？▲ 华为中国云AI解决计划总监陈亮辉陈亮辉：各人好，我想就目前整个大模型的一些进展给各人做个分享。自去年起，华为与众多AI领域的专家进行了大宗的交流，关注点基本都涉及到数据宁静问题。其拭魅这也不难理解，因为相比古板的IT技术如云盘算和大数据处理，大模型越发庞大，且与业务联系更为紧密。而企业在训练和安排大模型时，会投入大宗焦点数据，自然就会关注数据宁静。目前华为云也向客户从多个维度和层面上提供几点思路。第一是安排模式的选择上。关于企业而言选择私有云或公有云安排模型，会带来差别的宁静考量。尤其是关于国有企业而言，对新技术的接纳更为谨慎，因此关于云宁静的需求尤为突出。所以最好优先把云宁静问题思考清楚，也要搞清楚云延伸的宁静问题。第二就是回到模型自身宁静的多维度考量，包括但不限于模型自己的�；ぁ⑹菽惨约澳Ｐ陀τ玫哪�。主要涉及模型训练历程中，如何实现端到端的管控，类似于在微效劳架构中对数据流的监控。因为当大模型从实验室走向商业化时，着重考察流动历程中的监控治理自然是必不可少的。别的数据如何被治理和迁移也是另一个经常被提及的重要议题，这涉及到数据简直权问题。目今各人谈及AI时，无外乎都是探讨叠加大模型自己在训练推移历程中间的作业宁静问题。所以目前国家层面也正在推进数据资产要素挂号的事情，关于明确数据的使用权和处理权很有资助。第三是监管要求。国家机构如网信办要求对大模型进行备案，这是出于对模型能力和宁静性的管控需要。特别是劈面向民众效劳的模型生成商，尤其需要建立内容审核机制，以确保模型输出的宁静性。所以这里面自然也有许多的技术事情要去做，就简单个模型训练和历程中间的这种全流程监控，其实就比我们原来做的任何系统都要庞大。04 从理论到实践AI应用探索与案例分享何登攀：通过上述分享，我们愈发清晰地认识到 AI 关于企业最终价值离不开面向实际场景的落地应用。我们先请志尧软件的葛老师讲讲她的看法，葛老师目前专注于AI业务，听说近期在资助客户探索AI的实际应用场景历程中积累了不少经验。所以想问一下您关于AI落地有哪些思考，以及在实际应用场景探索方面取得了哪些结果？▲ 广州志尧软件业务卖力人葛艺葛艺：我目前正在资助企业利用AI技术，打造知识库和智能客服。今天一夫老师讲的时候，许多内容我都是很是的认同，他说的那些可能的问题和痛点，我们在实际上落地历程中都确实有遇到。今天我也想趁此时机和各人分享一个客户的真实案例，让各人更直观感受AI的魅力。这家客户是一家互联网企业，主营业务是汽车小面积补漆，主要通过抖音获取客户，目前使用4名客服处理线上咨询。我们最初接纳的是使用知识库导入常用话术，可是在实施历程中发明，知识库搜索功效在实际应用中效果不佳，相似度设置过高或过低都会泛起问题。为了解决这些问题，我们在选择模型、设置提示词等历程中不绝调优，通过与业务端深入相同，对提示词进行调解，教会模型如何更好地舆解客户需求，训练模型简洁回覆问题等等方法，最终资助客户找到了更合适的应用路径。目前智能客服上线五个月，在不增加客服人员的情况下，企业的咨询留资量比原先增加一倍以上，客服不间断24小时在线，业务量显著提升的同时，实现了降本增效的目标。何登攀：谢谢葛老师的实际案例分享，直观的案例确实给我们带来不少启发。接下来我想向今天参会的企业嘉宾们了解一下，在企业结合AI落地的历程中，您还对哪些内容更为关注？有请新安化工CIO郑捷郑总分享一下您的感受。▲ 新安化工CIO 郑捷郑捷：之前我们对AI技术维度的理解没有那么深入，但今天听了几位老师的分享，受益匪浅。我们企业目前也正在做AI与业务相结合的实验，所以首先我很希望了解AI及大模型技术，如何在更多的企业实际应用场景中落地。其次我也有两个困惑，一是在大模型这块我们能否做到自主可控，因为考虑到未来恒久的投入本钱，我们企业自己能否直接利用一部分封装好的工具，通过微和谐定制开发就能够实现模型的自主迭代，更快解决企业在应用与升级上的问题？二是关于大模型的宁静问题，大模型是不是也类似于古板信息宁静在数据治理与合规性等方面保存问题，企业是否有专门针对大模型宁静步伐方面的解决计划？王一夫：关于自主可控这个问题，首先开源模型纷歧定允许商用，具体许可需检察每个模型的说明。而允许商用的开源模型是可以被企业自行革新训练的，因此也可以被视为企业自主可控的一部分。在企业训练大模型的历程中，无论是微调照旧原厂模型升级，基本上技术都是透明的，这也意味着模型的升级迭代通�；峄竦酶椭С�，所以从我个人角度来看，连续演进的自主性可能不是一个大问题。郑捷：我们制造企业因为需要考虑能源本钱和所需技术人员数量等问题，并且当技术抵达一定水平后，我们也会更希望做到轻量化地自行维护与处理，不再完全依赖于IT部分，而是让像财务等部分也能加入到某些技术应用中。王一夫：如果希望企业内部包括业务部分的人员，也可以基于现有技术对大模型进行开发和维护，我觉得业务人员基于一些封装好的工具，对大模型进行连续的维护和升级并不是问题，可是需要注意，如果使用开源模型进行微调，后续可能会遇到实际事情与模型架构不兼容的问题，所以企业最好可以将要领论和整体流程进行沉淀，这样会更有助于连续演进。至于宁静的问题，其实古板IT宁静步伐并未因大模型的泛起而爆发根天性变革，针对大模型的宁静步伐，是建立在古板IT宁静之上的，二者之间是叠加的关系，所以不需要拆分来看待这一问题。黄耿：关于郑总刚刚的问题，我想增补分享一些我的看法。我认为使用商用大模型与开源大模型在后续效劳和支持方面可能保存差别，所以需要平衡考虑。关于郑总提到的封装性和易用性，我也赞同IT人员不可能掌握所有技术，用封装工具来简化使用是很有须要的。所以78m威九国际去年在研发融合AIGC平台时，团队也是开发了许多封装工具，以支持多种模型的使用，并包括低代码等功效。我们深知B端应用与C端有所差别，需要考虑限定、流量控制和审计等问题，所以我建议企业在实际应用的历程中，最好照旧配合使用中间层治理工具，来简化大模型的应用。何登攀：接下来我们邀请晶科能源的王总来讲讲，王总在 IT 行业是不折不扣的资深专家，那么从信息化到数字化，再到今天的智能化，您在整个历程环节里，有什么样的感受可以跟与我们分享一下？▲ 晶科能源CIO 王兴旺王兴旺：在我看来，一个企业做智能化转型成不乐成，不在于你在几多场景、用了几多技术工具，更重要的是思考AI是否在企业的主价值环节及要害阶段，如显著提升效率或减少人力本钱等方面，真正发挥出它的价值。AI的应用在企业中推动起来，仍是很是庞大的事情，企业在落地历程中会涉及庞大的组织厘革、流程调解、人员配置和治理模式的变革，尽管各个厂商都在努力通过把AI框架进行封装，尽量简化技术，但推动AI项目仍然很是庞大。在这历程中，我认为各人依旧需要特别关注治理厘革，这也是恒久以来在企业生长历程中始终稳定的要害问题。同时希望我们能够逐渐摸索出更成熟的要领论，来指导AI项目的应用与落地，我相信这对企业对社会生长都将会更有意义。何登攀：在今天的交流环节里，列位嘉宾都展现出了对AI应用的深度思考，也感受到了列位在探索AI落地这一历程中所作出的实验和努力，虽然目前关于AI的落地尚无标准要领论，可是实践是检验真理的唯一标准，理论与实践相结合才华推动真正的进步。这次78m威九国际与华为云首次举办的“AI动力营”仅仅是一个开端，在AI时代，我们每个人都是数字生态的加入者，分享更多经验与思考，配合探索场景落地，才华真正做到与时俱进，创立更多的可能性！78m威九国际也期待与华为云一起，高效赋能企业AI应用实践，建设以客户为中心的新一代数智AI生态，加速数智化转型的推进与实现。
大模型技术作为人工智能领域的一项重要突破，正在逐渐改变古板工业的生长模式，其强大的数据处理能力和模式识别能力，为古板企业提供了智能化、自动化升级的新机缘。然而谈及如何高效利用大模型技术去解决企业运营当中的实际问题，提升市场竞争力，仍是企业需要深入探讨的问题。
为此，在78m威九国际携手华为云联合举办的首次“AI动力营”企业CXO思享会上，特别设置圆桌交流环节，邀请78m威九国际高级副总裁何登攀主持，对话嘉宾78m威九国际COO黄耿，华为中国云AI解决计划总监陈亮辉，华为全球培训中心金牌讲师王一夫，以及客户代表顶新国际PMI数字化推进总监杨勇，广州志尧软件业务卖力人葛艺。
圆桌嘉宾们针对企业数据与AI的应用、闭源与开源大模型的选择、应用AI爆发的记挂，以及实际应用时遇到的挑战与结果等话题，进行热烈的探讨与交流。
通过汇聚多方智慧，深入剖析企业在构建立异生态系统、应用大模型技术等方面的现状与挑战，并探索解决计划及最佳实践，希望为企业的立异生长提供新思路，配合推动企业在新时代的转型升级和高质量生长。
同时，现场嘉宾们的提问与互动，也让各人爆发了更多的共识与思考，将现场气氛推向热潮。
01 企业迈向智能化的要害
数据积累
▲ 78m威九国际高级副总裁何登攀
何登攀：谈及AI这件事，78m威九国际很早就开始进行这方面的实验，早在2022年，78m威九国际研发团队就实验在摸索AI相关的一些应用。从去年2月份开始，整个市场变得比较火热，各人对AI的关注度急速提升，同时对此也充满了�；�，畏惧因为无法跟上时代的浪潮而被淘汰替代。
那时78m威九国际也跟海内的许多生态同伴相同探讨，并主动与海内外的AI领域先行者做一些相应的对接，期间78m威九国际也率先宣布了自主研发的包括H-Copilot融合AIGC平台等企业数字化产品。
在这历程中，我们清晰地感知到企业才是AI应用中的主角，而我们饰演的更多是“助手” 的角色，能够为企业提供在算力、算法、数据等更多层面上相应的专业化能力，为其AI大模型的应用与落地提供更好的资助。
今天我想请嘉宾一起聊聊，从企业端考量，应该在数据和工程化这两件事上如何做到落地，尤其谈到数据作为企业迈向智能化的一个要害要素，除了通用大模型外，行业级与企业级大模型的建设与微调都离不开相应的数据积累，企业对此应该如何着手开始？
▲ 78m威九国际COO黄耿
黄耿：关于数据这件事，在AI热点泛起之前，各人或许有意识到数据很重要，可是关注度比较有限。我在研究 AI的历程当中，发明许多企业都希望拥有一个个性化、具备一些自建能力的大模型。可以说私有化大模型训练是一个企业必须要面对的事，可是私有化训练又是一个很模糊的事情，并没有一个明确的标准化教程，所以需要各人自己“摸石头过河”，在这一历程中困难重重。
另外就是数据积累的问题，数据积累是需要时间的，企业肯定是越早开始越好。事实上大部分企业都在面临着数据沉淀的挑战，大大都企业的数据积累是缺乏的，并且数据积累并不是“临时抱佛脚”就可以解决的。
以制造业为例，有一个“良品率”的看法，它是需要在流水线历程中积累大宗数据并沉淀后才华实现的，短期的数据无法支撑这一诉求。这就要求企业明确目标，并建立相应的流程，进行数据积累，如果在不清楚具体需求时，也可以先积累可能对未来有用的“半制品”数据。
我认为数据供应与需求是一个螺旋上升的历程，企业应先提供一些基本的数据资源（例如关于客户的360度视图），纵然这些数据可能不是最精确或完整的，可是这种开端的数据有可能会启发业务部分提出更具体的需求，从而形成一个连续革新的循环。
尤其是在AI时代，我们更建议企业在需求完全清晰之前就开始行动，做好数据积累。唯有这样才华包管企业在大模型训练的进程中，不会泛起因为数据缺乏而造成“巧妇难为无米之炊”的窘境。
何登攀：其实同样的话题，从从颐魅者的角度和从企业治理的角度来讲，看法不尽相同，所以我想请我们的客户代表顶新国际PMI数字化推进总监杨勇先生为我们分享一下。
▲ 顶新国际PMI数字化推进总监杨勇
杨勇：关于数据我们确实有比较深的感受，首先因为顶新国际作为目前海内规模庞大的食品生产企业，今天讲的数据问题于我们而言，不是在AI时代才保存的，数字化时期我们就在和数据打交道。只是之前数据可利用的价值就没有像现在这么大，所以各人对数据的重视度并不是很高。
顶新国际早在数字化转型初期，就开始重视数据治理，并使用标准的要领论来进行数据战略制定、大数据架构搭建、数据质量和宁静包管等事情。但尽管投入了大宗人力物力进行数据治理，其对业务的实际价值照旧很难直接体现。
在AI时代，我们也在思考，是否有一些AI工具可以资助企业更快地沉淀数据、提高数据质量，并简化数据治理的历程，从而更直接地体现出业务价值，解决我们的困扰。
何登攀：谢谢杨总分享，关于您提到的困惑我也有相似的感受，请华为全球培训中心金牌讲师王一夫王老师，针对杨总的困惑谈谈您的见解。
王一夫：关于杨总的困惑，其实还挺难回覆的，因为数据治理实质上就是一个耗人且耗时间的事情。就目前实际情况而言，古板行业在数据治理方面难免保存“欠账”，因为关于企业而言，满足其时的业务需求才是首要事情。别的数据治理许多时候需要由上而下地推动，且没有步伐立刻见到效果，是一个“冷板凳”的事情，很是需要有战略耐心。
不过杨总说的问题其实各人也在思考，好比业界正在实验通过自动化手段来辅助数据清洗等事情，但效果在目今阶段并不显著，这是由于自动化手段的处理与业务的具体情况密切相关，因此在实际应用中的效果尚且有限，但从久远来看，它对企业具有深远的价值。
02 企业应如何选择
闭源与开源大模型
何登攀：众所周知，目前AI大模型有闭源的也有开源的，企业在实际应用中也需要考虑如何选择开源大模型和闭源大模型这一问题。
我们知道华为云有盘古大模型；上个月，Meta宣布了Lamma 3.1 405B开源大模型，其能力经过评测险些与GPT 4.0持平。
业界有一种看法，认为商用大模型更适合个人使用者，而行业级的应用或者企业级的应用模型，更适合基于开源大模型，通过自安排和自训练来实现更为聚焦的能力。关于这种看法，王老师有什么看法？
▲ 华为全球培训中心金牌讲师王一夫
王一夫：目前来讲，二者其实各有特点，且赛道不尽相同，可是也保存部分重合。闭源大模型的优点是其通常陪同着一定的相助关系，相对本钱可控，可是缺点是微和谐版权问题可能保存限制。而开源大模型的优点是其生长迅速且灵活性高，另外开源社区已经形成一定规模，从颐魅者众多，因此更容易从中借鉴领先的思想和技术，并且模型的维护和更新也比较稳定。
由于目今海内正处于一个相对混沌的状态，所以嗣魅整体上用开源大模型也是一种比较常见的一些选择，尤其是企业初期投入时，使用开源大模型作为试水较为常见。然后才会凭据试用结果决定后续生长偏向。
从我个人角度来讲，我认为在比较专业的领域中，闭源大模型可能更有优势；在通用领域中，其实开源大模型和闭源大模型之间的差别并不是很大，就目今情况而言，开源大模型也是一个不错的选择。
03 数据宁静如何包管
应用AI的记挂与挑战
何登攀：我们看到大模型技术正以极快的速度生长，可是企业在追求技术先进性的同时，也要兼顾实用性和宁静性。尽管目前GPT等商用大模型在效果上领先，但部分企业尤其是国有企业，还需要考虑数据宁静和保密性等问题。
事实上大大都企业也更倾向于将敏感数据保保存外地以确保宁静，可是将大模型私有化本钱过于高昂，所以我们接下来想探讨一下企业除私有化安排以外是否保存其他解决计划，可以有效应对智能时代的数据宁静担心。
关于这个问题，我想请教一下华为中国云AI解决计划总监陈总，作为数字化基础设施的提供商，华为对这种记挂是否有什么看法，能否给企业一些建议？
▲ 华为中国云AI解决计划总监陈亮辉
陈亮辉：各人好，我想就目前整个大模型的一些进展给各人做个分享。自去年起，华为与众多AI领域的专家进行了大宗的交流，关注点基本都涉及到数据宁静问题。其拭魅这也不难理解，因为相比古板的IT技术如云盘算和大数据处理，大模型越发庞大，且与业务联系更为紧密。而企业在训练和安排大模型时，会投入大宗焦点数据，自然就会关注数据宁静。目前华为云也向客户从多个维度和层面上提供几点思路。
第一是安排模式的选择上。关于企业而言选择私有云或公有云安排模型，会带来差别的宁静考量。尤其是关于国有企业而言，对新技术的接纳更为谨慎，因此关于云宁静的需求尤为突出。所以最好优先把云宁静问题思考清楚，也要搞清楚云延伸的宁静问题。
第二就是回到模型自身宁静的多维度考量，包括但不限于模型自己的�；ぁ⑹菽惨约澳Ｐ陀τ玫哪�。主要涉及模型训练历程中，如何实现端到端的管控，类似于在微效劳架构中对数据流的监控。因为当大模型从实验室走向商业化时，着重考察流动历程中的监控治理自然是必不可少的。
别的数据如何被治理和迁移也是另一个经常被提及的重要议题，这涉及到数据简直权问题。目今各人谈及AI时，无外乎都是探讨叠加大模型自己在训练推移历程中间的作业宁静问题。所以目前国家层面也正在推进数据资产要素挂号的事情，关于明确数据的使用权和处理权很有资助。
第三是监管要求。国家机构如网信办要求对大模型进行备案，这是出于对模型能力和宁静性的管控需要。特别是劈面向民众效劳的模型生成商，尤其需要建立内容审核机制，以确保模型输出的宁静性。所以这里面自然也有许多的技术事情要去做，就简单个模型训练和历程中间的这种全流程监控，其实就比我们原来做的任何系统都要庞大。
04 从理论到实践
AI应用探索与案例分享
何登攀：通过上述分享，我们愈发清晰地认识到 AI 关于企业最终价值离不开面向实际场景的落地应用。我们先请志尧软件的葛老师讲讲她的看法，葛老师目前专注于AI业务，听说近期在资助客户探索AI的实际应用场景历程中积累了不少经验。所以想问一下您关于AI落地有哪些思考，以及在实际应用场景探索方面取得了哪些结果？
▲ 广州志尧软件业务卖力人葛艺
葛艺：我目前正在资助企业利用AI技术，打造知识库和智能客服。今天一夫老师讲的时候，许多内容我都是很是的认同，他说的那些可能的问题和痛点，我们在实际上落地历程中都确实有遇到。今天我也想趁此时机和各人分享一个客户的真实案例，让各人更直观感受AI的魅力。
这家客户是一家互联网企业，主营业务是汽车小面积补漆，主要通过抖音获取客户，目前使用4名客服处理线上咨询。我们最初接纳的是使用知识库导入常用话术，可是在实施历程中发明，知识库搜索功效在实际应用中效果不佳，相似度设置过高或过低都会泛起问题。
为了解决这些问题，我们在选择模型、设置提示词等历程中不绝调优，通过与业务端深入相同，对提示词进行调解，教会模型如何更好地舆解客户需求，训练模型简洁回覆问题等等方法，最终资助客户找到了更合适的应用路径。
目前智能客服上线五个月，在不增加客服人员的情况下，企业的咨询留资量比原先增加一倍以上，客服不间断24小时在线，业务量显著提升的同时，实现了降本增效的目标。
何登攀：谢谢葛老师的实际案例分享，直观的案例确实给我们带来不少启发。接下来我想向今天参会的企业嘉宾们了解一下，在企业结合AI落地的历程中，您还对哪些内容更为关注？有请新安化工CIO郑捷郑总分享一下您的感受。
▲ 新安化工CIO 郑捷
郑捷：之前我们对AI技术维度的理解没有那么深入，但今天听了几位老师的分享，受益匪浅。我们企业目前也正在做AI与业务相结合的实验，所以首先我很希望了解AI及大模型技术，如何在更多的企业实际应用场景中落地。
其次我也有两个困惑，一是在大模型这块我们能否做到自主可控，因为考虑到未来恒久的投入本钱，我们企业自己能否直接利用一部分封装好的工具，通过微和谐定制开发就能够实现模型的自主迭代，更快解决企业在应用与升级上的问题？二是关于大模型的宁静问题，大模型是不是也类似于古板信息宁静在数据治理与合规性等方面保存问题，企业是否有专门针对大模型宁静步伐方面的解决计划？
王一夫：关于自主可控这个问题，首先开源模型纷歧定允许商用，具体许可需检察每个模型的说明。而允许商用的开源模型是可以被企业自行革新训练的，因此也可以被视为企业自主可控的一部分。在企业训练大模型的历程中，无论是微调照旧原厂模型升级，基本上技术都是透明的，这也意味着模型的升级迭代通�；峄竦酶椭С�，所以从我个人角度来看，连续演进的自主性可能不是一个大问题。
郑捷：我们制造企业因为需要考虑能源本钱和所需技术人员数量等问题，并且当技术抵达一定水平后，我们也会更希望做到轻量化地自行维护与处理，不再完全依赖于IT部分，而是让像财务等部分也能加入到某些技术应用中。
王一夫：如果希望企业内部包括业务部分的人员，也可以基于现有技术对大模型进行开发和维护，我觉得业务人员基于一些封装好的工具，对大模型进行连续的维护和升级并不是问题，可是需要注意，如果使用开源模型进行微调，后续可能会遇到实际事情与模型架构不兼容的问题，所以企业最好可以将要领论和整体流程进行沉淀，这样会更有助于连续演进。
至于宁静的问题，其实古板IT宁静步伐并未因大模型的泛起而爆发根天性变革，针对大模型的宁静步伐，是建立在古板IT宁静之上的，二者之间是叠加的关系，所以不需要拆分来看待这一问题。
黄耿：关于郑总刚刚的问题，我想增补分享一些我的看法。我认为使用商用大模型与开源大模型在后续效劳和支持方面可能保存差别，所以需要平衡考虑。关于郑总提到的封装性和易用性，我也赞同IT人员不可能掌握所有技术，用封装工具来简化使用是很有须要的。
所以78m威九国际去年在研发融合AIGC平台时，团队也是开发了许多封装工具，以支持多种模型的使用，并包括低代码等功效。我们深知B端应用与C端有所差别，需要考虑限定、流量控制和审计等问题，所以我建议企业在实际应用的历程中，最好照旧配合使用中间层治理工具，来简化大模型的应用。
何登攀：接下来我们邀请晶科能源的王总来讲讲，王总在 IT 行业是不折不扣的资深专家，那么从信息化到数字化，再到今天的智能化，您在整个历程环节里，有什么样的感受可以跟与我们分享一下？
▲ 晶科能源CIO 王兴旺
王兴旺：在我看来，一个企业做智能化转型成不乐成，不在于你在几多场景、用了几多技术工具，更重要的是思考AI是否在企业的主价值环节及要害阶段，如显著提升效率或减少人力本钱等方面，真正发挥出它的价值。
AI的应用在企业中推动起来，仍是很是庞大的事情，企业在落地历程中会涉及庞大的组织厘革、流程调解、人员配置和治理模式的变革，尽管各个厂商都在努力通过把AI框架进行封装，尽量简化技术，但推动AI项目仍然很是庞大。
在这历程中，我认为各人依旧需要特别关注治理厘革，这也是恒久以来在企业生长历程中始终稳定的要害问题。同时希望我们能够逐渐摸索出更成熟的要领论，来指导AI项目的应用与落地，我相信这对企业对社会生长都将会更有意义。
何登攀：在今天的交流环节里，列位嘉宾都展现出了对AI应用的深度思考，也感受到了列位在探索AI落地这一历程中所作出的实验和努力，虽然目前关于AI的落地尚无标准要领论，可是实践是检验真理的唯一标准，理论与实践相结合才华推动真正的进步。
这次78m威九国际与华为云首次举办的“AI动力营”仅仅是一个开端，在AI时代，我们每个人都是数字生态的加入者，分享更多经验与思考，配合探索场景落地，才华真正做到与时俱进，创立更多的可能性！
78m威九国际也期待与华为云一起，高效赋能企业AI应用实践，建设以客户为中心的新一代数智AI生态，加速数智化转型的推进与实现。
78m威九国际 x 百度智能云，通过面向汽车行业端到端的数字化解决计划地图，助力汽车工业链的客户加速推进结构化升级，加速数字化转型，并通过数字化探索驱动全新商业模式。
78m威九国际升级成为Oracle NetSuite 全球相助同伴最高级别五星资质认证的Partner，同时78m威九国际也成为了晋升五星级认证相助同伴速度最快的Partner！
2024-06-11
2024-03-01
2024-06-04
沪ICP备14039535号-1
沪公网安备 31011802002577号
