2024大模型行业可信应用框架研究报告-前沿技术创新探索、可信应用框架落地实施

以大模型为代表的新一代人工智能技术变革仍在加速迭代，为“新质生产力”的发展注入强劲动力， 助力产业智能化升级和经济发展。大模型在产业端已经开始在任务简单、容错率高的场景得到广泛地使 用，例如智能客服、文案生成等场景，但是在医疗疾病诊断、金融投资理财等任务复杂度高、容错率低的 场景，大模型的规模化落地仍然遇到不少阻碍。为进一步释放以大模型为核心的人工智能新技术范式生产 力，需要解决大模型的“可信应用”问题，支撑大模型在金融、医疗、政务等专业领域的深化应用。为此 本报告提出了面向专业领域的大模型可信应用框架，即大模型为核心的智能系统在面向金融、医疗、政务 等专业领域的应用中，为确保应用的专业性、可控性、真实性和安全性，应当如何构建系统的技术架构和 体系。

从技术实现来看，企业建设一体化的大模型可信应用框架目标是在大模型开发和应用的不同环节，施 加相应的技术保障手段，以提升落地应用的可信程度。目前主要手段包括提升数据供给质量、增强模型在 应用领域的专业能力、提高模型生成内容的可控可信、提升智能体推理的可信、使用围栏工具和安全保障 措施、建立全面充分的评测体系、构建“反馈-迭代”的良性循环体系等手段，综合实现大模型在专业领域 中的稳妥应用和持续深化拓展。从产业应用实践来看，目前在金融、医疗、政务等行业中已有大模型应用 框架的落地实践，提升了推理结果的准确专业真实性，并增强了推理过程的透明安全可控，提高了客户对 于大模型应用的信赖程度。

展望未来，本报告中提出的大模型应用框架是推动大模型在产业中规模化落地应用释放价值的初步探索，未来的产业化突破还需要从前沿技术创新探索、可信应用框架落地实施、行业治理体系搭建、产业生 态合作完善等多个维度统筹推进。我们期待产业上下游各方通力协作，共同推动大模型在产业中的规模化 可信应用落地，助力产业智能化升级。

附件：2024大模型行业可信应用框架研究报告-前沿技术创新探索、可信应用框架落地实施