DeepSeek大模型及其企业应用实践

大模型概念、发展历程与产品及行业应用；企业大模型的落地方案和智能体的企业应用，以及企业级大模型服务和应用案例。

DeepSeek大模型及其企业应用实践

• DeepSeek大模型企业落地实践
• 1. 大模型：人工智能的前沿
  • 1.1 大模型的概念
    • 大模型通常指的是大规模的人工智能模型，是一种基于深度学习技术，具有海量参数、强大的学习能力和泛化能力，能够处理和生成多种类型数据的人工智能模型。
    • 通常说的大模型的“大”的特点体现在：参数数量庞大，训练数据量大，计算资源需求高。
    • 2020年，OpenAI公司推出了GPT-3，模型参数规模达到了1750亿。2023年3月发布的GPT-4的参数规模是GPT-3的10倍以上，达到1.8万亿，2021年11月阿里推出的M6 模型的参数量达10万亿。
    • 大模型的设计和训练旨在提供更强大、更准确的模型性能，以应对更复杂、更庞大的数据集或任务。大模型通常能够学习到更细微的模式和规律，具有更强的泛化能力和表达能力：
    • 上下文理解能力：大模型具有更强的上下文理解能力，能够理解更复杂的语意和语境。这使得它们能够产生更准确更连贯的回答。
    • 语言生成能力：大模型可以生成更自然、更流利的语言，减少了生成输出时呈现的错误或令人困惑的问题
    • 学习能力强：大模型可以从大量的数据中学习并利用学到的知识和模式来提供更精准的答案和预测。这使得它们在解决复杂问题和应对新的场景时表现更加出色
    • 可迁移性高：学习到的知识和能力可以在不同的任务和领域中迁移和应用。这意味着一次训练就可以将模型应用于多种任务，无需重新训练。
  • 1.2 大模型的发展历程
    • 大模型发展历经三个阶段，分别是萌芽期、沉淀期和爆发期
    • 大语言模型呈现核心能力金字塔结构
    • 大模型发展对算力的需求演变
  • 1.3 人工智能与大模型的关系
    • 人工智能包含了机器学习，机器学习包含了深度学习，深度学习可以采用不同的模型，其中一种模型是预训练模型，预训练模型包含了预训练大模型（可以简称为“大模型”），预训练大模型包含了预训练大语言模型（可以简称为“大语言模型”），预训练大语言模型的典型代表包括OpenAI的GPT和百度的文心ERNIE，ChatGPT是基于GPT开发的大模型产品，文心一言是基于文心ERNIE开发的大模型产品。
  • 1.4 大模型分类
    • （1）按技术分类：
      • 语言大模型：是指在自然语言处理 (Natural Language Processing，NLP) 领域中的一类大模型，通常用于处理文本数据和理解自然语言。这类大模型的主要特点是它们在大规模语料库上进行了训练以学习自然语言的各种语法、语义和语境规则。代表性产品包括GPT系列 (OpenAI) 、Bard(Google) 、DeepSeek、文心一言 (百度) 等。
      • 视觉大模型：是指在计算机视觉 (Computer Vision，CV) 领域中使用的大模型，通常用于图像处理和分析这类模型通过在大规模图像数据上进行训练，可以实现各种视觉任务，如图像分类、目标检测图像分割、姿态估计、人脸识别等。代表性产品包括VIT系列 (Google) 、文心UFO、华为盘古CV、INTERN (商汤) 等。
      • 多模态大模型：是指能够处理多种不同类型数据的大模型，例如文本、图像、音频等多模态数据。这类模型结合了NLP和CV的能力，以实现对多模态信息的综合理解和分析，从而能够更全面地理解和处理复杂的数据。代表性产品包括DingoDB多模向量数据库 (九章云极DataCanvas) 、DALL-E(OpenAl).悟空画画 (华为) 、midjourney等
    • （2）按照应用领域分类，大模型主要可以分为L0、L1、L2三个层级：
      • 通用大模型LO：是指可以在多个领域和任务上通用的大模型。它们利用大算力、使用海量的开放数据与具有巨量参数的深度学习算法，在大规模无标注数据上进行训练，以寻找特征并发现规律，进而形成可“举一反三”的强大泛化能力，可在不进行微调或少量微调的情况下完成多场景任务，相当于AI完成了“通识教育”
      • 行业大模型L1：是指那些针对特定行业或领域的大模型。它们通常使用行业相关的数据进行预训练或微调，以提高在该领域的性能和准确度，相当于AI成为“行业专家”
      • 垂直大模型L2：是指那些针对特定任务或场景的大模型。它们通常使用任务相关的数据进行预训练或微调，以提高在该任务上的性能和效果。
    • （3）大语言模型可以分为通用大模型和推理大模型
      • 推理大模型：推理大模型的概念大规模传播应该开始于2024年9月份。2024年9月12日OpenAI官方宣布了OpenAl o1推理大模型
      • OpenAI定义推理模型：在OpenAI的官网上，OpenAI定义推理模型是在回答之前进行思考，并在回复用户之前，在内部生成一长串的思维链过程思维链是一种提示大语言模型进行逐步推理的方法。它让模型在得出最终答案之前先显式地写出推理的中间步骤。这就像人类解决复杂问题时会先把思考过程写下来一样。
      • 推理模型的核心：也就是说，如果模型在回复你之前有一长串的思考过程(这个过程必须可以显示输出)，探索了很多不同的路之后给出答案，那么有这个能力的大模型就是推理大模型。推理模型的核心在于处理那些需要多步骤逻辑推导才能解决的复杂问题.
      • 在应用方面二者各有擅长的领域，而不是简单的谁强谁弱问题。如果你需要完成数据分析、逻辑推理、代码生成等逻辑性较强且较为复杂的任务，请选择推理大模型。如果你面临创意写作、文本生成、意图识别等发散性较强且较为创意多样的任务，请选择通用大模型。
• 2. 大模型产品
  • 2.1 国外的大模型产品
    • （1）ChatGPT——ChatGPT是一种由OpenAI训练的大语言模型。它是基于Transformer架构，经过大量文本数据训练而成，能够生成自然、流畅的语言，并具备回答问题、生成文本、语言翻译等多种功能ChatGPT的应用范围广泛，可以用于客服、问答系统、对话生成、文本生成等领域。它能够理解人类语言，并能够回答各种问题，提供相关的知识和信息。与其他聊天机器人相比，ChatGPT具备更强的语言理解和生成能力，能够更自然地与人类交流，并且能够更好地适应不同的领域和场景。ChatGPT的训练数据来自互联网上的大量文本，因此，它能够涵盖多种语言风格和文化背景
    • （2）Gemini——Gemini是谷歌发布的大模型，它能够同时处理多种类型的数据和任务，覆盖文本、图像、音频、视频等多个领域。Gemini采用了全新的架构，将多模态编码器和多模态解码器两个主要组件结合在一起，以提供最佳结果Gemini包括三种不同规模的模型：Gemini Ultra、Gemini Pro和Gemini Nano，适用于不同任务和设备。2023年12月6日，Gemini的初始版本已在Bard中提供，开发人员版本可通过Google Cloud的API获得。Gemini可以应用于Bard和Pixel 8Pro智能手机。Gemini的应用范围广泛，包括问题回答、摘要生成、翻译、字幕生成、情感分析等任务。然而，由于其复杂性和黑箱性质，Gemini的可解释性仍然是一个挑战。
    • （3）Sora——2024年2月16日，OpenAI再次震撼全球科技界，发布了名为Sora的文本生成视频大模型，只需输入文本就能自动生成视频。这一技术的诞生，不仅标志着人工智能在视频生成领域的重大突破，更引发了关于人工智能发展对人类未来影响的深刻思考。随着Sora的发布，人工智能似乎正式踏入了通用人工智能（AGI：Artificial General Intelligence）的时代。AGI是指能够像人类一样进行各种智能活动的机器智能，包括理解语言、识别图像、进行复杂推理等。Sora大模型能够直接输出长达60秒的视频，并且视频中包含了高度细致的背景、复杂的多角度镜头，以及富有情感的多个角色。这种能力已经超越了简单的图像或文本生成，开始触及到视频这一更加复杂和动态的媒介。这意味着人工智能不仅在处理静态信息上越来越强大，而且在动态内容的创造上也展现出了惊人的潜力。
    • （4）OpenAI o3——2024年12月20日，OpenAI发布推理模型o3，无论在软件工程、编写代码，还是竞赛数学、掌握人类博士级别的自然科学知识能力方面，o3都达到了很高的水平。
  • 2.2 国内的大模型产品
    • （1）DeepSeek（深度求索）——2024年12月26日，杭州一家名为“深度求索”（DeepSeek）的中国初创公司，发布了全新一代大模型DeepSeek-V3。在多个基准测试中，DeepSeek-V3的性能均超越了其他开源模型，甚至与顶尖的闭源大模型GPT-4o不相上下，尤其在数学推理上，DeepSeek-V3更是遥遥领先。DeepSeek-V3以多项开创性技术，大幅提升了模型的性能和训练效率。DeepSeek-V3在性能比肩GPT- 4o的同时，研发却只花了558万美元，训练成本不到后者的二十分之一。因为表现太过优越，DeepSeek在硅谷被誉为“来自东方的神秘力量”。2025年1月20日，DeepSeek-R1正式发布，拥有卓越的性能，在数学、代码和推理任务上可与OpenAI o1媲美。
    • （2）通义千问——通义千问是阿里云推出的一个超大规模的语言模型，它具备多轮对话、文案创作、逻辑推理、多模态理解、多语言支持的能力。通义千问这个名字有“通义”和“千问”两层含义，“通义”表示这个模型能够理解各种语言的含义，“千问”则表示这个模型能够回答各种问题。通义千问基于深度学习技术，通过对大量文本数据进行训练，从而具备了强大的语言理解和生成能力。它能够理解自然语言，并能够生成自然语言文本。
    • （3）字节跳动豆包——豆包是字节跳动基于云雀模型开发的 AI，能理解你的需求并生成高质量回应。它知识储备丰富，涵盖历史、科学、技术等众多领域，无论是日常问题咨询，还是深入学术探讨，都能提供准确全面的信息。同时，具备出色的文本创作能力，能撰写故事、诗歌、文案等各类体裁。并且擅长语言交互，交流自然流畅，就像身边的知心伙伴，耐心倾听并给予恰当反馈。
    • （4）文心一言——文心一言是由百度研发的知识增强大模型，能够与人对话互动、回答问题、协助创作，高效便捷地帮助人们获取信息、知识和灵感文心一言基于飞桨深度学习平台和文心知识增强大模型，持续从海量数据和大规模知识中融合学习，具备知识增强、检索增强和对话增强的技术特色。文心一言具有广泛的应用场景，例如智能客服、智能家居、移动应用等领域。它可以与用户进行自然语言交互，帮助用户解决各种问题，提供相关的知识和信息.
    • （5）Kimi——Kimi是月之暗面科技 2023 年推出的 AI 助手，可处理 200 万字超长文本，支持多格式文件解读、互联网信息搜索整合、多语言对话等，能用于办公、学习、创作等场景，有网页版、APP、微信小程序等使用方式。
  • 2.3 主流大模型“幻觉”评测
    • 大模型幻觉，也被称为 AI 幻觉，是指大型语言模型在生成内容时，产生与事实不符、逻辑错误或无中生有等不合理信息的现象。比如在回答历史事件时，可能会编造不存在的细节或人物；在进行科学知识讲解时，给出错误的理论或数据。
    • 其产生原因主要包括：模型训练数据存在偏差、不完整或错误，导致在学习过程中引入了不准确的信息；模型基于概率分布生成内容，在某些情况下会选择一些看似合理但实际错误的路径。大模型幻觉会影响信息的准确性和可靠性，在信息传播、学术研究等领域可能带来不良影响。因此，在使用大模型时，需要对其输出内容进行仔细验证和甄别。
• 3. 大模型的行业应用
  • 3.1 大模型的行业应用领域
    • 大模型的应用领域非常广泛，涵盖了自然语言处理、计算机视觉、语音识别、推荐系统、医疗健康、金融风控、工业制造、生物信息学、自动驾驶、气候研究等多个领域。
      • （1）自然语言处理——大模型在自然语言处理领域具有重要的应用，可以用于文本生成（如文章、小说、新闻等的创作）、翻译系统（能够实现高质量的跨语言翻译）、问答系统（能够回答用户提出的问题）、情感分析（用于判断文本中的情感倾向）、语言生成（如聊天机器人）等。
      • （2）计算机视觉——大模型在计算机视觉领域也有广泛应用，可以用于图像分类（识别图像中的物体和场景）、目标检测（能够定位并识别图像中的特定物体）、图像生成（如风格迁移、图像超分辨率增强）、人脸识别（用于安全验证和身份识别）、医学影像分析（辅助医生诊断疾病）等。
      • （3）语音识别——大模型在语音识别领域也有应用，如语音识别、语音合成等。通过学习大量的语音数据，大模型可以实现高质量的跨语言翻译和语音识别以及生成自然语音。
      • （4）推荐系统——大模型可以用于个性化推荐、广告推荐等任务。通过分析用户的历史行为和兴趣偏好，大模型可以为用户提供个性化的推荐服务，提高用户满意度和转化率
      • （5）自动驾驶——大模型可以用于自动驾驶中的感知、决策等任务。通过学习大量的驾驶数据，大模型可以实现对车辆周围环境的感知和识别，以及进行决策和控制，提高自动驾驶的安全性和效率.
      • （6）医疗健康——大模型可以用于医疗影像诊断、疾病预测等任务。通过学习大量的医学影像数据，大模型可以辅助医生进行疾病诊断和治疗方案制定，提高医疗水平和效率。
      • （7）金融风控——大模型可以用于信用评估、欺诈检测等任务。通过分析大量的金融数据，大模型可以评估用户的信用等级和风险水平，以及检测欺诈行为，提高金融系统的安全性和稳定性
      • （8）工业制造——大模型可以用于质量控制、故障诊断等任务。通过学习大量的工业制造数据，大模型可以辅助工程师进行产品质量控制和故障诊断，提高生产效率和产品质量。
      • （9）生物信息学——在生物信息学领域，大模型可以用于基因序列分析（识别基因中的功能元件和变异位点）、蛋白质结构预测（推测蛋白质的二级和三级结构）、药物研发（预测分子与靶点的相互作用）等。
      • （10）气候研究——在气候研究领域，大模型可以处理气象数据，进行天气预测和气候模拟。它们能够分析复杂的气象现象，提供准确的气象预报，帮助人们做出应对气候变化的决策。
  • 3.2 DeepSeek大模型的应用场景
    • （1）客户服务与支持（高频应用）——1)自动回复客户咨询：电商平台使用DeepSeek自动回答客户关于订单状态、退货政策等问题。2)多渠道客服支持：企业使用DeepSeek在网站、社交媒体和邮件等多个渠道提供客服支持。3)自动处理订单：外卖平台使用DeepSeek自动处理用户订单和配送请求。4)自动处理退款：电商平台使用DeepSeek自动处理用户退款请求。5)自动处理投诉：电信公司使用DeepSeek自动处理客户关于网络和账单的投诉。6)自动处理咨询：银行使用DeepSeek自动处理客户关于账户和贷款的咨询。7)情感支持：心理健康应用使用DeepSeek为用户提供情感支持和心理辅导。8)智能语音客服：呼叫中心使用DeepSeek提供语音客服服务，减少人工客服压力。9)客户反馈分析：企业使用DeepSeek分析客户反馈，改进产品和服务。10)实时聊天支持：网站使用DeepSeek提供实时聊天支持，提升客户满意度。
    • （2）个性化推荐（高频应用）——1)个性化购物推荐：电商平台使用DeepSeek根据用户购买历史推荐商品。2)个性化音乐推荐：音乐平台使用DeepSeek根据用户听歌历史推荐音乐。3)个性化电影推荐：流媒体平台使用DeepSeek根据用户观看历史推荐电影。4)个性化书籍推荐：图书平台使用DeepSeek根据用户阅读历史推荐书籍。5)个性化视频推荐：视频平台使用DeepSeek根据用户观看历史推荐视频。6)个性化新闻推荐：新闻应用使用DeepSeek根据用户阅读历史推荐新闻。7)个性化旅游推荐：旅游平台使用DeepSeek根据用户偏好推荐旅游目的地和行程。8)个性化学习推荐：在线教育平台使用DeepSeek根据学生的学习进度推荐课程。9)个性化内容推荐：内容平台使用DeepSeek根据用户兴趣推荐文章和博客。10)个性化广告推荐：广告平台使用DeepSeek根据用户行为推荐个性化广告。
    • （3）教育与培训（中频应用）——1)在线辅导学生：教育平台利用DeepSeek为学生提供数学、科学等科目的实时辅导。2)自动批改作业：学校使用DeepSeek自动批改学生作业，节省教师时间.3)个性化学习路径：在线教育平台使用DeepSeek为学生制定个性化学习路径。4)语言学习助手：语言学习应用使用DeepSeek提供实时翻译和发音纠正。5)虚拟实验室：教育机构使用DeepSeek创建虚拟实验室，帮助学生进行科学实验。6)智能题库管理：教育平台使用DeepSeek管理题库，自动生成试卷。7)学习进度跟踪：在线教育平台使用DeepSeek跟踪学生学习进度，提供反馈。8)虚拟导师：教育机构使用DeepSeek提供虚拟导师服务，帮助学生解答问题。9)职业培训：企业使用DeepSeek为员工提供职业培训课程。10)在线考试监控：教育机构使用DeepSeek监控在线考试，防止作弊。
    • （4）医疗与健康（中频应用）——1)初步医疗建议：健康应用集成DeepSeek，为用户提供症状分析和就医建议。2)药物提醒：健康应用使用DeepSeek提醒用户按时服药。3)医疗数据分析：医院使用DeepSeek分析患者数据，提供个性化治疗方案。4)疾病预测：健康应用使用DeepSeek分析用户健康数据，预测疾病风险。5)健康监测：智能穿戴设备使用DeepSeek监测用户健康数据，提供健康建议。6)心理健康支持：心理健康应用使用DeepSeek为用户提供心理辅导和支持。7)远程医疗咨询：医疗平台使用DeepSeek提供远程医疗咨询服务。8)医疗知识库：医院使用DeepSeek构建医疗知识库，方便医生查询信息。9)健康管理：健康应用使用DeepSeek帮助用户管理健康数据，制定健康计划。10)智能诊断：医疗平台使用DeepSeek辅助医生进行疾病诊断
    • （5）金融与投资（中频应用）——1)市场趋势分析：投资平台利用DeepSeek分析股票市场数据，提供投资建议。2)智能投顾：投资平台使用DeepSeek为客户提供智能投资顾问服务。3)财务规划：金融应用使用DeepSeek帮助用户制定财务规划。4)智能客服：银行使用DeepSeek提供智能客服服务，解答客户问题。5)风险评估：银行使用DeepSeek评估客户信用风险，提供贷款建议。6)欺诈检测：银行使用DeepSeek检测交易中的欺诈行为7)金融数据分析：金融公司使用DeepSeek分析市场数据，提供投资建议。8)财务报告生成：金融公司使用DeepSeek自动生成财务报告。9)客户信用评分：银行使用DeepSeek评估客户信用评分，提供个性化金融服务。10)自动交易：投资平台使用DeepSeek进行自动化交易。
    • （6）内容创作与媒体（中频应用）——1)自动生成文章：内容营销公司使用DeepSeek自动生成高质量的文章和博客内容。2)视频内容生成：视频平台使用DeepSeek自动生成视频内容。3)内容审核：社交媒体平台使用DeepSeek自动审核用户发布的内容。4)内容推荐：内容平台使用DeepSeek根据用户兴趣推荐文章和视频。5)图像识别：社交媒体平台使用DeepSeek自动识别和标记照片中的物体和人脸。6)新闻摘要生成：新闻应用使用DeepSeek自动生成新闻摘要，方便用户快速了解新闻。7)社交媒体管理：企业使用DeepSeek管理社交媒体内容，自动发布和回复。8)智能写作助手：作家使用DeepSeek辅助写作，提供灵感和建议。9)语音转文字：媒体公司使用DeepSeek将采访录音转换为文字稿。10)内容翻译：媒体公司使用DeepSeek将内容翻译成多种语言。
    • （7）智能家居与物联网（低频应用）——1)智能家居控制：智能家居系统使用DeepSeek语音控制灯光、温度等设备。2)家庭安全监控：智能家居系统使用DeepSeek监控家庭安全，提供警报。3)智能家电管理：智能家居系统使用DeepSeek管理家电，优化能源使用。4)语音助手：智能音箱使用DeepSeek语音助手控制家居设备。5)家庭健康监测：智能家居系统使用DeepSeek监测家庭成员健康数据。6)智能照明：智能家居系统使用DeepSeek根据环境光线自动调节照明。7)智能温控：智能家居系统使用DeepSeek根据用户习惯自动调节温度。8)智能安防：智能家居系统使用DeepSeek提供智能安防服务，监控家庭安全。9)智能家电控制：智能家居系统使用DeepSeek控制家电，如洗衣机、冰箱等。10)家庭娱乐管理：智能家居系统使用DeepSeek管理家庭娱乐设备，如电视、音响等。
    • （8）法律与合规（低频应用）——1)合同审查：法律服务平台使用DeepSeek为用户提供合同审查服务。2)合规检查：企业使用DeepSeek检查业务流程是否符合法律法规。3)案件分析：律师事务所使用DeepSeek分析案件数据，提供法律建议。4)法律风险评估：企业使用DeepSeek评估法律风险，提供合规建议。5)法律案例检索：律师事务所使用DeepSeek检索相关法律案例。6)法律咨询：法律服务平台使用DeepSeek为用户提供法律咨询。7)法律文档生成：法律服务平台使用DeepSeek自动生成法律文档。8)法律知识库：法律服务平台使用DeepSeek构建法律知识库，方便用户查询信息。9)法律文书翻译：法律服务平台使用DeepSeek将法律文书翻译成多种语言。10)法律培训：法律服务平台使用DeepSeek为用户提供法律培训课程。
    • （9）游戏与娱乐（低频应用）——1)游戏角色智能：游戏开发公司使用DeepSeek为游戏角色提供智能行为。2)游戏推荐：游戏平台使用DeepSeek根据用户游戏历史推荐游戏。3)虚拟现实体验：游戏平台使用DeepSeek提供虚拟现实游戏体验。4)游戏社交：游戏平台使用DeepSeek提供社交功能，增强玩家互动。5)游戏虚拟助手：游戏平台使用DeepSeek提供虚拟助手，帮助玩家解决问题。6)智能能源管理：能源公司使用DeepSeek优化能源使用，提高能源效率。7)智能城市规划：城市规划部门使用DeepSeek分析城市数据，优化城市规划。8)智能零售：零售公司使用DeepSeek优化库存管理，提高销售效率。9)智能招聘：招聘平台使用DeepSeek自动筛选简历，匹配职位需求。10)智能数据分析：企业使用DeepSeek分析大数据，提供商业洞察。
    • （10）其他应用（低频应用）——1)自动驾驶：汽车制造商使用DeepSeek开发自动驾驶系统，识别道路和障碍物。2)智能物流：物流公司使用DeepSeek优化物流路线，提高配送效率。3)智能农业：农业公司使用DeepSeek监测作物生长，优化种植方案。4)智能交通：交通管理部门使用DeepSeek优化交通流量，减少拥堵。5)智能环保：环保机构使用DeepSeek监测环境数据，提供环保建议。6)智能能源管理：能源公司使用DeepSeek优化能源使用，提高能源效率。7)智能城市规划：城市规划部门使用DeepSeek分析城市数据，优化城市规划。8)智能零售：零售公司使用DeepSeek优化库存管理，提高销售效率。9)智能招聘：招聘平台使用DeepSeek自动筛选简历，匹配职位需求。10)智能数据分析：企业使用DeepSeek分析大数据，提供商业洞察。
  • 3.3 大模型与其他技术在企业中的融合应用
    • （1）自动化流程技术（RPA）——实现更加智能的业务流程自动化。RPA 擅长处理重复性的规则性任务，而大模型则能够理解自然语言指令，深入分析复杂的业务场景，并提供极具价值的决策建议。比如在财务部门，RPA 可以自动完成发票录入等任务，而大模型则能够回答员工关于财务政策的问题，并依据数据分析给出成本优化的建议。
    • （2）知识图谱技术——为企业提供更为精准的知识管理和决策支持。知识图谱以结构化的方式呈现企业内外部的知识，大模型则可以利用知识图谱进行知识推理和查询，迅速获取所需信息。在研发部门，大模型结合知识图谱，可以回答技术问题、推荐相关技术方案，助力研发人员实现创新。
    • （3）物联网技术——对设备和生产过程进行智能监控和管理。物联网设备会产生大量的数据，大模型能够对这些数据进行分析，预测设备故障，优化生产流程。在制造业中，大模型可以根据传感器数据实时调整生产参数，提高生产效率和产品质量。
    • （4）数据分析与可视化技术——帮助企业更好地理解和利用数据。大模型可以对大量的数据进行分析和挖掘，提取有价值的信息，而数据分析和可视化技术则可以将这些信息以直观的图表和报告形式展示出来，方便企业管理层进行决策。
• 4. 企业大模型落地方案
  • 4.1 企业大模型如何为企业赋能
    • （1）提高效率：企业AI大模型可以自动化地完成一些重复性、繁琐的工作，从而提高工作效率。比如，它可以通过自然语言处理技术自动回复客户邮件、自动分类垃圾邮件等等。
    • （2）提高产品质量：企业AI大模型可以帮助企业更好地理解客户需求，从而提高产品质量。比如，它可以通过自然语言处理技术来分析客户反馈意见，并针对性地改进产品设计。
    • （3）优化业务流程：企业AI大模型可以根据历史数据和实时数据来优化业务流程。比如，它可以通过预测分析来提前发现潜在的问题，并采取相应的措施来避免这些问题的发生。
    • （4）降低成本：企业AI大模型可以通过自动化地完成一些工作来降低成本。比如，它可以通过自动化的数据分析来减少人力资源的使用。
  • 4.2 企业大模型的七大落地场景
    • （1）对话助手：对话助手是大模型技术最基础也是最广泛的应用形态。基于知识库数据源和API查询，对话助手能够实时回答用户问题，提供高效的信息传递。例如，某一乘用车通过搭建基于AI大模型的汽车在线问答平台，实现了对非结构化文档 (如PDF、Word等) 的智能知识交互，提升了员工工作效率和学习能力。该平台提供7*24小时的智能知识服务，问题交互准确率达95%以上，客户满意度提升了35%。
    • （2）报告生成：企业常常需要撰写大量报告，这些报告往往具有固定模板且内容复杂。大模型技术可以通过分解报告为多人子问题，分别求解，并将结果整合到预定框架中，实现报告的自动生成。虽然这类应用不能保证100%的准确性但结合多种技术手段 (如大型和小型模型、专家系统等)，可以大大提高生成效率和准确性。
    • （3）审核与合规：审核类场景通常与生成类场景相伴相生。大模型技术不仅可以辅助生成文档，还可以用于审核结构化业务数据和非结构化文档。例如，在提交审批前，通过大模型进行自动审核，可以帮助提交者判断是否需要修改，提高提交质量，降低打回概率。此外，大模型还可以用于合规性和合法性审核确保企业业务符合法律法规要求。
    • （4）知识管理：大模型技术正在重塑企业知识管理场景。通过大模型对语义的理解，企业可以将非结构化数据进行结构化提取和总结，大大降低了知识管理的落地门槛。
    • （5）数据分析是企业决策的重要依据。大模型技术通过引入编程能力，可以大大降低数据分析成本。然而，目前大模型在特定业务场景下的效果仍需优化，模型微调是一种解决办法.
    • （6）编码助手：在软件开发领域，大模型技术可以作为编码助手，提升工程师的工作效率。通过AI编程助手，减少了重复劳动，提升了代码质量。
    • （7）智能运维与制造优化：大模型技术在智能运维和制造优化方面也发挥着重要作用。利用大模型技术构建了智能运维系统，通过自然语言交互界面，实现了对运维问题的智能回答。在制造领域，大模型可以通过智能分析和预测维护，提升生产效率.
  • 4.3 企业大模型的部署方式
    • （1）云端部署:通过云厂商实现弹性扩展和成本优化。DeepSeek大模型部署在公有云或私有云上，利用云厂商的基础设施和资源。适用场景：弹性需求：需要根据负载动态调整资源；快速扩展：业务增长迅速，需快速扩展系统；成本优化：希望通过按需付费模式降低IT成本。
    • （2）本地/内网部署：通过本地数据中心实现数据完全掌控。DeepSeek大模型部署在企业内部服务器或数据中心，数据和应用完全在企业内网中运行。适用场景：数据敏感：对数据安全要求高，需完全掌控数据；合规要求：需满足特定行业或地区的合规要求；网络限制：内网环境无法连接外部网络。
    • （3）边缘部署：通过边缘节点实现低延迟和实时处理。将DeepSeek大模型部署在靠近数据源的边缘节点，减少数据传输延迟。适用场景：低延迟需求：如物联网、实时监控等需要快速响应的场景；带宽有限：数据传输成本高或带宽有限时，边缘计算可减少数据上传；离线运行：需要在网络不稳定或离线时仍能正常运行。
    • （4）混合部署：通过本地和云端结合实现灵活性和灾备需求。结合云端和本地部署，DeepSeek大模型部分系统在云端，部分在本地。适用场景：灵活需求：部分数据需本地处理，部分需云端处理；过渡阶段：从本地逐步迁移到云端时，混合部署可作为过渡方案；灾备需求：本地和云端互为备份，提升系统可靠性。
    • （5）容器化/微服务部署：通过容器技术和微服务架构实现敏捷开发和资源隔离。将DeepSeek大模型系统拆分为多个微服务，使用容器技术（如Docker）进行部署和管理。适用场景：敏捷开发：需要快速迭代和发布新功能；资源隔离：不同服务需要独立运行环境，避免相互干扰；弹性扩展：根据需求独立扩展特定服务。
    • （6）联邦部署：通过联邦协议和分布式架构实现跨组织协作和数据隐私保护。DeepSeek大模型多个独立系统通过联邦协议协作，共享数据和资源，但各自保持独立。适用场景：跨组织协作：多个组织需共享数据但保持独立管理；数据隐私：需在保护数据隐私的前提下进行数据共享；分布式计算：需要在多个节点上分布式处理数据，如联邦学习。
  • 4.4 企业级应用集成AI大模型的关键步骤
    • 需求场景定义：企业首先需要明确AI应用的具体场景，如文本生成、情感分析、图片理解和生成等。这有助于后续模型的选择与技术路线的设计。
    • 模型选型：根据需求场景，企业需要在众多预训练模型中选择合适的AI大模型。这一过程中，企业需要综合考虑模型的性能、准确性、计算效率、成本及安全性等因素。
    • 模型优化：选定模型后，企业需要通过提示词工程RAG、微调等策略对模型进行优化，以提升其在特定场景下的表现效果与可靠性。
    • 模型部署：优化后的模型需要被部署到合适的环境中如云端、边缘计算或本地服务器等。这要求企业具备强大的技术实力和丰富的运维经验。
    • 应用集成：最后，企业需要将AI大模型无缝集成到现有的业务系统中，实现自动化决策或增强用户体验。
  • 4.5 企业级应用集成大模型的技术架构设计
    • 企业级应用集成AI大模型的技术架构设计，需要综合考虑业务需求、数据安全、模型性能等多方面因素。以下是一个典型的技术架构设计框架：
    • （1）数据源层：包括内部数据库、公共数据集、第三方数据服务等，为AI大模型提供丰富的数据支持。
    • （2）数据采集与预处理层：使用爬虫、API、loT设备等手段收集数据，并进行清洗、格式化、归一化、特征提取等预处理操作。
    • （3）模型训练与评估层：使用机器学习框架 (如TensorFlow.PyTorch等)训练模型，并通过交叉验证、A/B测试等方法评估模型性能。
    • （4）模型部署与服务层：将训练好的模型部署为RESTful API等服务，使用Docker、Kubernetes等工具进行容器化与编排，实现高效的模型管理和服务。
    • （5）业务逻辑与用户界面层：将AI模型集成到业务流程中，通过Web应用、移动应用等用户界面提供交互服务。
    • （6）安全与合规层：实施加密、访问控制等手段保护数据安全，确保AI应用符合行业标准和国家法规。
  • 4.6 大模型应用落地总体“四维认知”框架
    • （1）问题诊断：直面行业转型现状与痛点在启动大模型项目时，必须深入分析行业转型的阶段性特征、业务体系的现实需求以及技术架构的短板痛点，找准问题，避免照搬照抄。（2）能力评估：诊断短板，明确能力提升路径找准问题仅仅是第一步，还需要进一步诊断企业在大模型应用方面的短板，给出补齐相关能力的药。（3）焦点确认：聚焦待补齐能力背后的技术议题大模型能力的提升并非一蹴而就需要在算力基础、数据积累、模型优化等方面持续发力。（4）行动计划：制定技术建设路线固，有的放矢地行动。梳理清楚大模型落地所需的能力体系只是第一步，接下来还需要以行动为指引，将愿景变为现实
  • 4.7 大模型应用落地策略建议
    • （1）聚焦业务场景需求并合理选择模型：- 深入剖析业务需求，首选大语言模型提升文本处理效率；多模态业务需权衡技术成本，采用合适架构融入系统.
    • （2）评估自身数据丰富度及质量：评估数据丰富度、多样性、时效性和隐私保护要求，确保数据支持模型训练微调，符合合规要求。
    • （3）建立持续学习与迭代机制：建立性能监控和反馈机制，定期评估模型效果，根据需求和反馈调优迭代，确保模型持续满足业务需求。
    • （4）探索大模型应用与业务的深度融合：从辅助生成场景拓展到为决策赋能，推动数字化转型和智能化升级，实现业务流程自动化智能化。
    • （5）明确任务性质结合业务逻辑优化流程：区分辅助生成与决策性任务，优化输入输出流程（辅助生成任务）或结合模型预测与决策逻辑（决策性任务）
    • （6）明确技术选型与适配性：综合评估框架成熟度、易用性、扩展性和兼容性等因素，选择合适大模型框架并确保与现有系统高效集成。
    • （7）培养独立的AI人才与团队：引进培养AI专业人才，负责模型微调、技术引入和系统集成等工作，支撑大模型应用发展。
  • 4.8 大模型构建的技术方案选择
    • （1）模型微调和本地知识库：使用海量数据进行预训练得到的基础大模型，具备广泛的语言理解和生成能力，但在特定任务上的表现往往不够精准。解决方案:(1) 模型微调 (2)本地知识库.
    • （2）模型微调技术特点：(1) 领域针对性强: 经过微调的模型在特定领域的表现会有显著提升能够更好地理解和处理该领域的专业问题;(2)模型适应性优化: 通过微调可以调整模型的参数，使其更符合特定任务的要求，提高输出的准确性和稳定性。
    • （3）模型微调技术要点：高质量的标注数据: 标注数据的质量直接影响微调的效果，需要确保数据标注的准确性和一致性(2) 合理的微调策略: 选择合适的微调算法和超参数，避免过拟合或欠拟合问题
  • 4.9 企业部署大模型当前关注的问题
    • （1）收益不确定: 当前很多应用场景多处于验证阶段，其实际效果和最终收益存在不确定性。
    • （2）落地和建设路径:第一，是模型本身，研发能力不足的企业用户，是否自身要去做模型训练? 现阶段是否一定要有企业内部专属大模型:第二，如果做训练和微调，现有的数据量是否足够?第三，算力是否需要投入? 如果增加算力投入，整体项目预算量级会上升一个级别第四，如何量化最终收益?第五，是项目可行性问题，大多数企业用户在过去一年都已经做过大模型尝试，准确性、幻觉问题一直存在如何解决?
    • （3）合规: 模型本身是否自主可控? 数据是否安全合规? 信创要求。
    • （4）选型:现在市面上第一类大模型由互联网大厂，像阿里、腾讯、华为等大厂研发的相关产品。那第二类是专注单点应用的小厂，比如专注于 Agent平台和 Agent 应用开发，第三，现有垂直供应商。所有企业用户都会关注选型问题，虽然大模型大厂本身技术能力很强，但不定特别理解企业自身业务场景，而现有的垂直厂商本身技术能力会受到多方质疑，所以选型是重点关注的问题。
  • 4.10 企业部署大模型面临的挑战
    • AI大模型正在重构千行万业，造就数据的黄金时代，然而AI进入各行业仍面临着挑战：从通用大模型到行业场景大模型，需要进行针对性训练，训练所需数据预处理耗时长，收集、清洗等环节占模型开发训练时长60%，需要高效归集、管理的数据工程能力。其次，行业场景模型训练和应用落地难，项目开发难度大，人员技术要求高，开发周期不可控，需要环境易安装、模型易训练、应用易搭建的AI业务平台；最后，因算力等待、任务潮汐、资源碎片化等原因，AI集群可用度往往不足50%，需要不断提升全系统调度效率.
• 5. 智能体的企业应用
  • 5.1 智能体的概念
    • 继微博、微信和抖音之后，智能体成为每个企业的必备“武器智能体是企业在AI时代的“智能”客户端。
    • 智能体（AI Agent），又称“人工智能代理”，是一种模仿人类智能行为的智能化系统，它就像是拥有丰富经验和知识的“智慧大脑”，能够感知所处的环境，并依据感知结果，自主地进行规划、决策，进而采取行动以达成特定目标。简单来说，智能体能够根据外部输入做出决策，并通过与环境的互动，不断优化自身行为。
    • 智能体本身既不是单纯的软件也不是硬件，而是一个更为宽泛的概念，它们可以是软件程序、机器人或其他形式的系统，具备一定的自主性和智能性。
    • 基于大模型的智能体是指利用大语言模型（如GPT、BERT等）作为核心组件，构建的能够执行特定任务、与环境交互并做出决策的人工智能系统。这些智能体具有自主性、交互性、适应性等特点，能够模拟人类的认知和决策过程，提供更加自然、高效和个性化的交互体验。它们能够处理海量数据，进行高效的学习与推理，并展现出跨领域的应用潜力。
    • AI Agent 的诞生就是为了处理各种复杂任务的，就复杂任务的处理流程而言 AI Agent 主要分为两大类：行动类、规划执行类。总而言之，AI Agent 就是结合大模型能去自动思考、规划、效验和执行的一个计算体，以完成特定的任务目标，如果把大模型比作大脑，那 AI Agent 可以理解为小脑 + 手脚。
    • 过去的嵌入式工具型 AI助手型工具 (例如siri、小度、小爱音箱) ，只完成和人之间的问答会话。
    • 目前各类 AI Copilot 不再是机械地完成人类指令，而是可以参与人类工作流，为诸如编写代码、策划活动、优化流程等事项提供建议，与人类协同完成。
    • AI Agent 的工作仅需给定一个目标，它就能够针对目标独立思考并做出行动，它会根据给定任务详细拆解出每一步的计划步骤，依靠来自外界的反馈和自主思考，自己给自己创建 prompt，来实现目标。
  • 5.2 智能体和RAG的区别
    • RAG和智能体：（1）RAG 技术就像是一个智能的知识助手，它通过将外部知识库与大语言模型相结合，极大地增强了模型的回答能力。当用户提出问题时，RAG首先会在庞大的知识库中进行检索，找到相关的信息，然后将这些信息与大语言模型的生成能力相结合，给出更加准确、全面的回答。例如，在企业客服场景中，RAG 可以快速检索企业的产品资料、常见问题解答等知识库，为客户提供精准的服务，大大提高了客服的效率和质量。（2）智能体更像是一个拥有自主意识的智能员工，它以大语言模型为驱动，具备自主理解、感知、规划、记和使用工具的能力。它可以根据目标任务，进行智能规划与决策，自动执行复杂的任务、比如在智办公场景中，AI Agent 可以根据用户的日程安排，自动预订会议室、安排会议议程，还能在会议结束后自动生成会议纪要，实现办公流程的自动化，让员工从繁琐的事务性工作中解脱出来。（3）RAG 的部署相对来说成本较低，主要集中在知识库的建设和维护上，企业可以利用现有的数据资源，构建自己的知识库，然后通过接入大语言模型，实现 RAG 的功能。对于一些数据量较小、业务场景对简单的企业来说，RAG 是一个性价比很高的选择。（4）Al Agent的部则需要更高的技术门槛和成本。它不仅需要强大的大语言模型支持，还需要构建复杂的智能规划和决策系统，以及与各种T具和系统的集成。此外，AI Agent 还需要不断地进行训练和优化，以提高其智能水平和适应性。因此，对于一些中小企业来说，AI Aqent 的部署成本可能较高，但对于大型企业和对智能化要求较高的企业来说，AI Agent 带来的价值可能远超其成本
  • 5.3 典型的智能体类型
    • 生产力智能体:这一类智能体通过自动化任务、优化工作流程和提升效率来显著提高生产力。
    • 智能体框架:是一组编程工具和库，专门为创建高效、可扩展的AI智能体设计。它们通常包括用于任务规划、对话管理和数据处理的模块。
    • 语音AI智能体:通过语音识别和自然语言处理技术，与用户进行语音交互。这些智能体在智能家居、车载系统和客户服务中非常常见。
    • 数据分析智能体:可以处理海量数据，快速生成洞察，并帮助用户做出数据驱动的决策。它们广泛应用于商业、科学和金融领域。
    • 个人助理智能体:可以帮助用户管理日程、发送提醒、执行简单任务，甚至提供个性化建议，提升个人的日常效率。
    • 智能体开发平台: 是支持开发、管理和部署智能体的技术基础。它们提供必要的工具和接口，帮助企业和个人快速构建和集成智能体。
    • 编程类AI智能体:能够协助开发者完成代码编写、调试和优化，提升开发效率，减少人为错误.
    • 客户服务智能体:俗称“智能客服”，能够提供即时的客户支持、回答常见问题，并通过个性化推荐提高客户满意度数字化工作者:是一种AI智能体，专注于执行重复性高的任务，比如数据输入、文档整理和流程自动化。
  • 5.4 智能体产品
    • 2025年1月23日，Open AI发布了一个创新性的智能体——Operator，它是一个能够像人类一样使用计算机的智能体。它基于OpenAI最新研发的CUA（Computer-Using Agent）模型，CUA 将 GPT-4o 的视觉功能与通过强化学习获得的高级推理相结合，经过训练可以与图形用户界面（GUI，即人们在屏幕上看到的按钮、菜单和文本字段）进行交互。Operator通过观察屏幕并使用虚拟鼠标和键盘来完成任务，而无需依赖专门的API接口。这种设计使其可以适配任何为人类设计的软件界面，带来极高的灵活性。
    • Operator好比一个博士水平的个人助理，你给他一个复杂的任务，它就会自动执行。Operator的主要功能包括自主完成诸如采购杂货、提交费用报表、订票、买日用品、填写表格等任务，旨在通过自动化操作提升日常生活和工作效率。它还可以一边在StubHub搜索勇士队比赛门票，一边处理网球场预订、寻找清洁服务和DoorDash订餐，实现多任务并行处理。
• 6. 厂商提供的企业级大模型服务
  • 6.1 企业级大模型落地解决方案服务
    • （1）云厂商为代表的大厂：具备强大基础能力，可解决复杂问题，构建通用能力支持共性需求:拥有自研模型和充足算力，提供全方位服务。
    • （2）AI应用企业为代表的服务商：注重用户体验流畅性;对特定行业理解深入，提供贴合行业需求的方案;基于场景经验提供实用服务。
    • （3）新兴大模型应用开发服务商：有完善算力运营调度方案，通过软硬件优化和多元异构算力适配技术提升AI应用性能。
  • 6.2 DeepSeek大模型一体机
    • 国产化AI算力的“开箱即用”解决方案DeepSeek大模型一体机。（1）全尺寸模型支持：
    • 提供1.5B轻量版至671B超大规模模型的灵活调用，满足边缘端轻量化推理与云端复杂训练的双重需求，支持模型蒸馏与定制化开发助力企业“按需取用”。（2）动态资源调度：通过智能算力管理引擎，实现CPU、GPU等异构资源的动态分配，提升资源利用率，降低算力闲置成本。（3）行业场景深度适配：内置政务公文写作、金融合同审核、工业质检、智能客服等多种垂直场景解决方案，结合API服务快速对接企业现有系统。（4）数据安全与本地化部署：支持私有化部署至客户本地环境，确保金融、政府等高敏感行业的数据主权，符合国家信创安全标准。（5）全生命周期管理：从数据集管理、模型微调、日志监控到自动化运维，提供端到端的技术支持，降低企业AI应用的长期运营成本。
  • 6.3 企业选择大模型产品的考察维度
    • （1）响应速度：包括大模型响应时效和端到端响应时效。响应时效反映单次请求的处理效率,端到端时效关注交互场景的整体流畅度。响应时间过长会严重影响用户体验, 降低工作效率,因此响应速度是一个重要的技术考量点。
    • （2）输入长度与多轮交互能力：主要指标是token长度。token长度越长,支持编码理解的上下文信息越丰富,不同意图之间的语义关联性更强。足够的token长度可以让模型学习和记忆更复杂的知识结构,进行多轮交互，推理更加准确。
    • （3）问答准确率：评估大模型文本生成、向答等功能的输出质量和正确率,是技术指标的核心。知识准确率直接决定了模型应用场景的范围和效果,是一个必须重点考量的维度。
    • （4）语言个性化程度：大模型是否能够按照客户化的语言模式，生成答案，以流畅的、适配客户情境的客户化语言进行交流。
    • （5）答案可信度：答案是否是真实可信的，不存在模型的幻想或超越出本知识库内容的编造内容，是否提供了查证答案来源的可溯源的知识出处机制。
    • （6）知识库构建难度：知识构建是否与日常知识积累复用，是否需要进行深度的知识加工才可以供大模型进行问答,其知识库构建难度越高，在这一点上得分越低。
    • （7）信息安全系数：是否能够确保信息安全，不泄密企业核心知识没有信息安全隐患。
    • （8）垂域训练能力：是否能适配和接入垂直领域知识库，进行领域的训练。反映大模型对业务领域专业知识的理解和适应程度,直接影响知识服务的质量。核心是意国理解力和问题解决力。这关系到模型是否能贴合企业实际业务需求。
    • （9）集成扩展能力：是否能与企业知识库、企业业务系统、企业IM等数据源、渠道进行集成，实现大模型能力的中台化复用，集成接口是否完善.
    • （10）成本效益：前期成本投入包括软件采购和基础硬件投入。运营期人工替代率能直观反映大模型应用对企业运营成本的节约效果，所投入的成本最终能够代替多少人工或人工工时，直接反应了其成本收益的比。
• 7. 大模型典型应用案例
  • （1）瑞金医院携手华为发布瑞智病理大模型RuiPath，单切片AI诊断仅需数秒.瑞智病理大模型RuiPath，是基于瑞金医院数字化智慧病理科的全业务流程开发的临床级国产多模态互动式病理大模型，数字化和AI助力医院实现多模态融合在交互式辅助诊断环节，传统诊断方式是医生在显微镜下逐张查看切片，完成诊断后再人工录入报告。而 RuiPath能够提前精准识别病灶区域，单切片AI诊断时间仅需数秒。这使得医生的工作模式从在镜下逐个寻找病灶，转变为以互动方式审核AI诊断结果，从 ‘逐片诊断（Slide by slide）’ 模式升级为‘逐步审核（Step by step）’ 模式，显著提升了诊断效率与质量。
  • （2）云南白药集团股份有限公司的“大模型应用开发平台”.云南白药集团股份有限公司构建了面向全员的人工智能企业级大模型应用开发平台，深植 LLM 运营（LLMOps）的先进理念。平台不仅无缝集成了主流大模型提供商的丰富模型矩阵，还深耕 Prompt 工程学领域，通过精细化指令设计，引导模型展现超凡智能表现。应用实例：基于大模型应用平台构建的进销存数据清洗及标准化解决方案，实现了由人工处理转为线上系统自动化流程处理，月处理药品销售库存 3000+ 份文件约300 万条记录，平均每份文件处理时间由 10 分钟降至 1 分钟，人效提高 90%。案例亮点：平台包含了构建 LLM 应用所需的关键技术栈，可以快速搭建企业业务助手，为业务场景解决方案提供利性 AI 支持。
  • （3）厦门市合趣信息科技有限公司：云合·AI 产业顾问.云合·AI 产业顾问是基于大语言模型及产业大数据的办公效率工具，为全国数百万招商及产业人员提供准确、及时、可靠的产业分析、数字招商和辅助办公功能。它帮助政府、招商、投资、产研等机构通过 AI 对话、知识库、企业分析报告等功能快速完成工作。应用实例：投治会 AI 顾问 - : 在 23 届 98 投洽会线下现场及线上平台“云上投洽会”中集成了大模型数字人对话应用“投洽会 AI 顾问”，以厦门城市形象“鹭可”作为智能对话数字人，将投治会“展、会、谈、宣”及厦门文旅、核心产业数据进行知识增强，用户可通过智能语音/ 文字对话方式进行各类相关内容的问答。云合·AI 产业顾问- 通用版: 23 年 11 月份在互联网上启动开放下载及注册，目前已有数千名个人办公用户并形成了一定的付费转化，帮助不少企业员工和管理层实现了 AI 办公能。案例亮点：将 AI 大模型的能力经过场景化提炼整合，为用户提供具体工作场景所需的功能，如 AI 对话、AI 角色/数字员工、AI全局快捷指令、A 写作、企业分析报告、知识库、思维导图研报中心、AIPPT、AI 绘图、AI 产业数据服务、AIagents 定制服务等。