大模型的技术风险与挑战

通过思维导图的的形式系统地阐述了大模型技术面临的风险和挑战，详细列出了几种技术风险，包括黑盒模型可能被滥用以制造虚假信息或恶意引导行为，以及多模态融合技术可能被滥用以危害国家安全等。

大模型的技术风险与挑战

• 可靠性无法得到保障
  • 其合成内容在事实性、时效性等方面人存在较多问题。
• 可解释性存在不足
  • 基于深度神经学习，为黑盒模型，其工作机理仍难以理解。
• 应用部署代价高
  • 其参数规模和数据规模非常巨大，存在训练和推理计算量大、功耗高、应用成本高、端侧推理存在延时等问题。
• 存在安全与隐私问题
  • 其安全漏洞可能被攻击者利用，威胁以其为基础构建的应用生态。
  • 利用提示信息可能诱发大模型隐私数据泄露。
• 存在伴生技术风险
  • 多模态融合技术可能会被滥用于制造虚假信息、恶意引导行为，诱发舆论攻击甚至危害国家安全。
• 在小数据情境下的迁移能力存在不足
  • 基于数据驱动深度学习方式，一来训练数据所覆盖的场景，在特定场景适用性存在不足。