请论述深度伪造技术对信息博弈的影响

深度伪造（deepfake）是采用人工智能的深度学习方法来伪造图文、音频、视频等内容的一种技术手段，通过使用人工智能的算法技术，进行自动化的智能生产，操纵和修改数据以实现媒体的传播行为。

• 新闻热点题库
• • 请论述深度伪造技术对信息博弈的影响
  • 内容来源 | 2024年北京师范大学新传考研真题
  • 作为人工智能技术进步的产物之一，“深度伪造”作品让人们在视频里“说着”那些根本从没有说过的“话”、“做着”从没有做过的“事”。深度伪造（deepfake）是采用人工智能的深度学习方法来伪造图文、音频、视频等内容的一种技术手段，通过使用人工智能的算法技术，进行自动化的智能生产，操纵和修改数据以实现媒体的传播行为。深度伪造已经成为舆论博弈的重要手段，并对民众认知产生影响，制造真假难辨的数字罗生门效应。
  • 一、深度伪造对信息博弈的影响探析
  • （一）信息博弈中冲击新闻真实，真假信息难辨
  • 在“眼见为实，耳听为虚”的理念下，视图以其所代表的客观性成为表达真相最有力的证据。然而，深度伪造的技术特征使这一理念遭受了冲击。深度伪造带来的图像、音视频的高度逼真性，使众多信息成为“合成真实”的信息，其本质上是虚假信息。特别是新媒体时代，社交媒体也成为新型伪造技术发挥的重要舞台，进一步加速虚假信息的泛滥。2022年3月16日，Twitter用户@Serhii Sternenko发布了“普京宣布停战”的深度伪造视频，该视频制作精良，通过多景别切换、人物动作、微表情等方法使得视频仿真性更高，迷惑性更强，识别难度也随之增加。
  • （二）信息博弈中打造“深度后真相”，裹挟公众情绪
  • “客观事实对于形塑公共舆论的影响力，不如诉诸个人的情感与信念。”注意力经济背景下，传统媒体、新媒体、非专业媒体都在抢夺用户的注意力，在信息博弈中，此类注意力与认知争夺更为激烈。深度伪造以高度逼真的“事实”扰乱了大众的理性思考能力。 由于鉴别和识破深度伪造作品需要更高的技术、更多的时间和精力，因此立场和情绪先一步取代真相。即使最后成功鉴别并还原了真相，但是在此期间伪造作品大量传播，用户已被立场和情绪裹挟，不愿意再相信真相。注意力的争夺加上深度伪造的难以察觉，使极端情绪更容易被唤起，并为信息博弈所用。
  • （三）信息博弈中催生舆论与认知战，危害国家安全
  • 人工智能驱动的系统可以快速修改并生成深度伪造的数字产品，在社交媒体上通过政治机器人以高度可信的方式传播虚假信息，推动针对目标国家民众和国家利益的虚假叙事，发动认知战，操控目标国家民众心理，侵蚀目标国家社会信任，给目标国家的政治安全带来威胁和挑战。 2022年，关于乌克兰总统泽连斯基要求其军队投降与俄罗斯总统普京宣布战争结束的深度伪造视频流传，成为深度伪造技术在认知域应用的标志性事件。这类在敏感关系或战争国家间的深伪新闻不但破坏了国际的战略互信，还助长了冲突双方的仇恨，推动暴力循环的持续升级。
  • 二、推动“深度合成”向善路径探索
  • （一）个体层面：自我道德规范与媒介素养提升双线并行
  • 深度伪造制品存在创作者与接收者两大主体。在创作者层面，个体在利用深度伪造技术时需严格遵守自我道德规范、不侵犯他人权益，还需在作品的显要位置以“深度伪造”标签注明属性，保证深度伪造用途的单纯性，不得用于捏造、歪曲既定事实或对他人行为进行抹黑。 由于深度伪造技术的高度真实性、泛在普适性与快速演化性，在规范深度伪造生态的过程中，还需要受众不断提升个人的媒介素养，培养对媒介素材的批判思考能力，增加对于深度伪造技术的了解与辨别能力。
  • （二）平台层面：确立技术正当性与借助技术治理并驾齐驱
  • 互联网时代，社交媒体平台为深度伪造信息的传播提供了病毒式传播的途径，平台有责任规范和审查深度伪造内容，呈现真实可信的信息，保护个人权益免受侵害。首先，平台应当确立技术使用的正当性，禁止未经授权的深度伪造信息在平台上流通。 例如，2023年3月21日，TikTok在更新的平台社区准则中规定，禁止制作除公众人物外个人形象的deepfake视频，所有展示真实场景的deepfake视频都必须注明是否为合成、虚假或受更改。其次，平台可以尝试引进开发深度伪造的智能识别技术，利用人工智能全天候强频率高覆盖的审查特点，实现人工智能的“自治”。
  • （三）国家层面：公民权益保护与深度伪造技术特别法相互补充
  • 为促进深度伪造技术的健康发展和规范应用、维护国家安全与国民利益，各国先后制定深度伪造技术的相关法律法规来规范其发展。中国法律针对深度伪造的规定主要涉及肖像权、个人信息保护以及国家安全领域。 2023年7月，《生成式人工智能服务管理暂行办法》颁布，既明确表示支持生成式人工智能领域的创新和国际合作，又进一步明确将对生成式人工智能服务进行“分类”和“分级”监管等。深度伪造技术已经发展得越来越成熟，并且应用前景广阔，急需更新的法律规范该技术在市场中的运用。 深度伪造技术正在掀起一股“前所未有的虚假或诽谤内容的浪潮”。作为虚假信息在网络视频传播环境中的最新迭代，短视频的“事后伪造”进阶为直播视频的“实时伪造”，届时识别难度将进一步增大，真相更加扑朔难寻，因此更需要从政策规制、平台治理、网民网络素养等角度进行全方位应对，推动深度伪造向深度合成的良性发展。