对话讨论：AIGC使用与治理

主持：刘幼琍（上海大学新闻传播学院特聘教授）

嘉宾：(以姓氏首字母排序)       

    埃里克·波林（瑞典查尔姆斯理工大学教授）

    金成哲（韩国高丽大学教授）

    汤砺锋（上海广播电视台总编室主任）

    王川南（腾讯优图实验室 AI 解决方案总经理）

    叶航晖（百度智能云媒体业务部总经理）

    伊    帅（商汤科技有限公司海外研发中心经理）

一、AI在广播电视行业的应用

  刘幼琍：请各位从技术角度，分享一下AI技术或者大模型在广播电视行业的应用现状。

  王川南：在传媒领域，腾讯混元大模型有三大引擎来服务于这个行业。第一个是知识引擎，主要是用来做知识的解析和理解生成，比如新闻摘要的生成、标题的生成。第二个是图像创作引擎，即文生图和图像风格化等。腾讯是国内首个开源中文原生基于IT架构的文生图模型的公司。由于是中文原生，并且是新的架构，所以它在多轮对话以及复杂语义理解上的性能得到大幅提升。第三个就是视频创作引擎，包括文生视频、人脸融合等。目前，AI大模型在传媒行业的多个层面都有不错的落地，但是我们也期待未来在生产制作等传媒的深水区能够有更规模化的应用。

  伊帅：商汤大模型的名字叫“日日新”。为什么叫“日日新”？因为大模型的技术演进非常快，我们希望能够以非常快速的节奏不断地去迭代我们的模型和应用。商汤大模型在广电行业的具体应用，可以分享以下几个案例。首先，商汤和上海广播电视台技术运营中心合作，在体育的赛事转播方面做了一些应用。比如说过去看乒乓球比赛，只能看到原始的视频画面。通过AI以及AIGC技术，我们能够识别轨迹、落点以及球的转速转向这一系列专业技术数据，叠加上可视化技术，给观众提供更好的观赛体验。从技术角度而言，有很多的技术参数和精度指标，可以落地到每一个细分的领域和细分的场景。

  叶航晖：首先，从AI技术应用场景看，百度和央视新闻合作的手语数字人在冬奥会上承接了聋哑人士接收新闻的需求，并且比人工翻译更加准确。这是AI技术对行业的赋能。其次，从媒体的新质生产力角度看，2024年广东卫视春晚，由于广东天气不可控，百度就与其合作，通过元宇宙的方式呈现了这一场线上春晚。今年还是体育大年，体育直播里会用AI技术复刻现场，提供新的体验。第三，百度与湖北广电共同发布了行业内第一个私有云大平台，将50多个系统平滑地迁移到百度云上面，通过统一的云、统一的智能、统一的应用框架，助力打通整个生产流程。

  从AI技术和广电行业结合层面，首先，就是智能化生产，除了当前的大模型，很多传统的AI能力小模型，也可以持续来迭代来使用。第二，智能化的分发推送，把资讯更精准地推荐给受众。第三，智能化的呈现。

二、如何规避伦理问题

  刘幼琍：近两年全球陆续出台了有关生成式人工智能管理和针对算法以及 Deep fake（深度伪造）等相关管理办法，广电行业也制定了自己的管理规范。在建立行业规范的过程中，作为科技公司，会采取什么办法规避伦理问题，加强隐私保护和数据安全？

  王川南：大模型的应用中，安全合规是前提。腾讯主要从问题侧、模型侧和答案侧三个方面来做安全的管控。在问题侧，通过风控的模型，能够在文字、图像、视频的模型层面进行过滤，发现敏感的问题进行拒答。在模型侧，能够通过强化学习等方法，过滤掉一些低劣以及不合规的答案。在答案生成之后，通过我们的风控模型，对生成的答案做合规性的检查和校验。

  在传媒行业，内容安全非常关键，并且具有很大的挑战性。因此需要运用全链路的能力去把握内容的安全性。其次，传媒行业具有独特性，比如新闻的合规性或者艺人突发的舆情，需要大模型能够实现定制化和深度性的理解。

  伊帅：我认为如何加强隐私保护和数据安全是有标准答案的。主要包含三点：第一，要冷静地看待技术的发展上限或者是发展阶段。其实技术的发展是阶段性的，需要一个成熟周期，如果不能正确认识它的发展阶段，就会出现很多问题。人工智能的技术就如同眼镜的技术，本质还是人类的辅助。近视眼镜可以帮助一个近视的人看得更清晰，望远镜可以帮助人看得更远。但人类大脑是最复杂的，人工智能技术可以在一定程度上辅助大脑，但是这个过程是十分漫长的，需要一个不断迭代的过程。

  第二，解决与AI相关的伦理问题，还是要从技术出发。法规可以辅助规避这些问题，但只能解决一部分，关键的还是从技术上开展研究，去解决这些问题，更好地定义我们的研究方向。比如做AIGC的溯源，了解内容由谁生成、模型训练的过程中采用了哪些数据等。

  第三，要向未来看。技术的发展是分阶段的，是不停在变化的。伦理的研究、法律的制定要能够跟上进度，能够往未来去看我们该如何规划、如何设计。而不是在发生了一个案件后，再去思考怎么针对性地去解决这个问题。

  总结来看，第一点，要对技术的上限保持谨慎评估的状态。第二点，技术问题需要通过技术的办法找到解决路径。第三点，要面向未来，能够与时俱进，去更新我们的知识库，以及整个的伦理体系和法律体系。

  叶航晖：我认为，让大模型的落地更加安全可控，有几种模式。从整个数字化的架构上，第一是底层的安全能力。需要有一套安全可控的统一纳管逻辑，能把底座做得更扎实，这是基础。第二是数据的安全。每个地方的媒资都有它的特殊要求，对数据首先应该有效地做智能化、标签化的媒资统筹和管理调度。同时，需要在国家层面或者其他统一层面打造数据交换和交易的架构，只有把数据真正用好再传递出去，并有序使用，才能确保其效用更安全。第三，充分关注算法的安全治理。百度和国家网信办、广电总局、央视总台以及中国信通院等机构进行持续沟通，把媒体行业相关的、正向的且符合国家运行框架的算法不断地汇集起来，并制定一些标准。这样才使得算法落地到具体的产业时，有可能做到有的放矢，安全有效地使用。

三、SMG的AIGC应用情况

  刘幼琍：上海广播电视台很早就开始运用AI相关的技术，包括虚拟主持人的打造和使用。请具体分享一下SMG在AIGC方面的应用情况。

  汤砺锋：SMG对于AI包括AIGC方面，很早就开始了研究跟踪以及推广应用。目前，几乎所有的节目都有或多或少地使用，在上海广播电视台采编播发存的整体链条中，也都或多或少在使用AIGC。有的环节使用得比较多，比如在新闻文稿配音、语音转文字、多语种翻译等方面。包括我们五档主要的新闻节目也在使用AIGC进行配音。

  刘幼琍：从电视台的角度，如何看待人工智能所引发的伦理和知识版权的问题？

  汤砺锋：上海广播电视台作为一个公众媒体，一直以来就十分重视伦理问题。我们也刚刚制定了《上海广播电视台人工智能治理的使用规范》的征求意见稿。在这个规范第一章的第一条，我们就把符合伦理、符合导向要求，包括审美趣向以及人文精神放在了最首要的位置。我们2024年第一季度推出了一个由AIGC生成的名为《因AI向善》的公益广告，我们希望让人工智能技术在公益广告领域发挥应有的功能，也希望在AIGC的应用治理方面能够做一些示范性或引领性的探索。

  对于上海广播电视台来说，今年是新中国成立75周年，同时也是上海广播电视台成立75周年。经过几代广播电视人的努力，我们现在拥有接近150万小时的音频和视频的语料库。这些语料库绝大部分都是我们前面几辈广电人自己拍摄制作的，大部分都拥有自主版权，并且可以溯源。如果把这些内容用来做大模型的训练，首先就能保持它的可溯源性。但是现在也会面临一个问题，我们购买音频和视频的版权，通常购买的是播出权，或者是在广播、电视以及新媒体段的版权，很少提及是否可以把这些内容用于AIGC的训练。这是当前在实际工作过程中会遇到的问题，需要业界、学界以及科技企业共同探讨，形成共识。

四、学界关心的主要问题

  刘幼琍：作为国际著名学术期刊的主编，你认为人工智能带来的最具挑战性的道德问题是什么？

  埃里克·波林：从编辑出版的角度，我想分享两点。一个是行业内部，即科学行业本身存在研究欺诈和文本造假的可能性等，在我担任编辑的时间里或多或少有一些案例。在人工智能时代，我们面临着新的挑战。但另一方面，人工智能是更好的支持工具，可以用来分析问题。

  我对不同社会和社区必须做出的权衡很感兴趣。这不光是指隐私与安全的问题，而是关系到公平或自给自足。因为这些技术将产生巨大的财富，但财富的分配形式可能会令人吃惊。随着时间的推移，我们有一类人的收入或财富可能会大大减少。麻省理工学院一位非常著名的教授认为，受过高中教育的人与受过高等教育的人相比，在财富方面会有很明显的下降趋势。这个趋势令人不安。因此，我认为了解这些技术会对我们的社会财富分配产生什么影响是非常重要的。

  刘幼琍：近年来，大学或教育机构谈论了很多关于如何处理学生使用AI工具的问题，如ChatGPT。在你看来，人工智能的应用会对教育有什么影响？

  埃里克·波林：我是一个技术乐观主义者，我通常对人工智能在教育中的使用持积极态度。但在大学里，我们受到了挑战。这就像一种新的颠覆性技术的出现，挑战着我们所有的模式。我们必须培训学生使用人工智能的能力，当你进入职场时，能够使用人工智能，这是一项重要的技能。

  这就像互联网出现后，会突然摧毁我们的教育吗？不，它可以提高。人工智能绝对可以提高我们的技能，因此大学生们必须适应它。比如，我在商学院上课，鼓励学生广泛使用人工智能来写案例分析，但必须把分析和故事结合在一起。因此，这就需要学生积极参与，以一种有趣而杰出的方式整合信息。从这个意义上说，我是支持的。

六、提升人工智能素养的目的和方法

  刘幼琍：在你的研究中，当广播电视或其他内容产业使用人工智能进行创新时，如何确保内容的真实性，以及如何遵循其他的道德标准？

  金城铁：这是一个非常重要和根本的问题。在人工智能的发展和应用趋势方面，内容产业处于领先地位，然而这并不意味着我们的人工智能素养也很高。与金融行业或其他更多以技术为导向的行业相比，创意产业是否真的需要提高每个实验室、每个维度或每个层次对人工智能技术的理解和应用？这关乎个人的素养，关乎我们对组织机构的信任以及对政府决策者的支持与否。

  我们应该学习如何理解人工智能技术，如何利用它，以及如何从它的产出中解读或获取信息。然而，问题是学校在这方面远远落后，甚至教育计划也显得滞后。因此，现实与我们的准备之间存在巨大的时间差，我们需要缩短这个时间差。

  这意味着我们真的需要在各个层面提高人工智能素养，我们真的需要翻新或重新设计整个课程和教学方式。学校必须为此做好准备，相关领域也必须做好准备，我们不只是要尝试对人工智能技术的理解。首先，人工智能只是一个工具，一个“黑盒子”，关键在于我们如何提供数据，我们是否能提出恰当的问题，以及如何解读人工智能技术给出的结果。

  刘幼琍：作为一名教育工作者，你看到了升级课程的重要性，也提到了跨学科合作的重要性，能详细说明一下吗？

  金城铁：关于人工智能，我们面临着几种类型的关键挑战：道德问题、法律问题、社会经济问题。这意味着，一个专业、一个学科不能解决这种问题，我们必须有一种360度的理解和解决方案。我们应该有一个整体的视角，能够跨专业、跨工种整合各个领域。通常来说，在亚洲，我们对融合有抵触情绪，但我们需要打破各自为政的思维定势，我们应该有更多的创新项目，也需要推动跨学科合作。