东方网记者柏可林1月17日报道：前不久，复旦大学附属华山医院感染科主任张文宏“被带货”事件受到广泛关注。不法分子利用AI技术将张文宏在其他场合的讲话视频篡改为“张文宏在推广一种蛋白棒”，令许多人信以为真。随后张文宏亲口辟谣，并称此类事件“像蝗灾一样”。

真的没办法杜绝吗？在上海两会上，市人大代表、上海合合信息科技股份有限公司董事、董事会秘书刘忱认为，生成式人工智能安全发展需多管齐下，从治理机制构建、技术研究加强、伦理训练与数据集优化，到知识产权保护强化等多方面入手，方能引导科技向善，有效应对AIGC（生成式人工智能技术）带来的安全挑战，推动行业良性发展。

刘忱代表告诉记者，AIGC在短短两年便实现从文生文、文生图到深度伪造、文生视频的跨越，在流量与金钱利益驱使下，部分不法分子利用 AIGC 技术批量制造虚假图片、视频、音频，炮制虚假新闻与谣言，生成带有偏见的评论等信息，严重扰乱舆论生态。他分享了一组数据：2023年基于AI的深度伪造欺诈暴增3000%，凸显出生成式造假问题的严重性，“眼见不一定为实，有图不一定有真相，给社会信任体系带来巨大冲击。”

除了在伦理层面可能发生的问题之外，刘忱代表也担心AIGC作品存在著作权归属不清的困境，一方面会阻碍技术发挥创作价值，另一方面还可能因海量摹写行为稀释既有作品权利人的独创性，威胁他人合法权益，对知识产权保护构成严峻挑战。

对此，刘忱代表建议相关科技企业专注研发AI防御与鉴伪技术。“可以设立专项资金，鼓励科技企业关注技术在AIGC虚假信息主动防御和主动检测中的应用。”刘忱代表说，“主动防御就是利用数字水印技术实现AIGC合成内容追踪溯源，文本、图像、音频、视频等都可以作为数字水印载体。主动检测就是引入AI欺诈检测与鉴伪技术，精准识别伪造内容，以技术防御和人工干预相结合的方式筑牢安全防线。”

刘忱代表告诉记者，目前AIGC的导向掌握在训练模型的人类手中，算法偏见的根源来自数据。“所以，构建更加公正的数据集是解决算法偏见的根本方法之一。同时也要强化伦理训练，让AIGC生成内容更加符合社会伦理规范，避免因数据偏差或模型局限导致的虚假信息输出。”刘忱代表说。