摘要：人工智能仍处于“过高期望的峰值”期，其缺乏理性与科学性的应用实践在不断地冲击已有的伦理共识。
眼下，AIGC（人工智能生成内容）已经完全可以在几十分钟内写出长篇小说，但文学创作毕竟是虚构的；那么人工智能体们能不能“傻瓜式”写新闻，快速生成这种以事实为生命的非虚构文体，真实而可信？
日前，在第七届**智能媒体传播论坛上，上海大学全球人工智能媒体传播研究院披露这一年度的《全球人工智能媒体发展研究报告》，以战略篇、技术篇、产业篇、业务篇、伦理篇，从不同角度全面审视智能媒体发展全貌。
这份研究报告认为，人工智能的结构性缺陷和AIGC的算法偏见决定了新闻造假和传播伦理问题，仍无法通过纯粹的技术手段加以解决，应以人为本引领智能化建设，充分考虑人的主体性、伦理道德、传播秩序和**文化安全，建立合规、安全的主流价值范式。
【“非真人”账号未获得可靠识别】
当前，全球新闻生产机器人产业涵盖了写稿机器人、社交机器人、采访助手、视频字幕生成和语音播报、虚拟主播等多个方面，事实上已广泛应用于国内外主流媒体的内容生态中。
上海大学新闻传播学院副院长周宇豪教授当天发布的《2023-2024全球/**人工智能发展研究报告》显示，新闻生产方面，新华社的快笔小新、今日头条的张小明、美联社旗下的Word Smith等写稿机器人，凭借自身多模态的创作功能极大解放了新闻采编生产力并提高了编发效率。同时，不同媒体旗下的机器人往往注重不同的特定功能开发，如新华社快笔小新就主要聚焦数据新闻、数据可视化等。
而数字人与虚拟主播方面，新壹科技发布“新壹视频大模型”，并上线商用平台“新壹数字人平台”。这一视频大模型，24小时内即可完成一个数字人的训练。虚拟人IP企业蔚海灿娱基于GPT模型，将旗下艺人声音接入，使旗下艺人的虚拟人能够以艺人原声生成音频内容。在社交机器人方面，研究者已经在推特平台上发现了Fox8-23等由大语言模型驱动的社交机器人网络。这些机器人的活动时间线中，转发、回复、原创推文比例符合真人用户特征，且能够与真人用户互动。经检测，botometer等机器人识别工具与GPT Zero等AI生成识别工具，对此类“非真人”账号均未获得可靠的识别效果。
值得注意的是，智能机器人也已深度介入广告创作，应用于广告文本写作。独角兽人工智能企业Jasper基于GPT-3模型开发的同名文案生成模型，被广泛应用于商业文案的写作，实现了广告创作的“傻瓜式操作”。
此外，车载媒体方面，智能玻璃能根据乘客的需求展示不同的内容，为驾驶和乘坐带来全新体验。同时，后窗投影屏增强了乘客乘车体验，并为广告主提供互动的新途径。基于移动传播理念打造的车载电商平台，能够根据车辆位置和路线信息实时生成智能出行服务，由此车载媒体逐渐成为智能时代场景服务的新入口。
【“对齐”智能系统的人类价值观】
不过，《全球人工智能媒体发展研究报告》表明，当前AIGC的发展状况总体上面临着高需求、低留存和低粘性的“一高两低”特点，其本质在于同质化的产品数量日益增多，而产品的价值供给却被不断稀释。“生成式AI缺的，不是用户场景和客户需求，而是如何开发更多的新场景与新服务，为用户创造足够深的价值，来让他们留存下来并成为活跃用户，这是AIGC时代传媒业发展面临的困境。”作为报告第一作者、上大新闻传播学院博导，全球人工智能媒体传播研究院研究员王虎认为，拓展需求池，实现对特定行业的深入理解，在垂直领域实现传媒大模型与应用场景的有效结合，将成为破题的关键。
放眼世界，面对生成式AI应用的快速迭代发展，国际社会对于人工智能伦理的关注和讨论也日益升温。作为提供人类信息社会多元主体关系和沟通方式构建的可供性关键技术，人工智能仍处于“过高期望的峰值”期，其缺乏理性与科学性的应用实践在不断地冲击已有的伦理共识。
王虎教授等人报告认为，其中不仅有算法不开源、不透明、难解释的黑箱问题，也有数据滥用与伪造问题。比如，在多模态媒体篡改中，各类新闻报道的图片中重要人物的人脸被替换，文字中关键短语或者单词被篡改。专家认为，这将改变或掩盖新闻关键人物的身份，以及修改或误导新闻文字的含义，制造出互联网上大规模传播的多模态假新闻。
同时存在并加剧的，还有数字难民问题。截至2024年1月，全球互联网用户规模达到53亿，占全球人口总量的66%，然而全球仍然有34%人口游离于互联网之外，难以与智能社会接轨，由此造成“数字难民”问题十分显著。同时，世界人口老龄化进程加速，智能设施的基础性操作仍然是老年人面临的一大障碍，银发一族的数字困境愈发演变为权利困境。
报告研制学者强调，人工智能“价值对齐”越发成为关涉AI控制与安全的重要问题，各国**和学术界需明确人类价值观在技术系统中的原则和尺度，构建与人类价值观相一致的智能系统。