上海市网信办开启“AI文艺复兴”计划：让机器人也来做“内容审查员”

最近，上海市网信办开展了一个名为“亮剑浦江·2025”的专项执法行动，将整治 AI 滥用作为年度治理重点。这一行动不仅加强了对生成式人工智能领域企业的监管，还通过多措并举引导这些企业合规运营。随着这项工作的推进，上海市网信办又有了一个新的想法：为什么不让 AI 来帮助做内容审查呢？

这个想法听起来有些荒诞，但仔细思考却发现有一定的道理。通过训练和配置，AI 可以快速、准确地识别出违规内容，并对其进行相应的处理。这不仅可以减轻人工审查员的工作量，也能提高整个网络管理系统的效率。但问题来了：如果 AI 本身也会产生滥用呢？比如说，AI 生成的内容被用于“换脸变声”或其他侵犯个人信息权益的行为，该怎么办？

对于这个问题，上海市网信办已经有了应对措施。他们计划通过不断更新和完善 AI 算法，让机器也能够识别出自己的“错误”，并对其进行纠正。同时，他们还将加强对企业的监管，确保所有使用生成式人工智能技术的企业都遵守相关规定，采取必要的安全防护措施。这是一个充满挑战但也令人兴奋的计划，因为它不仅关乎网络管理，也关乎如何让新兴技术在社会中找到正确的位置。通过“AI文艺复兴”计划，上海市网信办希望能够带动整个行业朝着合法、合规和可持续发展的方向前进。