近段时间，人工智能相关词条长时间霸榜。ChatGPT火爆全网，做作业、写小说、敲代码、搞绘画，似乎无所不能，占据名副其实的网络C位。穿搭博主搭乘地铁时的随手拍，被人用AI技术“一键脱衣”，AI生成的特朗普在纽约街头遭警察围捕的图片在美国社交网络疯传，某大学学生恶意P图侮辱女同学……深度伪造让人不寒而栗。科技的飞速发展，人工智能的不断迭代，激发了网络内容的创作繁荣，但因科技伦理的缺失，也对网络内容生态的治理构成了新的挑战。
百度文心一言，阿里通义千问相继问世……人们在享受人工智能带来便捷的同时，也实实在在地感受到了达摩克利斯之剑的另一面。笔者认为人工智能在网络领域带来的问题包括以下几类。
网络不良信息增多。早期网络上流传的人工智能技术主要用来拓展内容创意形式，例如“照片修复”“声音特效”“换脸特效”“虚拟场景合成”等功能，其娱乐化、交互性、参与感的特质，非常契合当前网络社交媒体的互动和分享趋向。但随着智能技术极强的仿真能力开始显现，其创作出的内容让普通网民难以分辨是真实的内容还是伪造的计算机制品。当这些真实与虚假的内容交织，搭载各种利益诉求或情感宣泄，于是网络谣言、网络暴力、营销信息等各类不良信息增多，网络社会的信任机制与社区团结遭到极大损害。此外，人工智能应用通常需要用户上传面部数据、指纹、声纹等生物识别信息，平台方可能因为疏于管理或者利益驱动造成数据泄露，助长网络诈骗活动。网络不良信息占用大量社会资源，使原本更有价值、更应该被关注的信息被淹没、被覆盖，合理诉求表达和正向价值传导受阻。 吉林财经网
智能喂养造成营养缺失。如今，推荐算法广泛应用于网络内容领域，可以在分析用户浏览、点击、评论、点赞、停留时长等数据的基础上对用户进行精准画像，将生产出的“更懂你”信息推送给用户。内容的获取不再是通过用户的主动搜寻，而是基于用户历史使用行为的智能“喂养”，使人陷入“信息茧房”等风险。再来看看元宇宙技术，元宇宙从人类感性认知系统入手，结合智能算法、景观艺术、体感互动、沉浸式媒介等技术为用户创设真实体验氛围，让人仿佛身临其境、乐不思蜀。长此以往，一部分缺乏自制力的人会沉溺于斑驳陆离的虚拟世界，在游戏体验上耗费过多时间，与现实世界的情感联结越来越淡化，容易造成各种心理问题和人格异化。 国际头条网
主流价值观受到挑战。智能算法只推要的，不推对的，长此以往容易成为色情、暴力与政治敏感内容的传播温床。社交媒体中的“阅后即焚”“深度造假”“网络水军”等技术，会赋予部分“问题内容”隐蔽性而在其传播过程中难以察觉，改变了原有的内容消费与交互环境，也模糊了人们对于真实、客观信息的判断。尤其是当这些可参与造假的技术从非政治化走向政治化，可形成计算宣传来伪造民意，通过社交媒体机器人来组织舆论诱导。此外，随着数据积累规模的扩大与网络爬虫技术的成熟，内容数据库与内容背后的用户行为数据库，都可能被商业、政治导向的第三方行动者利用，带来数据使用上的伦理风险。人工智能技术条件下，主流媒介的权威地位被娱乐化、泛政治化削弱，人们的价值理念、思维方式、道德体会出现多元抵牾，使得主流意识形态面临被虚无主义消解困境，产生民众认同危机，为网络意识形态治理带来巨大挑战。 数码创天
党的二十大报告提出要“加强全媒体传播体系建设，塑造主流舆论新格局。健全网络综合治理体系，推动形成良好网络生态。”人工智能演进与科技伦理缺失造成的网络生态问题决不能放任自流，必须以前瞻性思维和系统性举措来积极应对。
以技术对技术。习近平总书记指出：“要运用新媒体新技术使工作活起来，推动思想政治工作传统优势同信息技术高度融合，增强时代感和吸引力。”科技革命是大势所趋，不能因为其带来问题和不确定性就一味反对、拒绝和抵抗，主动融入、为我所用才是正确的态度。如利用敏感词技术，有效过滤网络不良信息；利用IP显示技术，减少网络谣言和网络暴力；利用元宇宙技术，聚焦社会动态与时代场域，关注社会热点与新生问题，将符合时代语境、契合社会要求与贴合用户需求的网络话语、时兴话语及前沿话语等科学融入主流意识形态话语体系中，确保网络意识形态治理始终行于正轨。 合肥资讯网
加强平台监管。在加强监管上，我们一直未停步。《网络信息内容生态治理规定》明确了政府监管、企业履责、社会监督、网民自律等各类主体多元参与协同共治的治理模式；《互联网信息服务算法推荐管理规定》对收集和处理数据、推送信息、调配资源做出约束，为平台应用算法划定明确的法律界限；《关于加强科技伦理治理的指导意见》强调科技伦理是科技活动必须遵守的价值准则，要坚持增进人类福祉、尊重生命权利、公平公正、合理控制风险、保持公开透明。网信部门应不断发挥规则制定、技术升级、功能调整、产品优化等创新手段在管网治网中的关键作用，对短视频沉迷、深度伪造等加强专项执法，推出系列治理措施，针对各类问题，一抓到底、标本兼治。 人力外包
提升网民素养。通过网络安全宣传、数字技能教育、网络素养提升等手段，提高网民在使用人工智能时的甄别力和边界感，增进普通人的信息查证与质询意识，更好地监督不良内容，维护自己在网络中正当权益。科学、适度地使用网络，不过度依赖网络，分清虚拟世界与现实世界，约束自身网络行为，避免网络侵权行为。同时，鼓励普通网民转型为内容生产方，在平台算法的技术引导下，提升自身内容品质，让良币驱逐劣币，让主流价值、优秀文化、向上追求充盈网络空间。
网络综合治理离不开技术，而技术同样需要治理。技术始终是一个工具，人是技术的尺度。一个好的产品、好的技术，一定会受到法律、人类伦理等社会规则的约束，因为产品最终是为人类服务的。把技术规则体系纳入到由法律、伦理所构建的社会规则体系中，就是科技向善的过程。
编辑： 陈锐