中央网信办部署开展 “清朗·整治AI技术滥用”专项行动
文章字数:
本报综合讯(董齐越)据中国网信网消息,为规范AI服务和应用,促进行业健康有序发展,保障公民合法权益,近日,中央网信办印发通知,在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。
中央网信办有关负责人表示,本次专项行动分两个阶段开展。第一阶段强化AI技术源头治理,清理整治违规AI应用程序,加强AI生成合成技术和内容标识管理,推动网站平台提升检测鉴伪能力。第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容,假冒他人、从事网络水军活动等突出问题,集中清理相关违法不良信息,处置处罚违规账号、MCN机构和网站平台。
第一阶段重点整治6类突出问题:一是违规AI产品;二是传授、售卖违规AI产品教程和商品;三是训练语料管理不严;四是安全管理措施薄弱;五是未落实内容标识要求;六是重点领域安全风险。
第二阶段重点整治7类突出问题:一是利用AI制作发布谣言;二是利用AI制作发布不实信息;三是利用AI制作发布色情低俗内容;四是利用AI假冒他人实施侵权违法行为;五是利用 AI从事网络水军活动;六是AI产品服务和应用程序违规;七是侵害未成年人权益。当前,AI应用程序诱导未成年人沉迷、损害未成年人身心健康的内容不时出现,专项行动第二阶段将重点打击、治理这些乱象。
中央网信办有关负责人强调,各地网信部门要充分认识专项行动对于防范AI技术滥用风险,维护网民合法权益的重要意义。切实履行属地管理责任,督导网站平台对照专项行动有关要求,健全AI生成合成内容审核机制,提升技术检测能力,做好整改落实。加强人工智能相关政策的宣传推广和人工智能素养的科普教育,引导各方正确认识和应用人工智能技术,不断凝聚治理共识。
中央网信办有关负责人表示,本次专项行动分两个阶段开展。第一阶段强化AI技术源头治理,清理整治违规AI应用程序,加强AI生成合成技术和内容标识管理,推动网站平台提升检测鉴伪能力。第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容,假冒他人、从事网络水军活动等突出问题,集中清理相关违法不良信息,处置处罚违规账号、MCN机构和网站平台。
第一阶段重点整治6类突出问题:一是违规AI产品;二是传授、售卖违规AI产品教程和商品;三是训练语料管理不严;四是安全管理措施薄弱;五是未落实内容标识要求;六是重点领域安全风险。
第二阶段重点整治7类突出问题:一是利用AI制作发布谣言;二是利用AI制作发布不实信息;三是利用AI制作发布色情低俗内容;四是利用AI假冒他人实施侵权违法行为;五是利用 AI从事网络水军活动;六是AI产品服务和应用程序违规;七是侵害未成年人权益。当前,AI应用程序诱导未成年人沉迷、损害未成年人身心健康的内容不时出现,专项行动第二阶段将重点打击、治理这些乱象。
中央网信办有关负责人强调,各地网信部门要充分认识专项行动对于防范AI技术滥用风险,维护网民合法权益的重要意义。切实履行属地管理责任,督导网站平台对照专项行动有关要求,健全AI生成合成内容审核机制,提升技术检测能力,做好整改落实。加强人工智能相关政策的宣传推广和人工智能素养的科普教育,引导各方正确认识和应用人工智能技术,不断凝聚治理共识。