6月24日，IT之家报道，上海市网络信息办公室当天发布了一则公告，明确指出将对那些拒绝进行整改的生成式人工智能服务网站进行立案调查并实施处罚。
IT之家附原文如下：
今年，上海网信办携手市市场监督管理局以及相关行业监管部门，持续深化“亮剑浦江・2025”行动，以个人信息权益保护为主题，针对三大领域和八项关键任务展开专项执法。其中，“抵制AI滥用”被列为今年的治理焦点之一。
上海市网信办在专项行动中揭露，一些网站在提供生成式人工智能服务时，既未依法进行安全评估，也未实施必要的防范措施以遏制违规信息的产生，更未对生成式人工智能功能的使用进行限制，结果导致这些功能侵犯了个人隐私权益，产生了诸如“开盒”“洗钱”等违法内容，以及色情低俗的图片等，安全隐患十分严重。上海市网络信息办公室要求相关企业主动关闭相关功能，只有经过安全审核合格后，这些功能才能被允许重新启用。
近期，在“回头看”巡查中揭露，有三家企业虽未通过安全评估、也未实施必要的安全防护措施，却擅自重新启用存在安全风险的生成式人工智能功能。对此，上海市网信办依法对相关企业进行了约谈，并对其进行了严肃的批评。要求这些企业进行全面整改，同时，根据法律规定，已对涉事企业启动立案查处程序。现将有关典型问题予以通报。
上海市网络信息办公室的相关负责人强调，为了推动生成式人工智能的稳健成长和有序使用，必须坚守国家安全的防线，捍卫社会公共利益的完整性，并确保公民、法人及其他组织的合法权益不受侵害。生成式人工智能服务的供应方必须依照法律法规，承担起网络信息内容的制作责任，严格执行网络信息安全的职责。在处理个人信息方面，他们还需肩负个人信息处理者的责任，严格遵守个人信息保护的义务。上海市网信办将延续“亮剑浦江・2025”行动，不断推进个人信息权益保护专项执法，着重打击“AI 滥用”现象，尤其是对“AI 变装”、“AI 换脸变声”、“AI 造假”等行为进行重点整治，并对那些算法服务中涉及侵犯个人信息权益的违法行为进行严厉打击。对于那些经教育仍不改正、问题严重的，将采取坚决措施进行处罚。
