中國終於要規管 AI了！？AI內容不得危害國家政權
隨著生成式人工智能（AI）進入大眾視野，中國國家互聯網信息辦公室針對其健康發展及規範應用，發布《生成式人工智能服務管理辦法》的徵求意見稿。當前，多家內地互聯網公司積極開發類似ChatGPT的產品，如阿里巴巴的「通義千問」、商湯科技的「日日新」和百度較早推出的「文心一言」。
徵求意見稿要求AI產品提供者在向公眾提供服務前，先向國家網信部門申報安全評估。同時，提供者應承擔預訓練數據和優化訓練數據來源合法性的責任，並禁止非法獲取、披露或利用個人信息、私隱及商業秘密。
AI內容需真實準確，並應反映社會主義核心價值觀。內容不得含有危害國家政權、社會主義制度、破壞國家統一等方面，亦不得宣揚恐怖主義、極端主義、民族仇恨、歧視、暴力、淫穢色情信息、虛假信息等可能擾亂社會秩序的內容。
據意見稿，如用戶舉報生成內容不符合規定，除採取內容過濾等措施外，提供者應在3個月內通過模型優化訓練等方式防止再次生成。意見稿同時強調國家支持AI基礎技術自主創新、推廣應用及國際合作，但需尊重知識產權和商業道德，不能利用算法、數據、平台等優勢實施不公平競爭。
對違反規定的提供者，網信部門和主管部門將依職責給予處罰，如警告、通報批評、限期改正等。情節嚴重者，將暫停或終止提供AI服務，並處以相應罰款。構成治安管理違法行為或犯罪的，將依法追究刑事責任。
徵求意見稿要求AI產品提供者在向公眾提供服務前，先向國家網信部門申報安全評估。同時，提供者應承擔預訓練數據和優化訓練數據來源合法性的責任，並禁止非法獲取、披露或利用個人信息、私隱及商業秘密。
AI內容需真實準確，並應反映社會主義核心價值觀。內容不得含有危害國家政權、社會主義制度、破壞國家統一等方面，亦不得宣揚恐怖主義、極端主義、民族仇恨、歧視、暴力、淫穢色情信息、虛假信息等可能擾亂社會秩序的內容。
據意見稿，如用戶舉報生成內容不符合規定，除採取內容過濾等措施外，提供者應在3個月內通過模型優化訓練等方式防止再次生成。意見稿同時強調國家支持AI基礎技術自主創新、推廣應用及國際合作，但需尊重知識產權和商業道德，不能利用算法、數據、平台等優勢實施不公平競爭。
對違反規定的提供者，網信部門和主管部門將依職責給予處罰，如警告、通報批評、限期改正等。情節嚴重者，將暫停或終止提供AI服務，並處以相應罰款。構成治安管理違法行為或犯罪的，將依法追究刑事責任。