國家互聯網信息辦公室
中華人民共和國國家發展和改革委員會
中華人民共和國教育部
中華人民共和國科學技術部
中華人民共和國工業和信息化部
中華人民共和國公安部
國家廣播電視總局
令
第15號
《生成式人工智能服務管理暫行辦法》已經2023年5月23日國家互聯網信息辦公室2023年第12次室務會會議審議通過，並經國家發展和改革委員會、教育部、科學技術部、工業和信息化部、公安部、國家廣播電視總局同意，現予公布，自2023年8月15日起施行。
國家互聯網信息辦公室主任 莊榮文
國家發展和改革委員會主任 鄭柵潔
教育部部長 懷進鵬
科學技術部部長 王誌剛
工業和信息化部部長 金壯龍
公安部部長 王小洪
國家廣播電視總局局長 曹淑敏
2023年7月10日
生成式人工智能服務管理暫行辦法
第一章 總 則
第一條 為了促進生成式人工智能健康發展和規範應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規，製定本辦法。
第二條 利用生成式人工智能技術向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務（以下稱生成式人工智能服務），適用本辦法。
國家對利用生成式人工智能服務從事新聞出版、影視製作、文藝創作等活動另有規定的，從其規定。
行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、應用生成式人工智能技術，未向境內公眾提供生成式人工智能服務的，不適用本辦法的規定。
第三條 國家堅持發展和安全並重、促(cu)進(jin)創(chuang)新(xin)和(he)依(yi)法(fa)治(zhi)理(li)相(xiang)結(jie)合(he)的(de)原(yuan)則(ze)，采(cai)取(qu)有(you)效(xiao)措(cuo)施(shi)鼓(gu)勵(li)生(sheng)成(cheng)式(shi)人(ren)工(gong)智(zhi)能(neng)創(chuang)新(xin)發(fa)展(zhan)，對(dui)生(sheng)成(cheng)式(shi)人(ren)工(gong)智(zhi)能(neng)服(fu)務(wu)實(shi)行(xing)包(bao)容(rong)審(shen)慎(shen)和(he)分(fen)類(lei)分(fen)級(ji)監(jian)管(guan)。
第四條 提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，遵守以下規定：
（一）堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義製度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容；
（二）在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視；
（三）尊重知識產權、商業道德，保守商業秘密，不得利用算法、數據、平台等優勢，實施壟斷和不正當競爭行為；
（四）尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益；
（五）基於服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。
第二章 技術發展與治理
第五條 鼓勵生成式人工智能技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體係。
支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智能技術創新、數據資源建設、轉化應用、風險防範等方麵開展協作。
第六條 鼓勵生成式人工智能算法、框架、芯片及配套軟件平台等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規則製定。
推tui動dong生sheng成cheng式shi人ren工gong智zhi能neng基ji礎chu設she施shi和he公gong共gong訓xun練lian數shu據ju資zi源yuan平ping台tai建jian設she。促cu進jin算suan力li資zi源yuan協xie同tong共gong享xiang，提ti升sheng算suan力li資zi源yuan利li用yong效xiao能neng。推tui動dong公gong共gong數shu據ju分fen類lei分fen級ji有you序xu開kai放fang，擴kuo展zhan高gao質zhi量liang的de公gong共gong訓xun練lian數shu據ju資zi源yuan。鼓gu勵li采cai用yong安an全quan可ke信xin的de芯xin片pian、軟件、工具、算力和數據資源。
第七條 生成式人工智能服務提供者（以下稱提供者）應當依法開展預訓練、優化訓練等訓練數據處理活動，遵守以下規定：
（一）使用具有合法來源的數據和基礎模型；
（二）涉及知識產權的，不得侵害他人依法享有的知識產權；
（三）涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形；
（四）采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性；
（五）《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》等法律、行政法規的其他有關規定和有關主管部門的相關監管要求。
第八條 在生成式人工智能技術研發過程中進行數據標注的，提供者應當製定符合本辦法要求的清晰、具體、可操作的標注規則；開展數據標注質量評估，抽樣核驗標注內容的準確性；對標注人員進行必要培訓，提升尊法守法意識，監督指導標注人員規範開展標注工作。
第三章 服務規範
第九條 提ti供gong者zhe應ying當dang依yi法fa承cheng擔dan網wang絡luo信xin息xi內nei容rong生sheng產chan者zhe責ze任ren，履lv行xing網wang絡luo信xin息xi安an全quan義yi務wu。涉she及ji個ge人ren信xin息xi的de，依yi法fa承cheng擔dan個ge人ren信xin息xi處chu理li者zhe責ze任ren，履lv行xing個ge人ren信xin息xi保bao護hu義yi務wu。
提供者應當與注冊其服務的生成式人工智能服務使用者（以下稱使用者）簽訂服務協議，明確雙方權利義務。
第十條 提供者應當明確並公開其服務的適用人群、場合、用(yong)途(tu)，指(zhi)導(dao)使(shi)用(yong)者(zhe)科(ke)學(xue)理(li)性(xing)認(ren)識(shi)和(he)依(yi)法(fa)使(shi)用(yong)生(sheng)成(cheng)式(shi)人(ren)工(gong)智(zhi)能(neng)技(ji)術(shu)，采(cai)取(qu)有(you)效(xiao)措(cuo)施(shi)防(fang)範(fan)未(wei)成(cheng)年(nian)人(ren)用(yong)戶(hu)過(guo)度(du)依(yi)賴(lai)或(huo)者(zhe)沉(chen)迷(mi)生(sheng)成(cheng)式(shi)人(ren)工(gong)智(zhi)能(neng)服(fu)務(wu)。
第十一條 提ti供gong者zhe對dui使shi用yong者zhe的de輸shu入ru信xin息xi和he使shi用yong記ji錄lu應ying當dang依yi法fa履lv行xing保bao護hu義yi務wu，不bu得de收shou集ji非fei必bi要yao個ge人ren信xin息xi，不bu得de非fei法fa留liu存cun能neng夠gou識shi別bie使shi用yong者zhe身shen份fen的de輸shu入ru信xin息xi和he使shi用yong記ji錄lu，不bu得de非fei法fa向xiang他ta人ren提ti供gong使shi用yong者zhe的de輸shu入ru信xin息xi和he使shi用yong記ji錄lu。
提供者應當依法及時受理和處理個人關於查閱、複製、更正、補充、刪除其個人信息等的請求。
第十二條 提供者應當按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識。
第十三條 提供者應當在其服務過程中，提供安全、穩定、持續的服務，保障用戶正常使用。
第十四條 提供者發現違法內容的，應當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優化訓練等措施進行整改，並向有關主管部門報告。
提供者發現使用者利用生成式人工智能服務從事違法活動的，應當依法依約采取警示、限製功能、暫停或者終止向其提供服務等處置措施，保存有關記錄，並向有關主管部門報告。
第十五條 提供者應當建立健全投訴、舉報機製，設置便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理公眾投訴舉報並反饋處理結果。
第四章 監督檢查和法律責任
第十六條 網信、發展改革、教育、科技、工業和信息化、公安、廣播電視、新聞出版等部門，依據各自職責依法加強對生成式人工智能服務的管理。
國guo家jia有you關guan主zhu管guan部bu門men針zhen對dui生sheng成cheng式shi人ren工gong智zhi能neng技ji術shu特te點dian及ji其qi在zai有you關guan行xing業ye和he領ling域yu的de服fu務wu應ying用yong，完wan善shan與yu創chuang新xin發fa展zhan相xiang適shi應ying的de科ke學xue監jian管guan方fang式shi，製zhi定ding相xiang應ying的de分fen類lei分fen級ji監jian管guan規gui則ze或huo者zhe指zhi引yin。
第十七條 提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規定開展安全評估，並按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。
第十八條 使用者發現生成式人工智能服務不符合法律、行政法規和本辦法規定的，有權向有關主管部門投訴、舉報。
第十九條 有關主管部門依據職責對生成式人工智能服務開展監督檢查，提供者應當依法予以配合，按要求對訓練數據來源、規模、類型、標注規則、算法機製機理等予以說明，並提供必要的技術、數據等支持和協助。
參與生成式人工智能服務安全評估和監督檢查的相關機構和人員對在履行職責中知悉的國家秘密、商業秘密、個人隱私和個人信息應當依法予以保密，不得泄露或者非法向他人提供。
第二十條 對來源於中華人民共和國境外向境內提供生成式人工智能服務不符合法律、行政法規和本辦法規定的，國家網信部門應當通知有關機構采取技術措施和其他必要措施予以處置。
第二十一條 提供者違反本辦法規定的，由有關主管部門依照《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規的規定予以處罰；法律、行政法規沒有規定的，由有關主管部門依據職責予以警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停提供相關服務。
構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。
第五章 附 則
第二十二條 本辦法下列用語的含義是：
（一）生成式人工智能技術，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術。
（二）生成式人工智能服務提供者，是指利用生成式人工智能技術提供生成式人工智能服務（包括通過提供可編程接口等方式提供生成式人工智能服務）的組織、個人。
（三）生成式人工智能服務使用者，是指使用生成式人工智能服務生成內容的組織、個人。
第二十三條 法律、行政法規規定提供生成式人工智能服務應當取得相關行政許可的，提供者應當依法取得許可。
外商投資生成式人工智能服務，應當符合外商投資相關法律、行政法規的規定。
第二十四條 本辦法自2023年8月15日起施行。
