國家網(wǎng)信辦等七部門聯(lián)合公布《生成式人工智能服務管理暫行辦法》

　　近日，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布《生成式人工智能服務管理暫行辦法》（以下稱《辦法》），自2023年8月15日起施行。國家互聯(lián)網(wǎng)信息辦公室有關負責人表示，出臺《辦法》，旨在促進生成式人工智能健康發(fā)展和規(guī)范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益。

　　近年來，生成式人工智能技術快速發(fā)展，為經(jīng)濟社會發(fā)展帶來新機遇的同時，也產(chǎn)生了傳播虛假信息、侵害個人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等問題，如何統(tǒng)籌生成式人工智能發(fā)展和安全引起各方關注。出臺《辦法》，既是促進生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務風險的現(xiàn)實需要。

　　《辦法》提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管，明確了提供和使用生成式人工智能服務總體要求。提出了促進生成式人工智能技術發(fā)展的具體措施，明確了訓練數(shù)據(jù)處理活動和數(shù)據(jù)標注等要求。規(guī)定了生成式人工智能服務規(guī)范，明確生成式人工智能服務提供者應當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務，按照《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進行標識，發(fā)現(xiàn)違法內(nèi)容應當及時采取處置措施等。此外，還規(guī)定了安全評估、算法備案、投訴舉報等制度，明確了法律責任。

　　國家互聯(lián)網(wǎng)信息辦公室有關負責人指出，生成式人工智能服務的發(fā)展與治理需要政府、企業(yè)、社會、網(wǎng)民等多方參與，共同促進生成式人工智能健康發(fā)展，讓生成式人工智能技術更好地造福人民。

　　國家互聯(lián)網(wǎng)信息辦公室有關負責人就《生成式人工智能服務管理暫行辦法》答記者問

　　近日，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布了《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》）。國家網(wǎng)信辦有關負責人就《辦法》相關問題回答了記者提問。

　　問：請簡要介紹《辦法》出臺的背景？

　　答：制定《辦法》主要基于以下幾個方面的考慮：一是深入貫徹落實習近平總書記重要指示精神和黨中央決策部署的重要舉措。習近平總書記在主持召開中共中央政治局會議時指出：“要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風險?！倍谴龠M生成式人工智能健康發(fā)展的迫切需求。隨著生成式人工智能技術的快速發(fā)展，為經(jīng)濟社會發(fā)展帶來新機遇的同時，也產(chǎn)生了傳播虛假信息、侵害個人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等問題?！掇k法》堅持目標導向和問題導向，明確了促進生成式人工智能技術發(fā)展的具體措施，規(guī)定生成式人工智能服務的基本規(guī)范。三是推進實施法律規(guī)定的內(nèi)在要求。制定《辦法》，是落實《網(wǎng)絡安全法》、《數(shù)據(jù)安全法》、《個人信息保護法》、《科學技術進步法》有關規(guī)定的重要要求，進一步規(guī)范數(shù)據(jù)處理等活動，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益。

　　問：《辦法》的適用范圍是什么？

　　答：《辦法》規(guī)定，利用生成式人工智能技術向中華人民共和國境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務，適用本辦法。國家對利用生成式人工智能服務從事新聞出版、影視制作、文藝創(chuàng)作等活動另有規(guī)定的，從其規(guī)定。行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關專業(yè)機構(gòu)等研發(fā)、應用生成式人工智能技術，未向境內(nèi)公眾提供生成式人工智能服務的，不適用本辦法的規(guī)定。

　　問：《辦法》堅持的主要原則是什么？

　　答：《辦法》提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管。

　　問：《辦法》中所稱生成式人工智能技術和生成式人工智能服務提供者是指什么？

　　答：《辦法》中所稱生成式人工智能技術，是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關技術；生成式人工智能服務提供者，是指利用生成式人工智能技術提供生成式人工智能服務（包括通過提供可編程接口等方式提供生成式人工智能服務）的組織、個人。

　　問：《辦法》對促進生成式人工智能健康發(fā)展有哪些考慮？

　　答：《辦法》在治理對象上，針對生成式人工智能服務。在監(jiān)管方式上，提出對生成式人工智能服務實行包容審慎和分類分級監(jiān)管，要求國家有關主管部門針對生成式人工智能技術特點及其在有關行業(yè)和領域的服務應用，完善與創(chuàng)新發(fā)展相適應的科學監(jiān)管方式，制定相應的分類分級監(jiān)管規(guī)則或者指引。在促進發(fā)展具體措施上，一是明確鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應用場景，構(gòu)建應用生態(tài)體系。二是支持行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關專業(yè)機構(gòu)等在生成式人工智能技術創(chuàng)新、數(shù)據(jù)資源建設、轉(zhuǎn)化應用、風險防范等方面開展協(xié)作。三是鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創(chuàng)新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規(guī)則制定。四是提出推動生成式人工智能基礎設施和公共訓練數(shù)據(jù)資源平臺建設。促進算力資源協(xié)同共享，提升算力資源利用效能。推動公共數(shù)據(jù)分類分級有序開放，擴展高質(zhì)量的公共訓練數(shù)據(jù)資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源。

　　問：《辦法》明確提供和使用生成式人工智能服務應當遵守哪些規(guī)定？

　　答：《辦法》明確提供和使用生成式人工智能服務應當堅持社會主義核心價值觀，不得生成煽動顛覆國家政權(quán)、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容；在算法設計、訓練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務等過程中，采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視；尊重知識產(chǎn)權(quán)、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢，實施壟斷和不正當競爭行為；尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽權(quán)、榮譽權(quán)、隱私權(quán)和個人信息權(quán)益；基于服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內(nèi)容的準確性和可靠性。

　　問：《辦法》規(guī)定的治理制度主要有哪些？

　　答：《辦法》明確生成式人工智能服務提供者應當依法開展預訓練、優(yōu)化訓練等訓練數(shù)據(jù)處理活動，使用具有合法來源的數(shù)據(jù)和基礎模型；涉及知識產(chǎn)權(quán)的，不得侵害他人依法享有的知識產(chǎn)權(quán)；涉及個人信息的，應當取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形；采取有效措施提高訓練數(shù)據(jù)質(zhì)量，增強訓練數(shù)據(jù)的真實性、準確性、客觀性、多樣性。此外，明確了數(shù)據(jù)標注的相關要求。

　　問：《辦法》主要明確了哪些生成式人工智能服務規(guī)范？

　　答：《辦法》要求采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。規(guī)定提供者應當按照《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進行標識。規(guī)定提供者發(fā)現(xiàn)違法內(nèi)容的，應當及時采取停止生成、停止傳輸、消除等處置措施并采取模型優(yōu)化訓練等措施進行整改。明確提供者發(fā)現(xiàn)使用者利用生成式人工智能服務從事違法活動的，應當依法依約采取有關處置措施，保存有關記錄，并向有關主管部門報告。

　　問：《辦法》對投訴、舉報作了哪些規(guī)定？

　　答：《辦法》規(guī)定提供者應當建立健全投訴、舉報機制，設置便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理公眾投訴舉報并反饋處理結(jié)果。明確使用者發(fā)現(xiàn)生成式人工智能服務不符合法律、行政法規(guī)和本辦法規(guī)定的，有權(quán)向有關主管部門投訴、舉報。

　　（來源：網(wǎng)信中國）