《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 人工智能 > 業(yè)界動(dòng)態(tài) > 《生成式人工智能服務(wù)管理暫行辦法》發(fā)布

《生成式人工智能服務(wù)管理暫行辦法》發(fā)布

2023-07-14
來(lái)源:網(wǎng)信中國(guó)

  近日,,國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部,、科技部、工業(yè)和信息化部,、公安部,、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》(以下稱《辦法》),自2023年8月15日起施行,。國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示,,出臺(tái)《辦法》,旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,,維護(hù)國(guó)家安全和社會(huì)公共利益,,保護(hù)公民,、法人和其他組織的合法權(quán)益。

  近年來(lái),,生成式人工智能技術(shù)快速發(fā)展,,為經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)新機(jī)遇的同時(shí),也產(chǎn)生了傳播虛假信息,、侵害個(gè)人信息權(quán)益,、數(shù)據(jù)安全和偏見(jiàn)歧視等問(wèn)題,如何統(tǒng)籌生成式人工智能發(fā)展和安全引起各方關(guān)注,。出臺(tái)《辦法》,,既是促進(jìn)生成式人工智能健康發(fā)展的重要要求,也是防范生成式人工智能服務(wù)風(fēng)險(xiǎn)的現(xiàn)實(shí)需要,。

  《辦法》提出國(guó)家堅(jiān)持發(fā)展和安全并重,、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,,對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管,,明確了提供和使用生成式人工智能服務(wù)總體要求。提出了促進(jìn)生成式人工智能技術(shù)發(fā)展的具體措施,,明確了訓(xùn)練數(shù)據(jù)處理活動(dòng)和數(shù)據(jù)標(biāo)注等要求,。規(guī)定了生成式人工智能服務(wù)規(guī)范,明確生成式人工智能服務(wù)提供者應(yīng)當(dāng)采取有效措施防范未成年人用戶過(guò)度依賴或者沉迷生成式人工智能服務(wù),,按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片,、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí),發(fā)現(xiàn)違法內(nèi)容應(yīng)當(dāng)及時(shí)采取處置措施等,。此外,,還規(guī)定了安全評(píng)估、算法備案,、投訴舉報(bào)等制度,,明確了法律責(zé)任。

  國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人指出,,生成式人工智能服務(wù)的發(fā)展與治理需要政府,、企業(yè)、社會(huì),、網(wǎng)民等多方參與,,共同促進(jìn)生成式人工智能健康發(fā)展,讓生成式人工智能技術(shù)更好地造福人民,。

  國(guó)家互聯(lián)網(wǎng)信息辦公室

  中華人民共和國(guó)國(guó)家發(fā)展和改革委員會(huì)

  中華人民共和國(guó)教育部

  中華人民共和國(guó)科學(xué)技術(shù)部

  中華人民共和國(guó)工業(yè)和信息化部

  中華人民共和國(guó)公安部

  國(guó)家廣播電視總局

  令

  第15號(hào)

  《生成式人工智能服務(wù)管理暫行辦法》已經(jīng)2023年5月23日國(guó)家互聯(lián)網(wǎng)信息辦公室2023年第12次室務(wù)會(huì)會(huì)議審議通過(guò),,并經(jīng)國(guó)家發(fā)展和改革委員會(huì)、教育部,、科學(xué)技術(shù)部,、工業(yè)和信息化部,、公安部、國(guó)家廣播電視總局同意,,現(xiàn)予公布,,自2023年8月15日起施行。

  國(guó)家互聯(lián)網(wǎng)信息辦公室主任  莊榮文

  國(guó)家發(fā)展和改革委員會(huì)主任  鄭柵潔

  教育部部長(zhǎng)  懷進(jìn)鵬

  科學(xué)技術(shù)部部長(zhǎng)  王志剛

  工業(yè)和信息化部部長(zhǎng)  金壯龍

  公安部部長(zhǎng)  王小洪

  國(guó)家廣播電視總局局長(zhǎng)  曹淑敏

  2023年7月10日

  生成式人工智能服務(wù)管理暫行辦法

  第一章  總 則

  第一條  為了促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,,維護(hù)國(guó)家安全和社會(huì)公共利益,,保護(hù)公民、法人和其他組織的合法權(quán)益,,根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》,、《中華人民共和國(guó)數(shù)據(jù)安全法》、《中華人民共和國(guó)個(gè)人信息保護(hù)法》,、《中華人民共和國(guó)科學(xué)技術(shù)進(jìn)步法》等法律,、行政法規(guī),制定本辦法,。

  第二條  利用生成式人工智能技術(shù)向中華人民共和國(guó)境內(nèi)公眾提供生成文本,、圖片、音頻,、視頻等內(nèi)容的服務(wù)(以下稱生成式人工智能服務(wù)),,適用本辦法。

  國(guó)家對(duì)利用生成式人工智能服務(wù)從事新聞出版,、影視制作,、文藝創(chuàng)作等活動(dòng)另有規(guī)定的,從其規(guī)定,。

  行業(yè)組織,、企業(yè)、教育和科研機(jī)構(gòu),、公共文化機(jī)構(gòu),、有關(guān)專業(yè)機(jī)構(gòu)等研發(fā)、應(yīng)用生成式人工智能技術(shù),,未向境內(nèi)公眾提供生成式人工智能服務(wù)的,,不適用本辦法的規(guī)定。

  第三條  國(guó)家堅(jiān)持發(fā)展和安全并重,、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,,采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,,對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管,。

  第四條  提供和使用生成式人工智能服務(wù),應(yīng)當(dāng)遵守法律,、行政法規(guī),,尊重社會(huì)公德和倫理道德,,遵守以下規(guī)定:

  (一)堅(jiān)持社會(huì)主義核心價(jià)值觀,,不得生成煽動(dòng)顛覆國(guó)家政權(quán),、推翻社會(huì)主義制度,危害國(guó)家安全和利益,、損害國(guó)家形象,,煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一和社會(huì)穩(wěn)定,,宣揚(yáng)恐怖主義,、極端主義,宣揚(yáng)民族仇恨,、民族歧視,,暴力、淫穢色情,,以及虛假有害信息等法律,、行政法規(guī)禁止的內(nèi)容;

 ?。ǘ┰谒惴ㄔO(shè)計(jì),、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化,、提供服務(wù)等過(guò)程中,,采取有效措施防止產(chǎn)生民族、信仰,、國(guó)別,、地域、性別,、年齡,、職業(yè)、健康等歧視,;

 ?。ㄈ┳鹬刂R(shí)產(chǎn)權(quán)、商業(yè)道德,,保守商業(yè)秘密,,不得利用算法、數(shù)據(jù),、平臺(tái)等優(yōu)勢(shì),,實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為;

  (四)尊重他人合法權(quán)益,,不得危害他人身心健康,,不得侵害他人肖像權(quán)、名譽(yù)權(quán),、榮譽(yù)權(quán),、隱私權(quán)和個(gè)人信息權(quán)益;

 ?。ㄎ澹┗诜?wù)類型特點(diǎn),,采取有效措施,提升生成式人工智能服務(wù)的透明度,,提高生成內(nèi)容的準(zhǔn)確性和可靠性,。

  第二章  技術(shù)發(fā)展與治理

  第五條  鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用,,生成積極健康,、向上向善的優(yōu)質(zhì)內(nèi)容,探索優(yōu)化應(yīng)用場(chǎng)景,,構(gòu)建應(yīng)用生態(tài)體系,。

  支持行業(yè)組織、企業(yè),、教育和科研機(jī)構(gòu),、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新,、數(shù)據(jù)資源建設(shè),、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面開(kāi)展協(xié)作,。

  第六條  鼓勵(lì)生成式人工智能算法,、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新,,平等互利開(kāi)展國(guó)際交流與合作,,參與生成式人工智能相關(guān)國(guó)際規(guī)則制定。

  推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè),。促進(jìn)算力資源協(xié)同共享,,提升算力資源利用效能。推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開(kāi)放,,擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源,。鼓勵(lì)采用安全可信的芯片、軟件,、工具,、算力和數(shù)據(jù)資源,。

  第七條  生成式人工智能服務(wù)提供者(以下稱提供者)應(yīng)當(dāng)依法開(kāi)展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng),,遵守以下規(guī)定:

  (一)使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型,;

 ?。ǘ┥婕爸R(shí)產(chǎn)權(quán)的,不得侵害他人依法享有的知識(shí)產(chǎn)權(quán),;

 ?。ㄈ┥婕皞€(gè)人信息的,應(yīng)當(dāng)取得個(gè)人同意或者符合法律,、行政法規(guī)規(guī)定的其他情形,;

  (四)采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量,,增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性,、準(zhǔn)確性、客觀性,、多樣性,;

  (五)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》,、《中華人民共和國(guó)數(shù)據(jù)安全法》,、《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律、行政法規(guī)的其他有關(guān)規(guī)定和有關(guān)主管部門的相關(guān)監(jiān)管要求,。

  第八條  在生成式人工智能技術(shù)研發(fā)過(guò)程中進(jìn)行數(shù)據(jù)標(biāo)注的,,提供者應(yīng)當(dāng)制定符合本辦法要求的清晰、具體,、可操作的標(biāo)注規(guī)則,;開(kāi)展數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估,抽樣核驗(yàn)標(biāo)注內(nèi)容的準(zhǔn)確性,;對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn),,提升尊法守法意識(shí),監(jiān)督指導(dǎo)標(biāo)注人員規(guī)范開(kāi)展標(biāo)注工作,。

  第三章  服務(wù)規(guī)范

  第九條  提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任,,履行網(wǎng)絡(luò)信息安全義務(wù)。涉及個(gè)人信息的,,依法承擔(dān)個(gè)人信息處理者責(zé)任,,履行個(gè)人信息保護(hù)義務(wù)。

  提供者應(yīng)當(dāng)與注冊(cè)其服務(wù)的生成式人工智能服務(wù)使用者(以下稱使用者)簽訂服務(wù)協(xié)議,,明確雙方權(quán)利義務(wù),。

  第十條  提供者應(yīng)當(dāng)明確并公開(kāi)其服務(wù)的適用人群、場(chǎng)合、用途,,指導(dǎo)使用者科學(xué)理性認(rèn)識(shí)和依法使用生成式人工智能技術(shù),,采取有效措施防范未成年人用戶過(guò)度依賴或者沉迷生成式人工智能服務(wù)。

  第十一條  提供者對(duì)使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù),,不得收集非必要個(gè)人信息,,不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄,不得非法向他人提供使用者的輸入信息和使用記錄,。

  提供者應(yīng)當(dāng)依法及時(shí)受理和處理個(gè)人關(guān)于查閱,、復(fù)制、更正,、補(bǔ)充,、刪除其個(gè)人信息等的請(qǐng)求。

  第十二條  提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片,、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí),。

  第十三條  提供者應(yīng)當(dāng)在其服務(wù)過(guò)程中,提供安全,、穩(wěn)定,、持續(xù)的服務(wù),保障用戶正常使用,。

  第十四條  提供者發(fā)現(xiàn)違法內(nèi)容的,,應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸,、消除等處置措施,,采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改,并向有關(guān)主管部門報(bào)告,。

  提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的,,應(yīng)當(dāng)依法依約采取警示、限制功能,、暫?;蛘呓K止向其提供服務(wù)等處置措施,保存有關(guān)記錄,,并向有關(guān)主管部門報(bào)告,。

  第十五條  提供者應(yīng)當(dāng)建立健全投訴、舉報(bào)機(jī)制,,設(shè)置便捷的投訴,、舉報(bào)入口,公布處理流程和反饋時(shí)限,,及時(shí)受理,、處理公眾投訴舉報(bào)并反饋處理結(jié)果,。

  第四章  監(jiān)督檢查和法律責(zé)任

  第十六條  網(wǎng)信、發(fā)展改革,、教育,、科技、工業(yè)和信息化,、公安,、廣播電視、新聞出版等部門,,依據(jù)各自職責(zé)依法加強(qiáng)對(duì)生成式人工智能服務(wù)的管理。

  國(guó)家有關(guān)主管部門針對(duì)生成式人工智能技術(shù)特點(diǎn)及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用,,完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式,,制定相應(yīng)的分類分級(jí)監(jiān)管規(guī)則或者指引。

  第十七條  提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的,,應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估,,并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù),。

  第十八條  使用者發(fā)現(xiàn)生成式人工智能服務(wù)不符合法律,、行政法規(guī)和本辦法規(guī)定的,有權(quán)向有關(guān)主管部門投訴,、舉報(bào),。

  第十九條  有關(guān)主管部門依據(jù)職責(zé)對(duì)生成式人工智能服務(wù)開(kāi)展監(jiān)督檢查,提供者應(yīng)當(dāng)依法予以配合,,按要求對(duì)訓(xùn)練數(shù)據(jù)來(lái)源,、規(guī)模、類型,、標(biāo)注規(guī)則,、算法機(jī)制機(jī)理等予以說(shuō)明,并提供必要的技術(shù),、數(shù)據(jù)等支持和協(xié)助,。

  參與生成式人工智能服務(wù)安全評(píng)估和監(jiān)督檢查的相關(guān)機(jī)構(gòu)和人員對(duì)在履行職責(zé)中知悉的國(guó)家秘密、商業(yè)秘密,、個(gè)人隱私和個(gè)人信息應(yīng)當(dāng)依法予以保密,,不得泄露或者非法向他人提供。

  第二十條  對(duì)來(lái)源于中華人民共和國(guó)境外向境內(nèi)提供生成式人工智能服務(wù)不符合法律,、行政法規(guī)和本辦法規(guī)定的,,國(guó)家網(wǎng)信部門應(yīng)當(dāng)通知有關(guān)機(jī)構(gòu)采取技術(shù)措施和其他必要措施予以處置。

  第二十一條  提供者違反本辦法規(guī)定的,,由有關(guān)主管部門依照《中華人民共和國(guó)網(wǎng)絡(luò)安全法》,、《中華人民共和國(guó)數(shù)據(jù)安全法》,、《中華人民共和國(guó)個(gè)人信息保護(hù)法》、《中華人民共和國(guó)科學(xué)技術(shù)進(jìn)步法》等法律,、行政法規(guī)的規(guī)定予以處罰,;法律、行政法規(guī)沒(méi)有規(guī)定的,,由有關(guān)主管部門依據(jù)職責(zé)予以警告,、通報(bào)批評(píng),責(zé)令限期改正,;拒不改正或者情節(jié)嚴(yán)重的,,責(zé)令暫停提供相關(guān)服務(wù)。

  構(gòu)成違反治安管理行為的,,依法給予治安管理處罰,;構(gòu)成犯罪的,依法追究刑事責(zé)任,。

  第五章  附 則

  第二十二條  本辦法下列用語(yǔ)的含義是:

 ?。ㄒ唬┥墒饺斯ぶ悄芗夹g(shù),是指具有文本,、圖片,、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù),。

 ?。ǘ┥墒饺斯ぶ悄芊?wù)提供者,是指利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)(包括通過(guò)提供可編程接口等方式提供生成式人工智能服務(wù))的組織,、個(gè)人,。

  (三)生成式人工智能服務(wù)使用者,,是指使用生成式人工智能服務(wù)生成內(nèi)容的組織,、個(gè)人。

  第二十三條  法律,、行政法規(guī)規(guī)定提供生成式人工智能服務(wù)應(yīng)當(dāng)取得相關(guān)行政許可的,,提供者應(yīng)當(dāng)依法取得許可。

  外商投資生成式人工智能服務(wù),,應(yīng)當(dāng)符合外商投資相關(guān)法律,、行政法規(guī)的規(guī)定。

  第二十四條  本辦法自2023年8月15日起施行,。

  國(guó)家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人就《生成式人工智能服務(wù)管理暫行辦法》答記者問(wèn)

  近日,,國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委、教育部,、科技部,、工業(yè)和信息化部,、公安部、廣電總局公布了《生成式人工智能服務(wù)管理暫行辦法》(以下簡(jiǎn)稱《辦法》),。國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人就《辦法》相關(guān)問(wèn)題回答了記者提問(wèn),。

  問(wèn):請(qǐng)簡(jiǎn)要介紹《辦法》出臺(tái)的背景?

  答:制定《辦法》主要基于以下幾個(gè)方面的考慮:一是深入貫徹落實(shí)習(xí)近平總書記重要指示精神和黨中央決策部署的重要舉措,。習(xí)近平總書記在主持召開(kāi)中共中央政治局會(huì)議時(shí)指出:“要重視通用人工智能發(fā)展,,營(yíng)造創(chuàng)新生態(tài),重視防范風(fēng)險(xiǎn),?!倍谴龠M(jìn)生成式人工智能健康發(fā)展的迫切需求。隨著生成式人工智能技術(shù)的快速發(fā)展,,為經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)新機(jī)遇的同時(shí),,也產(chǎn)生了傳播虛假信息、侵害個(gè)人信息權(quán)益,、數(shù)據(jù)安全和偏見(jiàn)歧視等問(wèn)題,?!掇k法》堅(jiān)持目標(biāo)導(dǎo)向和問(wèn)題導(dǎo)向,,明確了促進(jìn)生成式人工智能技術(shù)發(fā)展的具體措施,規(guī)定生成式人工智能服務(wù)的基本規(guī)范,。三是推進(jìn)實(shí)施法律規(guī)定的內(nèi)在要求,。制定《辦法》,是落實(shí)《網(wǎng)絡(luò)安全法》,、《數(shù)據(jù)安全法》,、《個(gè)人信息保護(hù)法》、《科學(xué)技術(shù)進(jìn)步法》有關(guān)規(guī)定的重要要求,,進(jìn)一步規(guī)范數(shù)據(jù)處理等活動(dòng),,維護(hù)國(guó)家安全和社會(huì)公共利益,保護(hù)公民,、法人和其他組織的合法權(quán)益,。

  問(wèn):《辦法》的適用范圍是什么?

  答:《辦法》規(guī)定,,利用生成式人工智能技術(shù)向中華人民共和國(guó)境內(nèi)公眾提供生成文本,、圖片、音頻,、視頻等內(nèi)容的服務(wù),,適用本辦法。國(guó)家對(duì)利用生成式人工智能服務(wù)從事新聞出版,、影視制作,、文藝創(chuàng)作等活動(dòng)另有規(guī)定的,,從其規(guī)定。行業(yè)組織,、企業(yè),、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu),、有關(guān)專業(yè)機(jī)構(gòu)等研發(fā),、應(yīng)用生成式人工智能技術(shù),未向境內(nèi)公眾提供生成式人工智能服務(wù)的,,不適用本辦法的規(guī)定,。

  問(wèn):《辦法》堅(jiān)持的主要原則是什么?

  答:《辦法》提出國(guó)家堅(jiān)持發(fā)展和安全并重,、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,,采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管,。

  問(wèn):《辦法》中所稱生成式人工智能技術(shù)和生成式人工智能服務(wù)提供者是指什么,?

  答:《辦法》中所稱生成式人工智能技術(shù),是指具有文本,、圖片,、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù),;生成式人工智能服務(wù)提供者,,是指利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)(包括通過(guò)提供可編程接口等方式提供生成式人工智能服務(wù))的組織、個(gè)人,。

  問(wèn):《辦法》對(duì)促進(jìn)生成式人工智能健康發(fā)展有哪些考慮,?

  答:《辦法》在治理對(duì)象上,針對(duì)生成式人工智能服務(wù),。在監(jiān)管方式上,,提出對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管,要求國(guó)家有關(guān)主管部門針對(duì)生成式人工智能技術(shù)特點(diǎn)及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用,,完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式,,制定相應(yīng)的分類分級(jí)監(jiān)管規(guī)則或者指引。在促進(jìn)發(fā)展具體措施上,,一是明確鼓勵(lì)生成式人工智能技術(shù)在各行業(yè),、各領(lǐng)域的創(chuàng)新應(yīng)用,生成積極健康,、向上向善的優(yōu)質(zhì)內(nèi)容,,探索優(yōu)化應(yīng)用場(chǎng)景,構(gòu)建應(yīng)用生態(tài)體系,。二是支持行業(yè)組織,、企業(yè),、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu),、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新,、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用,、風(fēng)險(xiǎn)防范等方面開(kāi)展協(xié)作,。三是鼓勵(lì)生成式人工智能算法、框架,、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新,,平等互利開(kāi)展國(guó)際交流與合作,參與生成式人工智能相關(guān)國(guó)際規(guī)則制定,。四是提出推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè),。促進(jìn)算力資源協(xié)同共享,提升算力資源利用效能,。推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開(kāi)放,,擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。鼓勵(lì)采用安全可信的芯片,、軟件,、工具、算力和數(shù)據(jù)資源,。

  問(wèn):《辦法》明確提供和使用生成式人工智能服務(wù)應(yīng)當(dāng)遵守哪些規(guī)定,?

  答:《辦法》明確提供和使用生成式人工智能服務(wù)應(yīng)當(dāng)堅(jiān)持社會(huì)主義核心價(jià)值觀,,不得生成煽動(dòng)顛覆國(guó)家政權(quán),、推翻社會(huì)主義制度,危害國(guó)家安全和利益,、損害國(guó)家形象,,煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一和社會(huì)穩(wěn)定,,宣揚(yáng)恐怖主義,、極端主義,宣揚(yáng)民族仇恨,、民族歧視,,暴力、淫穢色情,,以及虛假有害信息等法律,、行政法規(guī)禁止的內(nèi)容;在算法設(shè)計(jì),、訓(xùn)練數(shù)據(jù)選擇,、模型生成和優(yōu)化,、提供服務(wù)等過(guò)程中,采取有效措施防止產(chǎn)生民族,、信仰,、國(guó)別、地域,、性別,、年齡、職業(yè),、健康等歧視,;尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德,,保守商業(yè)秘密,,不得利用算法、數(shù)據(jù),、平臺(tái)等優(yōu)勢(shì),,實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為;尊重他人合法權(quán)益,,不得危害他人身心健康,,不得侵害他人肖像權(quán)、名譽(yù)權(quán),、榮譽(yù)權(quán),、隱私權(quán)和個(gè)人信息權(quán)益;基于服務(wù)類型特點(diǎn),,采取有效措施,,提升生成式人工智能服務(wù)的透明度,提高生成內(nèi)容的準(zhǔn)確性和可靠性,。

  問(wèn):《辦法》規(guī)定的治理制度主要有哪些,?

  答:《辦法》明確生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開(kāi)展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng),,使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型,;涉及知識(shí)產(chǎn)權(quán)的,不得侵害他人依法享有的知識(shí)產(chǎn)權(quán),;涉及個(gè)人信息的,,應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形,;采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量,,增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性,、多樣性,。此外,明確了數(shù)據(jù)標(biāo)注的相關(guān)要求,。

  問(wèn):《辦法》主要明確了哪些生成式人工智能服務(wù)規(guī)范,?

  答:《辦法》要求采取有效措施防范未成年人用戶過(guò)度依賴或者沉迷生成式人工智能服務(wù)。規(guī)定提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片,、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí),。規(guī)定提供者發(fā)現(xiàn)違法內(nèi)容的,應(yīng)當(dāng)及時(shí)采取停止生成,、停止傳輸,、消除等處置措施并采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改。明確提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(dòng)的,,應(yīng)當(dāng)依法依約采取有關(guān)處置措施,,保存有關(guān)記錄,并向有關(guān)主管部門報(bào)告,。

  問(wèn):《辦法》對(duì)投訴,、舉報(bào)作了哪些規(guī)定?

  答:《辦法》規(guī)定提供者應(yīng)當(dāng)建立健全投訴,、舉報(bào)機(jī)制,,設(shè)置便捷的投訴、舉報(bào)入口,,公布處理流程和反饋時(shí)限,,及時(shí)受理、處理公眾投訴舉報(bào)并反饋處理結(jié)果,。明確使用者發(fā)現(xiàn)生成式人工智能服務(wù)不符合法律,、行政法規(guī)和本辦法規(guī)定的,有權(quán)向有關(guān)主管部門投訴,、舉報(bào),。

更多精彩內(nèi)容歡迎點(diǎn)擊==>>電子技術(shù)應(yīng)用-AET<<

微信圖片_20210517164139.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章,、圖片,、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者,。如涉及作品內(nèi)容,、版權(quán)和其它問(wèn)題,請(qǐng)及時(shí)通過(guò)電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,,避免給雙方造成不必要的經(jīng)濟(jì)損失,。聯(lián)系電話:010-82306118;郵箱:[email protected],。