算法安全管理辦法,算法推薦管理規(guī)定及生成式人工智能服務管理辦法

　　算法安全管理辦法，是什么呢?目前主管部門出臺了《互聯(lián)網信息服務算法推薦管理規(guī)定》、以及近期推出的生成式人工智能服務管理辦法(征求意見稿)兩個行業(yè)規(guī)定。都是基于行業(yè)規(guī)范、算法安全等因素。都是對互聯(lián)網信息服務算法備案有要求，那我們下文就來看看這些內容，供您參考。

　　互聯(lián)網信息服務算法推薦管理規(guī)定

　　第一章 總 則

　　第一條 為了規(guī)范互聯(lián)網信息服務算法推薦活動，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，促進互聯(lián)網信息服務健康有序發(fā)展，根據《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《互聯(lián)網信息服務管理辦法》等法律、行政法規(guī)，制定本規(guī)定。

　　第二條 在中華人民共和國境內應用算法推薦技術提供互聯(lián)網信息服務(以下簡稱算法推薦服務)，適用本規(guī)定。法律、行政法規(guī)另有規(guī)定的，依照其規(guī)定。

　　前款所稱應用算法推薦技術，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術向用戶提供信息。

　　第三條 國家網信部門負責統(tǒng)籌協(xié)調全國算法推薦服務治理和相關監(jiān)督管理工作。國務院電信、公安、市場監(jiān)管等有關部門依據各自職責負責算法推薦服務監(jiān)督管理工作。

　　地方網信部門負責統(tǒng)籌協(xié)調本行政區(qū)域內的算法推薦服務治理和相關監(jiān)督管理工作。地方電信、公安、市場監(jiān)管等有關部門依據各自職責負責本行政區(qū)域內的算法推薦服務監(jiān)督管理工作。

　　第四條 提供算法推薦服務，應當遵守法律法規(guī)，尊重社會公德和倫理，遵守商業(yè)道德和職業(yè)道德，遵循公正公平、公開透明、科學合理和誠實信用的原則。

　　第五條 鼓勵相關行業(yè)組織加強行業(yè)自律，建立健全行業(yè)標準、行業(yè)準則和自律管理制度，督促指導算法推薦服務提供者制定完善服務規(guī)范、依法提供服務并接受社會監(jiān)督。

　　第二章 信息服務規(guī)范

　　第六條 算法推薦服務提供者應當堅持主流價值導向，優(yōu)化算法推薦服務機制，積極傳播正能量，促進算法應用向上向善。

　　算法推薦服務提供者不得利用算法推薦服務從事危害國家安全和社會公共利益、擾亂經濟秩序和社會秩序、侵犯他人合法權益等法律、行政法規(guī)禁止的活動，不得利用算法推薦服務傳播法律、行政法規(guī)禁止的信息，應當采取措施防范和抵制傳播不良信息。

　　第七條 算法推薦服務提供者應當落實算法安全主體責任，建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發(fā)布審核、數據安全和個人信息保護、反電信網絡詐騙、安全評估監(jiān)測、安全事件應急處置等管理制度和技術措施，制定并公開算法推薦服務相關規(guī)則，配備與算法推薦服務規(guī)模相適應的專業(yè)人員和技術支撐。

　　第八條 算法推薦服務提供者應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等，不得設置誘導用戶沉迷、過度消費等違反法律法規(guī)或者違背倫理道德的算法模型。

　　第九條 算法推薦服務提供者應當加強信息安全管理，建立健全用于識別違法和不良信息的特征庫，完善入庫標準、規(guī)則和程序。發(fā)現(xiàn)未作顯著標識的算法生成合成信息的，應當作出顯著標識后，方可繼續(xù)傳輸。

　　發(fā)現(xiàn)違法信息的，應當立即停止傳輸，采取消除等處置措施，防止信息擴散，保存有關記錄，并向網信部門和有關部門報告。發(fā)現(xiàn)不良信息的，應當按照網絡信息內容生態(tài)治理有關規(guī)定予以處置。

　　第十條 算法推薦服務提供者應當加強用戶模型和用戶標簽管理，完善記入用戶模型的興趣點規(guī)則和用戶標簽管理規(guī)則，不得將違法和不良信息關鍵詞記入用戶興趣點或者作為用戶標簽并據以推送信息。

　　第十一條 算法推薦服務提供者應當加強算法推薦服務版面頁面生態(tài)管理，建立完善人工干預和用戶自主選擇機制，在首頁首屏、熱搜、精選、榜單類、彈窗等重點環(huán)節(jié)積極呈現(xiàn)符合主流價值導向的信息。

　　第十二條 鼓勵算法推薦服務提供者綜合運用內容去重、打散干預等策略，并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性，避免對用戶產生不良影響，預防和減少爭議糾紛。

　　第十三條 算法推薦服務提供者提供互聯(lián)網新聞信息服務的，應當依法取得互聯(lián)網新聞信息服務許可，規(guī)范開展互聯(lián)網新聞信息采編發(fā)布服務、轉載服務和傳播平臺服務，不得生成合成虛假新聞信息，不得傳播非國家規(guī)定范圍內的單位發(fā)布的新聞信息。

　　第十四條 算法推薦服務提供者不得利用算法虛假注冊賬號、非法交易賬號、操縱用戶賬號或者虛假點贊、評論、轉發(fā)，不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結果排序、控制熱搜或者精選等干預信息呈現(xiàn)，實施影響網絡輿論或者規(guī)避監(jiān)督管理行為。

　　第十五條 算法推薦服務提供者不得利用算法對其他互聯(lián)網信息服務提供者進行不合理限制，或者妨礙、破壞其合法提供的互聯(lián)網信息服務正常運行，實施壟斷和不正當競爭行為。

　　第三章 用戶權益保護

　　第十六條 算法推薦服務提供者應當以顯著方式告知用戶其提供算法推薦服務的情況，并以適當方式公示算法推薦服務的基本原理、目的意圖和主要運行機制等。

　　第十七條 算法推薦服務提供者應當向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關閉算法推薦服務的選項。用戶選擇關閉算法推薦服務的，算法推薦服務提供者應當立即停止提供相關服務。

　　算法推薦服務提供者應當向用戶提供選擇或者刪除用于算法推薦服務的針對其個人特征的用戶標簽的功能。

　　算法推薦服務提供者應用算法對用戶權益造成重大影響的，應當依法予以說明并承擔相應責任。

　　第十八條 算法推薦服務提供者向未成年人提供服務的，應當依法履行未成年人網絡保護義務，并通過開發(fā)適合未成年人使用的模式、提供適合未成年人特點的服務等方式，便利未成年人獲取有益身心健康的信息。

　　算法推薦服務提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會公德行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務誘導未成年人沉迷網絡。

　　第十九條 算法推薦服務提供者向老年人提供服務的，應當保障老年人依法享有的權益，充分考慮老年人出行、就醫(yī)、消費、辦事等需求，按照國家有關規(guī)定提供智能化適老服務，依法開展涉電信網絡詐騙信息的監(jiān)測、識別和處置，便利老年人安全使用算法推薦服務。

　　第二十條 算法推薦服務提供者向勞動者提供工作調度服務的，應當保護勞動者取得勞動報酬、休息休假等合法權益，建立完善平臺訂單分配、報酬構成及支付、工作時間、獎懲等相關算法。

　　第二十一條 算法推薦服務提供者向消費者銷售商品或者提供服務的，應當保護消費者公平交易的權利，不得根據消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。

　　第二十二條 算法推薦服務提供者應當設置便捷有效的用戶申訴和公眾投訴、舉報入口，明確處理流程和反饋時限，及時受理、處理并反饋處理結果。

　　第四章 監(jiān)督管理

　　第二十三條 網信部門會同電信、公安、市場監(jiān)管等有關部門建立算法分級分類安全管理制度，根據算法推薦服務的輿論屬性或者社會動員能力、內容類別、用戶規(guī)模、算法推薦技術處理的數據重要程度、對用戶行為的干預程度等對算法推薦服務提供者實施分級分類管理。

　　第二十四條 具有輿論屬性或者社會動員能力的算法推薦服務提供者應當在提供服務之日起十個工作日內通過互聯(lián)網信息服務算法備案系統(tǒng)填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息，履行備案手續(xù)。

　　算法推薦服務提供者的備案信息發(fā)生變更的，應當在變更之日起十個工作日內辦理變更手續(xù)。

　　算法推薦服務提供者終止服務的，應當在終止服務之日起二十個工作日內辦理注銷備案手續(xù)，并作出妥善安排。

　　第二十五條 國家和省、自治區(qū)、直轄市網信部門收到備案人提交的備案材料后，材料齊全的，應當在三十個工作日內予以備案，發(fā)放備案編號并進行公示;材料不齊全的，不予備案，并應當在三十個工作日內通知備案人并說明理由。

　　第二十六條 完成備案的算法推薦服務提供者應當在其對外提供服務的網站、應用程序等的顯著位置標明其備案編號并提供公示信息鏈接。

　　第二十七條 具有輿論屬性或者社會動員能力的算法推薦服務提供者應當按照國家有關規(guī)定開展安全評估。

　　第二十八條 網信部門會同電信、公安、市場監(jiān)管等有關部門對算法推薦服務依法開展安全評估和監(jiān)督檢查工作，對發(fā)現(xiàn)的問題及時提出整改意見并限期整改。

　　算法推薦服務提供者應當依法留存網絡日志，配合網信部門和電信、公安、市場監(jiān)管等有關部門開展安全評估和監(jiān)督檢查工作，并提供必要的技術、數據等支持和協(xié)助。

　　第二十九條 參與算法推薦服務安全評估和監(jiān)督檢查的相關機構和人員對在履行職責中知悉的個人隱私、個人信息和商業(yè)秘密應當依法予以保密，不得泄露或者非法向他人提供。

　　第三十條 任何組織和個人發(fā)現(xiàn)違反本規(guī)定行為的，可以向網信部門和有關部門投訴、舉報。收到投訴、舉報的部門應當及時依法處理。

　　第五章 法律責任

　　第三十一條 算法推薦服務提供者違反本規(guī)定第七條、第八條、第九條第一款、第十條、第十四條、第十六條、第十七條、第二十二條、第二十四條、第二十六條規(guī)定，法律、行政法規(guī)有規(guī)定的，依照其規(guī)定;法律、行政法規(guī)沒有規(guī)定的，由網信部門和電信、公安、市場監(jiān)管等有關部門依據職責給予警告、通報批評，責令限期改正;拒不改正或者情節(jié)嚴重的，責令暫停信息更新，并處一萬元以上十萬元以下罰款。構成違反治安管理行為的，依法給予治安管理處罰;構成犯罪的，依法追究刑事責任。

　　第三十二條 算法推薦服務提供者違反本規(guī)定第六條、第九條第二款、第十一條、第十三條、第十五條、第十八條、第十九條、第二十條、第二十一條、第二十七條、第二十八條第二款規(guī)定的，由網信部門和電信、公安、市場監(jiān)管等有關部門依據職責，按照有關法律、行政法規(guī)和部門規(guī)章的規(guī)定予以處理。

　　第三十三條 具有輿論屬性或者社會動員能力的算法推薦服務提供者通過隱瞞有關情況、提供虛假材料等不正當手段取得備案的，由國家和省、自治區(qū)、直轄市網信部門予以撤銷備案，給予警告、通報批評;情節(jié)嚴重的，責令暫停信息更新，并處一萬元以上十萬元以下罰款。

　　具有輿論屬性或者社會動員能力的算法推薦服務提供者終止服務未按照本規(guī)定第二十四條第三款要求辦理注銷備案手續(xù)，或者發(fā)生嚴重違法情形受到責令關閉網站、吊銷相關業(yè)務許可證或者吊銷營業(yè)執(zhí)照等行政處罰的，由國家和省、自治區(qū)、直轄市網信部門予以注銷備案。

　　第六章 附 則

　　第三十四條 本規(guī)定由國家互聯(lián)網信息辦公室會同工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局負責解釋。

　　第三十五條 本規(guī)定自2022年3月1日起施行。

　　生成式人工智能服務管理辦法(征求意見稿)

　　第一條 為促進生成式人工智能健康發(fā)展和規(guī)范應用，根據《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律、行政法規(guī)，制定本辦法。

　　第二條 研發(fā)、利用生成式人工智能產品，面向中華人民共和國境內公眾提供服務的，適用本辦法。

　　本辦法所稱生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內容的技術。

　　第三條 國家支持人工智能算法、框架等基礎技術的自主創(chuàng)新、推廣應用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數據資源。

　　第四條 提供生成式人工智能產品或服務應當遵守法律法規(guī)的要求，尊重社會公德、公序良俗，符合以下要求：

　　(一)利用生成式人工智能生成的內容應當體現(xiàn)社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統(tǒng)一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經濟秩序和社會秩序的內容。

　　(二)在算法設計、訓練數據選擇、模型生成和優(yōu)化、提供服務等過程中，采取措施防止出現(xiàn)種族、民族、信仰、國別、地域、性別、年齡、職業(yè)等歧視。

　　(三)尊重知識產權、商業(yè)道德，不得利用算法、數據、平臺等優(yōu)勢實施不公平競爭。

　　(四)利用生成式人工智能生成的內容應當真實準確，采取措施防止生成虛假信息。

　　(五)尊重他人合法利益，防止傷害他人身心健康，損害肖像權、名譽權和個人隱私，侵犯知識產權。禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。

　　第五條 利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人(以下稱“提供者”)，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產品生成內容生產者的責任;涉及個人信息的，承擔個人信息處理者的法定責任，履行個人信息保護義務。

　　第六條 利用生成式人工智能產品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯(lián)網信息服務安全評估規(guī)定》向國家網信部門申報安全評估，并按照《互聯(lián)網信息服務算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

　　第七條 提供者應當對生成式人工智能產品的預訓練數據、優(yōu)化訓練數據來源的合法性負責。

　　用于生成式人工智能產品的預訓練、優(yōu)化訓練數據，應滿足以下要求：

　　(一)符合《中華人民共和國網絡安全法》等法律法規(guī)的要求;

　　(二)不含有侵犯知識產權的內容;

　　(三)數據包含個人信息的，應當征得個人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形;

　　(四)能夠保證數據的真實性、準確性、客觀性、多樣性;

　　(五)國家網信部門關于生成式人工智能服務的其他監(jiān)管要求。

　　第八條 生成式人工智能產品研制中采用人工標注時，提供者應當制定符合本辦法要求，清晰、具體、可操作的標注規(guī)則，對標注人員進行必要培訓，抽樣核驗標注內容的正確性。

　　第九條 提供生成式人工智能服務應當按照《中華人民共和國網絡安全法》規(guī)定，要求用戶提供真實身份信息。

　　第十條 提供者應當明確并公開其服務的適用人群、場合、用途，采取適當措施防范用戶過分依賴或沉迷生成內容。

　　第十一條 提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。法律法規(guī)另有規(guī)定的，從其規(guī)定。

　　第十二條 提供者不得根據用戶的種族、國別、性別等進行帶有歧視性的內容生成。

　　第十三條 提供者應當建立用戶投訴接收處理機制，及時處置個人關于更正、刪除、屏蔽其個人信息的請求;發(fā)現(xiàn)、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權、名譽權、個人隱私、商業(yè)秘密，或者不符合本辦法要求時，應當采取措施，停止生成，防止危害持續(xù)。

　　第十四條 提供者應當在生命周期內，提供安全、穩(wěn)健、持續(xù)的服務，保障用戶正常使用。

　　第十五條 對于運行中發(fā)現(xiàn)、用戶舉報的不符合本辦法要求的生成內容，除采取內容過濾等措施外，應在3個月內通過模型優(yōu)化訓練等方式防止再次生成。

　　第十六條 提供者應當按照《互聯(lián)網信息服務深度合成管理規(guī)定》對生成的圖片、視頻等內容進行標識。

　　第十七條 提供者應當根據國家網信部門和有關主管部門的要求，提供可以影響用戶信任、選擇的必要信息，包括預訓練和優(yōu)化訓練數據的來源、規(guī)模、類型、質量等描述，人工標注規(guī)則，人工標注數據的規(guī)模和類型，基礎算法和技術體系等。

　　第十八條 提供者應當指導用戶科學認識和理性使用生成式人工智能生成的內容，不利用生成內容損害他人形象、名譽以及其他合法權益，不進行商業(yè)炒作、不正當營銷。

　　用戶發(fā)現(xiàn)生成內容不符合本辦法要求時，有權向網信部門或者有關主管部門舉報。

　　第十九條 提供者發(fā)現(xiàn)用戶利用生成式人工智能產品過程中違反法律法規(guī)，違背商業(yè)道德、社會公德行為時，包括從事網絡炒作、惡意發(fā)帖跟評、制造垃圾郵件、編寫惡意軟件，實施不正當的商業(yè)營銷等，應當暫?；蛘呓K止服務。

　　第二十條 提供者違反本辦法規(guī)定的，由網信部門和有關主管部門按照《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律、行政法規(guī)的規(guī)定予以處罰。

　　法律、行政法規(guī)沒有規(guī)定的，由網信部門和有關主管部門依據職責給予警告、通報批評，責令限期改正;拒不改正或者情節(jié)嚴重的，責令暫?；蛘呓K止其利用生成式人工智能提供服務，并處一萬元以上十萬元以下罰款。構成違反治安管理行為的，依法給予治安管理處罰;構成犯罪的，依法追究刑事責任。

　　第二十一條 本辦法自2023年 月 日起實施。

　　綜上所述，關于算法安全管理辦法,算法推薦管理規(guī)定及生成式人工智能服務管理辦法文章，如果您需要辦理互聯(lián)網信息服務算法備案或者想更多咨詢問題，請聯(lián)系大通天成在線客服。也可以撥打我們的電話13391522356。