算法在便利數(shù)字時代生活的同時，也是備受詬病的“黑箱”。8月27日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定(征求意見稿)》(以下簡稱《意見稿》)并公開征求意見。

《意見稿》明確提出，不得實施流量造假、控制熱搜等影響網(wǎng)絡輿論;外賣及網(wǎng)約車平臺對勞動者、消費者的雙重算法需規(guī)范，保證勞動者算法的公正透明，抵制算法對消費者“大數(shù)據(jù)殺熟”等。相關規(guī)定給算法推薦服務戴上“緊箍咒”。

牽住“主體責任”這一牛鼻子

“這個規(guī)定不是突然出臺的，它是針對當下公眾反映強烈、問題突出的算法治理問題做出的先導性回應，體現(xiàn)了對算法領域焦點問題進行系統(tǒng)全面治理的思路。”北京師范大學網(wǎng)絡法治國際中心執(zhí)行主任、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括對科技日報記者表示，《意見稿》有兩個突出特點：更強調生態(tài)治理、更突出主體責任，其規(guī)范核心主體是“算法推薦服務提供者”，以之為“牛鼻子”推出和落實相關行為規(guī)則。

據(jù)中央財經(jīng)大學中國互聯(lián)網(wǎng)經(jīng)濟研究院副院長歐陽日輝介紹，“大數(shù)據(jù)殺熟”就是企業(yè)通過平臺用戶的數(shù)字畫像，利用用戶的信息不對稱以及對價格波動的不敏感這一特點對不同的消費者進行差別化定價，暴露了相關企業(yè)對思想道德建設的忽視。

吳沈括同樣表示，一些互聯(lián)網(wǎng)企業(yè)的算法應用造成的偏見、歧視與差別待遇，實際上對國家的互聯(lián)網(wǎng)內容治理生態(tài)和網(wǎng)絡安全等方面造成很大的消極影響。

“相關企業(yè)要增強社會責任感與思想道德建設，完善自我約束機制。”歐陽日輝說，“要強化數(shù)據(jù)采集的合規(guī)化，降低算法歧視發(fā)生的概率，也要賦予網(wǎng)絡數(shù)據(jù)主體被遺忘權，完善數(shù)據(jù)退出機制。另外，對敏感數(shù)據(jù)進行數(shù)據(jù)脫敏也是從數(shù)據(jù)角度減少算法歧視的一個手段。”

對算法進行全生命周期治理

近日表決通過的個人信息保護法中要求，通過自動化決策方式向個人進行信息推送、商業(yè)營銷，應當同時提供不針對其個人特征的選項，或者向個人提供便捷的拒絕方式。

這也體現(xiàn)在《意見稿》的要求中：算法推薦服務提供者應當向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關閉算法推薦服務的選項。

在吳沈括看來，這體現(xiàn)了《意見稿》與現(xiàn)行法律法規(guī)的配合，如網(wǎng)絡安全法、數(shù)據(jù)安全法、個人信息保護法等，現(xiàn)實指向意義很強，“新規(guī)是對上位法的落實，它有助于拉齊整個行業(yè)的治理水平，整個算法應用生態(tài)的治理水平取決于行業(yè)內的短板企業(yè)，只有用法規(guī)向上拉齊，才能避免行業(yè)的劣幣驅逐良幣。”

“目前我們已經(jīng)進入算法社會，這是無可阻擋的潮流，關鍵就是要怎么治理和規(guī)范好。”吳沈括說，著眼于與國際良好實踐的比較，治理的核心焦點是透明度，包括機制透明度、規(guī)則透明度等，最大限度實現(xiàn)多層次的透明。

他建議，相關企業(yè)需要建立健全用于識別違法和不良信息的特征庫，完善入庫標準、規(guī)則和程序。發(fā)現(xiàn)違法信息的，應當立即停止傳輸，防止信息擴散，保存有關記錄，并向相關部門報告。同時也要保持和監(jiān)管機構常態(tài)、良性的互動，保持溝通，實現(xiàn)風險管理需求。

此外，《意見稿》對包括用戶注冊、信息發(fā)布審核、算法機制機理審核、安全評估監(jiān)測、安全事件應急處置、數(shù)據(jù)安全保護和個人信息保護等在內的方方面面作出規(guī)定，吳沈括表示，這體現(xiàn)出了全流程、全生命周期治理的思路，“相信未來在新規(guī)的落實中，也會是一個生態(tài)治理和共同參與，共同構筑社會公共信任的過程。”(崔爽)