針對(duì)網(wǎng)絡(luò)平臺(tái)算法典型問題治理，專項(xiàng)行動(dòng)來了。11月24日，中央網(wǎng)絡(luò)安全和信息化委員會(huì)辦公室秘書局等四部門聯(lián)合發(fā)布關(guān)于開展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問題治理”專項(xiàng)行動(dòng)的通知，決定自即日起至2025年2月14日，開展對(duì)信息繭房、熱搜榜單、新就業(yè)形態(tài)勞動(dòng)者權(quán)益、大數(shù)據(jù)“殺熟”等六個(gè)方面的算法治理。有關(guān)分析指出，專項(xiàng)行動(dòng)開展落實(shí)，將進(jìn)一步維護(hù)用戶合法權(quán)益，提升用戶體驗(yàn)和滿意度；促進(jìn)網(wǎng)絡(luò)空間的健康、有序發(fā)展；以及推動(dòng)技術(shù)創(chuàng)新與監(jiān)管并重，確保算法技術(shù)的健康發(fā)展。
嚴(yán)禁大數(shù)據(jù)“殺熟”
據(jù)悉，此次專項(xiàng)行動(dòng)主要聚焦信息繭房、熱搜榜單、新就業(yè)形態(tài)勞動(dòng)者權(quán)益、大數(shù)據(jù)“殺熟”、算法向上向善、落實(shí)算法安全主體責(zé)任六個(gè)方面。
工信部信息通信經(jīng)濟(jì)專家委員會(huì)委員盤和林對(duì)北京商報(bào)記者表示，算法推薦帶來的問題有很多，上述六個(gè)方面涉及到消費(fèi)者權(quán)益、社會(huì)信任、市場(chǎng)公平競(jìng)爭(zhēng)以及社會(huì)公共安全，是全社會(huì)廣泛關(guān)切的重點(diǎn)，需要優(yōu)先進(jìn)行治理。
具體來看，通知提出，深入整治“信息繭房”、誘導(dǎo)沉迷問題。包括，構(gòu)建“信息繭房”防范機(jī)制，提升推送內(nèi)容多樣性豐富性；規(guī)范設(shè)置“不感興趣”等負(fù)反饋功能。提升榜單透明度打擊操縱榜單行為。包括，全面公示熱搜榜單算法原理，提升榜單透明度和可解釋性；完善榜單日志留存，提高榜單算法原理可驗(yàn)證性。健全水軍刷榜、水軍賬號(hào)等違規(guī)行為、賬號(hào)檢測(cè)識(shí)別技術(shù)手段。
同時(shí)，防范盲目追求利益侵害新就業(yè)形態(tài)勞動(dòng)者權(quán)益。包括，嚴(yán)防一味壓縮配送時(shí)間導(dǎo)致配送超時(shí)率、交通違章率、事故發(fā)生率上升等問題；詳細(xì)公示時(shí)間預(yù)估、費(fèi)用計(jì)算、路線規(guī)劃等算法規(guī)則。嚴(yán)禁利用算法實(shí)施大數(shù)據(jù)“殺熟”。包括，嚴(yán)禁利用用戶年齡、職業(yè)、消費(fèi)水平等特征，對(duì)相同商品實(shí)施差異化定價(jià)行為；提升優(yōu)惠促銷透明度，清晰說明優(yōu)惠券的領(lǐng)取條件、發(fā)放數(shù)量和使用規(guī)則等內(nèi)容；客觀如實(shí)說明優(yōu)惠券領(lǐng)取失敗原因，嚴(yán)禁以“來晚了”“擦肩而過”等提示詞掩蓋真實(shí)原因。
此外，增強(qiáng)算法向上向善服務(wù)保護(hù)網(wǎng)民合法權(quán)益。包括，持續(xù)優(yōu)化完善面向未成年人、老年人的算法推薦服務(wù)，便利未成年人、老年人獲取有益身心健康的信息；建立健全算法在賦能優(yōu)質(zhì)內(nèi)容傳播、違法行為識(shí)別發(fā)現(xiàn)等方面的社會(huì)治理應(yīng)用。落實(shí)算法安全主體責(zé)任。包括，健全算法機(jī)制機(jī)理審核、數(shù)據(jù)安全的管理制度和技術(shù)措施；確保算法的訓(xùn)練數(shù)據(jù)具有合法來源，及時(shí)檢測(cè)修復(fù)代碼安全漏洞和算法邏輯缺陷，定期對(duì)算法模型的可用性、可控性、可解釋性以及數(shù)據(jù)處理、模型訓(xùn)練、部署運(yùn)行等環(huán)節(jié)開展安全評(píng)估。
北京市社會(huì)科學(xué)院管理研究所副研究員王鵬指出，此次對(duì)信息繭房和熱搜榜單問題的整治比較關(guān)鍵。直接關(guān)系到網(wǎng)絡(luò)信息的傳播和用戶的認(rèn)知，對(duì)于營(yíng)造健康、多元的網(wǎng)絡(luò)環(huán)境具有重要意義。如果任由算法推送高度同質(zhì)化內(nèi)容或操縱榜單炒作熱點(diǎn)，將嚴(yán)重?fù)p害網(wǎng)絡(luò)信息的真實(shí)性和多樣性，誤導(dǎo)用戶的選擇和判斷。
用算法治理算法
“隨著專項(xiàng)行動(dòng)開展落實(shí)，將進(jìn)一步維護(hù)用戶合法權(quán)益，提升用戶體驗(yàn)和滿意度；促進(jìn)網(wǎng)絡(luò)空間的健康、有序發(fā)展；以及推動(dòng)技術(shù)創(chuàng)新與監(jiān)管并重，確保算法技術(shù)的健康發(fā)展。”王鵬說。
根據(jù)通知，從工作安排來看，此次專項(xiàng)行動(dòng)自即日起至2024年12月31日將組織企業(yè)自查自糾；2025年1月1日—31日，將核驗(yàn)企業(yè)自查情況；2025年2月14日前完成深入評(píng)估治理成效。同時(shí)，在專項(xiàng)行動(dòng)期間，開設(shè)舉報(bào)受理渠道。
盤和林指出，此次行動(dòng)后應(yīng)該會(huì)有接續(xù)性措施出臺(tái)，例如，第三方機(jī)構(gòu)和成熟統(tǒng)一的評(píng)估標(biāo)準(zhǔn)可能在這次指導(dǎo)文件發(fā)布后逐步完善。這需要時(shí)間，也需要政府配備相關(guān)人才等資源。
實(shí)際上，近年來，為更好地駕馭算法，使之造福于公眾和社會(huì)，算法治理工作逐漸走向常態(tài)化和規(guī)范化。國(guó)內(nèi)此前印發(fā)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等政策文件，以及國(guó)外歐盟通過實(shí)施《通用數(shù)據(jù)保護(hù)條例》(GDPR)，對(duì)數(shù)據(jù)處理和個(gè)人隱私保護(hù)提出了嚴(yán)格要求等。
值得注意的是，這當(dāng)中也有不少通過算法來治理算法的嘗試。例如，在此次通知中也提出，為推動(dòng)算法導(dǎo)向正確，將建立健全用于識(shí)別違法和不良信息的特征庫，積極探索應(yīng)用于識(shí)別違法和不良信息的算法、技術(shù)，防范和抵制傳播不良信息。
中國(guó)信息協(xié)會(huì)常務(wù)理事、國(guó)研新經(jīng)濟(jì)研究院創(chuàng)始院長(zhǎng)朱克力對(duì)北京商報(bào)記者表示，用算法治理算法是一種創(chuàng)新的監(jiān)管方式，它利用技術(shù)手段來應(yīng)對(duì)技術(shù)挑戰(zhàn)，具有高效、精準(zhǔn)等優(yōu)勢(shì)。但成功實(shí)踐這一方式也并非易事。難點(diǎn)在于如何確保監(jiān)管算法的準(zhǔn)確性和公正性，避免其被濫用或誤用。同時(shí)，監(jiān)管算法與被監(jiān)管算法之間的動(dòng)態(tài)博弈也是一個(gè)需要關(guān)注的問題。
“要突破這些難點(diǎn)，需要建立嚴(yán)格的技術(shù)標(biāo)準(zhǔn)和評(píng)估體系，對(duì)監(jiān)管算法進(jìn)行定期審查和更新。此外，還需要加強(qiáng)法律法規(guī)建設(shè)，明確算法治理的法律邊界和責(zé)任主體。后續(xù)措施方面，需要加強(qiáng)跨部門、跨領(lǐng)域的協(xié)作機(jī)制建設(shè)，形成合力共同應(yīng)對(duì)算法治理的挑戰(zhàn)。同時(shí)，還需要加強(qiáng)公眾教育和參與，提高社會(huì)對(duì)算法治理的認(rèn)知度和支持度。”朱克力說。
