為進(jìn)一步深化互聯(lián)網(wǎng)信息服務(wù)算法綜合治理，近日，中央網(wǎng)信辦印發(fā)通知，自即日起至2025年2月14日，將開展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問題治理”專項(xiàng)行動(dòng)。
一、專項(xiàng)行動(dòng)的重要意義
（一）保障用戶權(quán)益
隨著算法技術(shù)的廣泛應(yīng)用，用戶的個(gè)人信息、消費(fèi)習(xí)慣等被大量收集和分析。這些信息的處理和使用如果不加以規(guī)范，可能導(dǎo)致用戶權(quán)益的嚴(yán)重?fù)p害。例如，大數(shù)據(jù)“殺熟”現(xiàn)象，即平臺(tái)利用算法對用戶進(jìn)行精準(zhǔn)畫像，從而對不同用戶實(shí)施差異化定價(jià)，這種行為不僅損害了用戶的經(jīng)濟(jì)利益，還破壞了用戶與平臺(tái)之間的信任關(guān)系。通過治理算法典型問題，可以確保算法應(yīng)用的合法性和合理性，保護(hù)用戶免受不當(dāng)算法決策的侵害，從而維護(hù)用戶的合法權(quán)益。
（二）促進(jìn)算法技術(shù)健康發(fā)展
算法技術(shù)的快速發(fā)展為互聯(lián)網(wǎng)產(chǎn)業(yè)帶來了前所未有的推動(dòng)力。然而，技術(shù)的快速發(fā)展也伴隨著一系列問題的出現(xiàn)，如同質(zhì)化推送營造的“信息繭房”、違規(guī)操縱干預(yù)榜單炒作熱點(diǎn)等。這些問題不僅影響了用戶體驗(yàn)，還可能導(dǎo)致算法技術(shù)的濫用和負(fù)面影響的擴(kuò)大。通過治理算法典型問題，可以引導(dǎo)算法技術(shù)向更加健康、可持續(xù)的方向發(fā)展，避免技術(shù)濫用和負(fù)面影響，從而推動(dòng)算法技術(shù)的健康發(fā)展。
（三）維護(hù)市場秩序
算法被廣泛應(yīng)用于電商、社交媒體等領(lǐng)域，成為影響市場競爭的重要因素。然而，不當(dāng)?shù)乃惴Q策可能破壞市場秩序，導(dǎo)致不正當(dāng)競爭和消費(fèi)者信任危機(jī)。例如，通過算法操縱榜單排名，可以干擾市場的公平競爭，損害其他競爭者的利益。通過治理算法典型問題，可以維護(hù)市場的公平競爭和良好秩序，促進(jìn)互聯(lián)網(wǎng)產(chǎn)業(yè)的健康發(fā)展。
二、行動(dòng)開展所面臨的挑戰(zhàn)
（一）技術(shù)挑戰(zhàn)
1.準(zhǔn)確識(shí)別和評估算法風(fēng)險(xiǎn)：算法的復(fù)雜性和多樣性使得準(zhǔn)確識(shí)別和評估其潛在風(fēng)險(xiǎn)變得尤為困難。如何有效地識(shí)別算法中的偏差和錯(cuò)誤，以及這些偏差和錯(cuò)誤可能對用戶和市場造成的影響，是技術(shù)層面的一個(gè)重大挑戰(zhàn)。
2.有效監(jiān)測和防范算法濫用：隨著算法技術(shù)的不斷發(fā)展，其濫用和誤用的手段也在不斷更新和變化。如何有效地監(jiān)測和防范這些濫用和誤用行為，確保算法應(yīng)用的合法性和合規(guī)性，是另一個(gè)技術(shù)層面的難題。
（二）監(jiān)管難題
1.監(jiān)管的及時(shí)性和有效性：在互聯(lián)網(wǎng)環(huán)境下，算法的應(yīng)用和傳播速度極快，如何確保監(jiān)管的及時(shí)性和有效性，成為了一個(gè)亟待解決的問題。監(jiān)管部門需要建立高效的監(jiān)測和預(yù)警機(jī)制，以便及時(shí)發(fā)現(xiàn)并處理算法典型問題。
2.平衡監(jiān)管與創(chuàng)新的關(guān)系：在加強(qiáng)算法監(jiān)管的同時(shí)，也要避免過度監(jiān)管對創(chuàng)新造成的抑制作用。如何在保障用戶權(quán)益和維護(hù)市場秩序的同時(shí)，鼓勵(lì)和支持算法技術(shù)的創(chuàng)新和發(fā)展，是監(jiān)管層面需要權(quán)衡的重要問題。
3.跨領(lǐng)域、跨地區(qū)的監(jiān)管協(xié)調(diào)：算法的應(yīng)用涉及多個(gè)領(lǐng)域和地區(qū)，如何協(xié)調(diào)不同領(lǐng)域和地區(qū)的監(jiān)管力量，形成有效的監(jiān)管合力，是另一個(gè)需要解決的問題。
（三）企業(yè)配合程度
1.企業(yè)自查自糾機(jī)制的建立：如何確保企業(yè)認(rèn)真履行算法安全主體責(zé)任，積極配合監(jiān)管部門的檢查和指導(dǎo)，建立有效的自查自糾機(jī)制，是企業(yè)層面的一個(gè)難題。企業(yè)需要加強(qiáng)內(nèi)部管理，完善算法審查、備案和評估機(jī)制，確保算法應(yīng)用的合法性和合規(guī)性。
2.企業(yè)配合監(jiān)管的主動(dòng)性：在專項(xiàng)行動(dòng)過程中，企業(yè)的配合度直接關(guān)系到行動(dòng)的成敗。如何激發(fā)企業(yè)配合監(jiān)管的主動(dòng)性，使其能夠自覺遵守法律法規(guī)和監(jiān)管要求，是另一個(gè)需要解決的問題。
三、應(yīng)對策略與措施
（一）加強(qiáng)算法監(jiān)管和治理
1.建立健全算法審查機(jī)制：加強(qiáng)對算法設(shè)計(jì)、開發(fā)和應(yīng)用過程的監(jiān)管，建立健全算法審查機(jī)制。對算法進(jìn)行定期審查和評估，確保其符合道德和法律標(biāo)準(zhǔn)，避免算法濫用和誤用。
2.提升算法透明度：要求企業(yè)公開算法的基本原理、數(shù)據(jù)來源、決策過程等信息，增加算法的可解釋性和可驗(yàn)證性。通過提升算法透明度，便于用戶和社會(huì)監(jiān)督算法的應(yīng)用情況，及時(shí)發(fā)現(xiàn)并糾正問題。
3.建立算法責(zé)任追究機(jī)制：明確算法決策的責(zé)任主體和追責(zé)機(jī)制，對算法決策造成的后果進(jìn)行追責(zé)和賠償。通過建立責(zé)任追究機(jī)制，提高算法應(yīng)用的風(fēng)險(xiǎn)意識(shí)和責(zé)任意識(shí)，促使企業(yè)加強(qiáng)算法安全管理。
（二）利用算法手段優(yōu)化治理
1.應(yīng)用機(jī)器學(xué)習(xí)技術(shù)監(jiān)測算法偏差：利用機(jī)器學(xué)習(xí)技術(shù)對算法決策進(jìn)行實(shí)時(shí)監(jiān)測和分析，及時(shí)發(fā)現(xiàn)并糾正算法中的偏差和錯(cuò)誤。通過技術(shù)手段提高算法決策的準(zhǔn)確性和公正性，保障用戶權(quán)益和市場秩序。
2.建立算法反饋和優(yōu)化機(jī)制：允許用戶對算法推薦的結(jié)果進(jìn)行反饋和評價(jià)，根據(jù)用戶反饋不斷優(yōu)化算法性能。通過用戶反饋機(jī)制的建立，提高算法推薦的相關(guān)性和滿意度，提升用戶體驗(yàn)。
（三）加強(qiáng)企業(yè)自律和監(jiān)管合作
1.推動(dòng)企業(yè)建立自查自糾機(jī)制：鼓勵(lì)企業(yè)加強(qiáng)內(nèi)部管理，完善算法審查、備案和評估機(jī)制。通過自查自糾機(jī)制的建立，及時(shí)發(fā)現(xiàn)并糾正算法應(yīng)用中的問題，確保算法應(yīng)用的合法性和合規(guī)性。
2.加強(qiáng)監(jiān)管合作與協(xié)調(diào)：建立跨領(lǐng)域、跨地區(qū)的監(jiān)管合作機(jī)制，加強(qiáng)信息共享和協(xié)同監(jiān)管。通過監(jiān)管合作與協(xié)調(diào)，形成有效的監(jiān)管合力，共同應(yīng)對算法典型問題。
3.加強(qiáng)宣傳教育和培訓(xùn)：加強(qiáng)對企業(yè)和用戶的宣傳教育和培訓(xùn)，提高其對算法典型問題的認(rèn)識(shí)和重視程度。通過宣傳教育和培訓(xùn)，增強(qiáng)企業(yè)和用戶的法律意識(shí)和風(fēng)險(xiǎn)意識(shí)，推動(dòng)形成全社會(huì)共同關(guān)注和參與算法治理的良好氛圍。
