國家網(wǎng)信辦等四部門(mén)聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》，3月1日起正式施行。對于普通用戶(hù)而言，算法摸不著(zhù)也看不懂，卻在廣泛影響著(zhù)我們通過(guò)各種平臺獲取互聯(lián)網(wǎng)信息服務(wù)。

　　算法無(wú)處不在 濫用問(wèn)題不斷

　　算法推薦技術(shù)通過(guò)抓取用戶(hù)日常的使用數據，分析得出人們的行為、習慣和喜好，進(jìn)而精準化地提供信息、娛樂(lè )、消費等各類(lèi)服務(wù)。提供便利的同時(shí)，近年來(lái)，“大數據殺熟”、流量造假、誘導沉迷等不合理應用也給我們的生活帶來(lái)煩惱。由北京大學(xué)互聯(lián)網(wǎng)發(fā)展研究中心與互聯(lián)網(wǎng)公司聯(lián)合發(fā)布的《中國大安全感知報告（2021）》顯示，有七成受訪(fǎng)者感到算法能獲取自己的喜好、興趣從而“算計”自己，近五成受訪(fǎng)者表示，在算法束縛下想要逃離網(wǎng)絡(luò )、遠離手機。

　　中國信息安全研究院副院長(cháng)左曉棟：這些服務(wù)的推送是網(wǎng)絡(luò )服務(wù)提供者給我們定制的，那么定制就容易產(chǎn)生濫用，輕則損害我們個(gè)人的權益，嚴重的就會(huì )危害國家安全，因此算法推薦必須要進(jìn)行規范。

　　《規定》明確，應用算法推薦技術(shù)，是指利用生成合成類(lèi)、個(gè)性化推送類(lèi)、排序精選類(lèi)、檢索過(guò)濾類(lèi)、調度決策類(lèi)等算法技術(shù)向用戶(hù)提供信息。各類(lèi)提供算法推薦服務(wù)的互聯(lián)網(wǎng)公司幾乎都在監管范圍內，如各類(lèi)短視頻平臺、電商平臺、社交平臺及餐飲外賣(mài)平臺等。

　　為了打破算法摸不著(zhù)也看不懂的“黑箱”，《規定》明確要求保障用戶(hù)的算法知情權和算法選擇權，應當向用戶(hù)提供不針對其個(gè)人特征的選項，或者便捷的關(guān)閉算法推薦服務(wù)的選項。

　　《規定》要求算法推薦服務(wù)提供者應當堅持主流價(jià)值導向，積極傳播正能量，建立完善人工干預和用戶(hù)自主選擇機制，不得利用算法實(shí)施影響網(wǎng)絡(luò )輿論、規避監督管理以及壟斷和不正當競爭行為。

　　不得實(shí)施差別待遇 劍指大數據“殺熟”

　　近年來(lái)，一些企業(yè)利用個(gè)人信息搞大數據“殺熟”，對不同群體進(jìn)行差別定價(jià)，實(shí)行“價(jià)格歧視”，讓消費者十分反感。對此，《規定》又將如何破解呢？

　　浙江紹興的胡女士通過(guò)某商旅平臺定購了一家酒店房間，結賬時(shí)發(fā)現，通過(guò)平臺支付的房費比該酒店實(shí)際房?jì)r(jià)高近一倍，而她是該商旅平臺的高級會(huì )員，本該享受8.5折優(yōu)惠。胡女士懷疑商旅平臺通過(guò)她此前的消費行為，存在“大數據殺熟”的行為，將商旅平臺告上法庭。去年7月，法院一審對原告退一賠三的請求予以準許。這起案件被眾多媒體稱(chēng)為“大數據殺熟”第一案。

　　同樣的送餐時(shí)間、地點(diǎn)、訂單、外賣(mài)平臺，會(huì )員卻比非會(huì )員多付錢(qián)；同時(shí)同地打同類(lèi)型車(chē)到同一目的地，某打車(chē)平臺曾被用戶(hù)發(fā)現熟客反而收費更高，類(lèi)似的消費投訴多有發(fā)生。對此，《規定》提出，算法推薦服務(wù)提供者向消費者銷(xiāo)售商品或者提供服務(wù)的，應當保護消費者公平交易的權利，不得根據消費者的偏好、交易習慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為。

　　中國信息安全研究院副院長(cháng)左曉棟：有的平臺就會(huì )說(shuō)，這個(gè)算法是我的知識產(chǎn)權，是我的商業(yè)秘密，我不能公開(kāi)。這些說(shuō)辭都不能成立了，平臺的算法要保證必要的透明性。

　　專(zhuān)家強調，《規定》還明確保障用戶(hù)的選擇權、刪除權等權益。通過(guò)向用戶(hù)提供不針對其個(gè)人特征的選項，或向用戶(hù)提供便捷的關(guān)閉算法推薦服務(wù)的選項，并提供選擇或刪除針對其個(gè)人特征的用戶(hù)標簽的功能，避免消費者被算法“算計”。

　　保護勞動(dòng)者合法權益 避免被算法所“困”

　　此外，在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》中要求，算法推薦服務(wù)提供者向勞動(dòng)者提供工作調度服務(wù)的，應當保護勞動(dòng)者取得勞動(dòng)報酬、休息休假等合法權益，相關(guān)情況，再來(lái)了解一下。

　　2020年9月，一篇名為《外賣(mài)騎手，困在系統里》的文章備受關(guān)注。文章描述了在外賣(mài)平臺系統的算法與數據驅動(dòng)下，外賣(mài)騎手的配送時(shí)間不斷被壓縮，而騎手在強大的系統驅動(dòng)下，為避免差評、維持收入，不得不在現實(shí)中選擇逆行、闖紅燈等做法。不少外賣(mài)騎手表示，幾十層的高層樓宇，電梯一等就是十幾分鐘甚至更長(cháng)，但這樣的客觀(guān)情況，并沒(méi)有被“算法系統”考慮進(jìn)去。

　　清華大學(xué)人工智能?chē)H治理研究院副院長(cháng)梁正：由于機器還在發(fā)展階段當中，針對一些勞動(dòng)工作場(chǎng)景，把決定權力交給機器，有很大的潛藏的公平性、可靠性的風(fēng)險。

　　互聯(lián)網(wǎng)平臺優(yōu)化算法主要通過(guò)大數據分析算法模型計算出業(yè)務(wù)經(jīng)營(yíng)的最佳策略，與此同時(shí)，與算法相配合的還有一整套嚴格的績(jì)效考核機制，一旦違背部分算法規則，則會(huì )在考核中失去“優(yōu)勢”，并可能帶來(lái)了一些惡性應對行為。對此《規定》專(zhuān)門(mén)提出，算法推薦服務(wù)提供者向勞動(dòng)者提供工作調度服務(wù)的，應當保護勞動(dòng)者取得勞動(dòng)報酬、休息休假等合法權益，建立完善平臺訂單分配、報酬構成及支付、工作時(shí)間、獎懲等相關(guān)算法。

　　確保算法公開(kāi)透明 嚴防刷量控評影響輿論

　　雇傭網(wǎng)絡(luò )“水軍”實(shí)施流量造假，鼓動(dòng)“飯圈”粉絲互撕，刷量控評，一些算法推薦服務(wù)提供者干預熱搜，影響網(wǎng)絡(luò )輿論的現象讓人詬病。明天施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》將給這類(lèi)影響網(wǎng)絡(luò )輿論的“黑手”戴上“緊箍咒”。

　　在娛樂(lè )行業(yè)，部分流量明星動(dòng)輒可以拿到上億甚至十幾億的商業(yè)回報，明星商業(yè)平臺無(wú)所不用其極地制作話(huà)題、進(jìn)行炒作，任何可以引發(fā)粉絲關(guān)注討論的行為，甚至是粉絲之間的網(wǎng)絡(luò )罵戰，都是商業(yè)團隊常規的策劃內容。品牌方也深諳此道，甚至運用手段刻意制造不同粉絲的矛盾，掀起罵戰來(lái)博眼球、拉流量。

　　3月1日正式實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》，要求算法推薦服務(wù)應遵循公開(kāi)透明的原則，鼓勵算法推薦服務(wù)提供者綜合運用內容去重、打散干預等策略，優(yōu)化規則透明度和可解釋性。建立健全算法機制機理審核、科技倫理審查、用戶(hù)注冊、信息發(fā)布審核等管理制度，不得利用算法操縱榜單、控制熱搜等干預信息呈現。

　　中國信息安全研究院副院長(cháng)左曉棟：我們看到的內容有可能會(huì )越來(lái)越偏離公正，偏離中立，被人為地或者是背后有算法在引導的情況，那么就需要進(jìn)行必要地干預。

　　對外經(jīng)貿大學(xué)數字經(jīng)濟與法律創(chuàng )新研究中心執行主任張欣：原則上告訴我們說(shuō)這些設計人員不能去開(kāi)發(fā)這樣的算法，如果進(jìn)行了這樣相應的行為怎么辦？這一次的管理規定當中非常明確提出要去承擔相應的責任。

　　防止誘導沉迷消費 保護特殊群體利益

　　如何防止誘導用戶(hù)沉迷、過(guò)度消費，保護未成年人等特殊群體的權益？針對這些訴求，明天施行的《規定》也進(jìn)行了精細化的規定。多位專(zhuān)家表示，建立健全科學(xué)的監管體系，形成算法治理長(cháng)效機制，將是確保《規定》落到實(shí)處的核心要義。

　　《規定》提出，算法推薦服務(wù)提供者應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等，不得設置誘導用戶(hù)沉迷、過(guò)度消費等違反法律法規或者違背倫理道德的算法模型。

　　針對未成年人，《規定》提出，算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會(huì )公德行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務(wù)誘導未成年人沉迷網(wǎng)絡(luò )。《規定》還要求，算法推薦服務(wù)提供者向老年人提供服務(wù)的，應當保障老年人依法享有的權益，充分考慮老年人出行、就醫、消費、辦事等需求，按照國家有關(guān)規定提供智能化適老服務(wù)。

　　監管如何落地落實(shí)？《規定》明確，事前監管，確立算法備案、算法評估等制度；區分監管，確立分級分類(lèi)的思路；系統監管，建立多元共治的局面。專(zhuān)家認為，《規定》著(zhù)力完善治理體系，實(shí)現事前事中事后全流程、全鏈條監管。算法推薦服務(wù)提供者如違反相關(guān)規定，會(huì )被處以警告、通報批評、罰款等，必要時(shí)還將給予治安管理處罰和追究刑事責任。

　　中國信息安全研究院副院長(cháng)左曉棟：強調主體責任非常重要，因為平臺是算法推薦的使用者，因此只有把平臺的責任壓實(shí)，那么平臺才有自覺(jué)性去落實(shí)法律法規的要求。