你是否有過(guò)這樣的經(jīng)歷：閱讀一條新聞，同類(lèi)新聞便源源不斷推送過(guò)來(lái)；瀏覽一件產(chǎn)品，產(chǎn)品廣告就會(huì )接踵而至；甚至，不經(jīng)意間聊到某話(huà)題，相關(guān)信息也會(huì )紛至沓來(lái)，手機好像無(wú)時(shí)無(wú)刻不在記錄著(zhù)你的只言片語(yǔ)……這些都不是巧合，而是“算法”計算的結果。

　　因為“計算”，用戶(hù)獲取信息成本大幅降低，網(wǎng)絡(luò )服務(wù)更加精準高效。然而，越來(lái)越多用戶(hù)擔心被“算計”，日益關(guān)注“信息繭房”“大數據殺熟”“誘導沉迷”等問(wèn)題。“別讓‘算法’成為‘算計’”成為網(wǎng)民共同心聲。

　　痛點(diǎn)

　　“流量至上”引發(fā)亂象

　　最近，北京市民王蘭遇到一件令人啼笑皆非的事情：兒子睿睿還不到10歲，手機卻頻繁收到各種相親信息。追根究底，原來(lái)是兒子前幾天誤點(diǎn)了一則相親廣告。這讓王蘭感到擔憂(yōu)：“網(wǎng)絡(luò )對用戶(hù)信息的收集已到了無(wú)孔不入的程度。”

　　大學(xué)生宋凡不久前下載了一款閱讀軟件。打開(kāi)后，一篇標記著(zhù)“您可能感興趣”的小說(shuō)被推送至界面。“這不恰好是我喜歡的作者嗎？”他點(diǎn)開(kāi)鏈接，一看就是一個(gè)多小時(shí)。看完后，系統又推薦了這篇小說(shuō)的“番外”。不知不覺(jué)，他一連“刷”了幾個(gè)小時(shí)，連老師布置的課題都忘了寫(xiě)。

　　“這就是‘算法’的作用。”杭州某互聯(lián)網(wǎng)公司的算法工程師向陽(yáng)介紹，“手機軟件可以隨時(shí)抓取用戶(hù)數據，通過(guò)智能模型分析人們的行為、習慣和喜好，過(guò)濾掉用戶(hù)不感興趣的內容，推薦用戶(hù)感興趣的信息。”

　　他透露，對一些商業(yè)平臺來(lái)說(shuō)，使用“算法”的主要目的是提升流量，提高收益，至于推送的信息是優(yōu)質(zhì)還是劣質(zhì)、會(huì )否帶來(lái)網(wǎng)絡(luò )沉迷等問(wèn)題，則不在考慮之列。“就像小孩喜歡吃糖，有些商家的唯一目標是盡可能賣(mài)更多糖給孩子，至于會(huì )不會(huì )影響健康，不是他們關(guān)心的。”

　　這種“流量至上”的商業(yè)邏輯，促使一些網(wǎng)絡(luò )平臺借助“算法”頻繁推送用戶(hù)感興趣的同質(zhì)化內容，更有甚者，以博人眼球的劣質(zhì)低俗內容取悅用戶(hù)。久而久之，用戶(hù)接收信息的范圍就會(huì )變窄，渠道也變得單一，從而陷入人們常說(shuō)的“信息繭房”。

　　除了“信息繭房”，頻受詬病的還有“算法歧視”。所謂“算法歧視”，是指在“算法”設計和應用過(guò)程中，由于偏見(jiàn)、歧視性數據集或其他因素導致的“不公平結果”。

　　家住石家莊的劉女士，孩子在北京上大學(xué)，她每次來(lái)京探望孩子都會(huì )入住校旁一家酒店。今年初，她通過(guò)某手機軟件預訂一個(gè)房間，價(jià)格每晚近800元。可她辦入住時(shí)發(fā)現，有客人預定了同樣房型，價(jià)格只要600元。經(jīng)過(guò)比對，兩人在同一手機軟件上看到的價(jià)格完全不一樣。

　　“我還是這家酒店的白金卡客戶(hù)呢，非但沒(méi)有享受到優(yōu)惠，反而還被‘宰’了，孩子告訴我，這叫‘大數據殺熟’！”

　　“大數據殺熟”是“算法歧視”的表現形式之一。指平臺利用“算法”進(jìn)行用戶(hù)“畫(huà)像”，如果用戶(hù)已是熟客，就不再需要低價(jià)吸引，同時(shí)，平臺可能通過(guò)搜集消費數據檢測到用戶(hù)消費能力，從而“定向”抬高價(jià)格。向陽(yáng)表示，“算法歧視”一度甚囂塵上，買(mǎi)機票、打網(wǎng)約車(chē)甚至網(wǎng)絡(luò )購物，都會(huì )被“大數據殺熟”，后來(lái)有關(guān)部門(mén)強力監管，這種現象才有所收斂，但目前仍在業(yè)界不同程度存在。

　　難點(diǎn)

　　“算法”違規不易評判

　　有網(wǎng)友總結，“算法”推薦的劣質(zhì)信息有三個(gè)特點(diǎn)：真假難辨、缺乏深度、價(jià)值導向錯亂。不少人認為，“價(jià)值導向錯亂”是規范“算法”的最大難點(diǎn)。

　　王軍是一位自媒體人，最近打算寫(xiě)一篇關(guān)于“年輕人該不該啃老”的話(huà)題。當他打開(kāi)手機，搜索這個(gè)話(huà)題時(shí)，發(fā)現多數網(wǎng)友都不支持年輕人啃老，這與他的觀(guān)點(diǎn)非常一致。

　　不料，有同事告訴他，現在多數年輕人都認為，“啃老沒(méi)什么問(wèn)題，人生就是拿來(lái)享受的！”這讓王軍感到詫異，同事將手機拿到王軍眼前：“你看，滿(mǎn)屏都是支持啃老的觀(guān)點(diǎn)。”而當王軍也將自己的手機頁(yè)面展示給同事時(shí)，兩人只能面面相覷。

　　“判斷用戶(hù)價(jià)值導向并非難事，有多種方法可以評價(jià)。比如，抓取用戶(hù)觀(guān)看某話(huà)題的停留時(shí)間、分析留言是正面還是負面、統計用戶(hù)點(diǎn)贊記錄等，都可以用來(lái)判定用戶(hù)觀(guān)點(diǎn)，然后依據‘內容相似度’和‘用戶(hù)相似度’，把最受認可的內容推薦到頁(yè)面上。”向陽(yáng)進(jìn)一步解釋?zhuān)八惴ā痹谀撤N程度上充當了內容“編輯”的角色，是否推送、推送給誰(shuí)、推送多少，都是預先設定好的程序說(shuō)了算。

　　近年來(lái)，針對“算法”引發(fā)的亂象，監管部門(mén)多措并舉，通過(guò)約談、處罰、整改、下架等手段大力凈化網(wǎng)絡(luò )風(fēng)氣。然而，如何有效通過(guò)“算法”倡導正確導向的信息，仍是有待破解的命題。

　　向陽(yáng)表示，雖然“算法”作為一項技術(shù)是中性的，但其模型設計、數據分析等都離不開(kāi)設計者的個(gè)人選擇，其主觀(guān)意識會(huì )潛移默化地嵌入“算法”系統。同時(shí)，由于“算法”設計具有較高的技術(shù)門(mén)檻，其設計過(guò)程有如一只黑箱，外界很難洞悉其中原理和邏輯，因此，也很難判定“算法”體現了哪種導向。

　　向陽(yáng)的說(shuō)法不斷被現實(shí)印證。由于多數“算法”設計者不會(huì )將運算細節公之于眾，即使公開(kāi)，也很難準確判定。由于缺乏專(zhuān)業(yè)技術(shù)知識，用戶(hù)在權益受到損害時(shí)，依法維權的成本較高。多起因“算法”引起的訴訟均沒(méi)有得到理想的判罰結果。

　　“‘算法’推薦作為一種商業(yè)秘密和技術(shù)秘密，應用過(guò)程中又往往涉及社會(huì )公共利益，如何平衡、把握對‘算法’推薦法律規制的邊界，是面臨的一大難題。”北京大學(xué)法學(xué)院副院長(cháng)薛軍認為，在司法以及行政理念上，需要將“算法”的運用作為“算法”運營(yíng)者行為的延伸。無(wú)論運營(yíng)者是否存在過(guò)錯、是否存在行政違法等，“算法”因素都應被納入追責的考量范圍。

　　焦點(diǎn)

　　凝聚合力規范“算法”

　　隨著(zhù)公眾對“算法”持續關(guān)注，加強“算法”規范的呼聲也越來(lái)越高。一項調查顯示，超過(guò)70%受訪(fǎng)者表示曾被“算法”推薦服務(wù)困擾，超過(guò)60%受訪(fǎng)者認為生活中普遍存在“大數據殺熟”。絕大多數用戶(hù)認為，“算法”推薦技術(shù)潛藏了窺探、泄露用戶(hù)個(gè)人隱私的重大風(fēng)險。濫用“算法”的行為，侵害了消費者的知情權、選擇權和個(gè)人信息權益，也給網(wǎng)絡(luò )空間的傳播秩序帶來(lái)負面影響。

　　在這個(gè)背景下，一些用戶(hù)希望關(guān)閉“算法”推薦功能，停止將個(gè)人信息分享給平臺使用。在有關(guān)部門(mén)督導下，各大網(wǎng)絡(luò )平臺都上線(xiàn)了關(guān)閉“算法”推薦的功能，將是否收集用戶(hù)偏好的選擇權交還用戶(hù)。

　　然而，平臺個(gè)性化推薦存在關(guān)閉難等問(wèn)題。上海市消保委曾對消費者常用的10款手機軟件開(kāi)展為期8個(gè)月的專(zhuān)項測評，結果顯示，關(guān)閉個(gè)性化推薦最多需7步。

　　記者登錄幾個(gè)下載排名靠前的主流手機軟件，目前關(guān)閉“算法”推薦功能的方式主要是通過(guò)“個(gè)人設置”來(lái)操作。操作步驟與此前調查結果一致，大多仍需要5—7步。記者隨機采訪(fǎng)了20名手機用戶(hù)，絕大多數表示并不知曉手機軟件還有關(guān)閉“算法”推薦的功能，只有1位用戶(hù)知道該功能并懂得具體操作。

　　“這種現象反映了業(yè)界的矛盾心理，一方面不希望用戶(hù)大規模關(guān)閉‘算法’，另一方面也意識到，只有規范才能長(cháng)遠。”向陽(yáng)說(shuō)，規范“算法”，需要社會(huì )各界發(fā)揮合力，尋找最大公約數。

　　“有效治理‘算法’亂象，是構建安全清朗的網(wǎng)絡(luò )生態(tài)的必然要求。”中國政法大學(xué)副教授鄭玉雙表示，要健全“算法”的法律規制模式，破解“算法”的法律規制難題，實(shí)現算法善治。

　　“對于‘算法’運用是否產(chǎn)生不良后果，要建立一種社會(huì )性的評議機制進(jìn)行持續性的跟蹤研究。如果社會(huì )評議機制有充分的理由，認定特定‘算法’的運用導致不良后果，就應該啟動(dòng)問(wèn)責機制，要求相應的‘算法’運營(yíng)者予以解釋與說(shuō)明并作出優(yōu)化。”薛軍建議。（記者 盧澤華）