經(jīng)濟(jì)觀察報 記者 任曉寧 周悅 這是一場預(yù)料中的交鋒。有人認(rèn)為，算法是大數(shù)據(jù)時代的事情，AI時代不需要監(jiān)管算法；有人認(rèn)為，算法需要一直被監(jiān)管，因?yàn)樗菙?shù)字時代的機(jī)器之心。

11月23日，北京大學(xué)中關(guān)新園科學(xué)報告廳內(nèi)。一場算法治理的主題論壇正在舉行。與會者包括政府官員，騰訊、美團(tuán)等公司的代表，以及國內(nèi)多家知名高校研究算法的專家。

這些觀點(diǎn)的激烈碰撞，很容易讓人們想起三天前的一次“炮轟”。11月20日，農(nóng)夫山泉董事長鐘睒睒公開指責(zé)平臺在算法流量管理方面的不作為，導(dǎo)致了他本人和他的企業(yè)受到了無端攻擊。

或許只是一個巧合。11月24日，一場針對網(wǎng)絡(luò)平臺算法典型問題的治理行動拉開了序幕，矛頭直指同質(zhì)化推送營造“信息繭房”、大數(shù)據(jù)“殺熟”、侵害新就業(yè)形態(tài)勞動者利益等現(xiàn)實(shí)問題。

這是清朗行動的一部分。此次整治可以說是自2021年9月《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》（下稱《指導(dǎo)意見》）發(fā)布之后，有關(guān)部門對平臺算法的第一次全方位綜合治理行動。

經(jīng)濟(jì)觀察報記者就治理行動涉及的企業(yè)自查自糾安排詢問抖音、快手、騰訊、京東、百度、阿里巴巴、拼多多、美團(tuán)、攜程、滴滴、小紅書等互聯(lián)網(wǎng)企業(yè)，截至發(fā)稿上述公司均未給予回應(yīng)。

不過根據(jù)行動安排，有關(guān)部門將在明年1月檢驗(yàn)企業(yè)自查情況，明年2月14日前完成專項(xiàng)行動實(shí)施成效總結(jié)，“全面評估《指導(dǎo)意見》印發(fā)以來的算法治理舉措及取得的積極成效，深入分析難點(diǎn)問題，制定今后一段時期的務(wù)實(shí)舉措”。

上述《指導(dǎo)意見》明確提出，利用三年左右時間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。

“清朗行動”這次不一樣

這并非清朗行動第一次指向平臺算法。

2021年，清朗行動提出了“算法濫用治理”，指導(dǎo)互聯(lián)網(wǎng)平臺優(yōu)化信息過濾、排名、推薦機(jī)制，要求開展算法安全技術(shù)檢查和技術(shù)評估。2022年的清朗行動，聚焦于督促重點(diǎn)互聯(lián)網(wǎng)企業(yè)平臺整改算法不合理應(yīng)用帶來的“信息繭房”“算法歧視”等問題。

2023年12月，清朗行動將重點(diǎn)放在了“整治短視頻信息內(nèi)容導(dǎo)向不良問題”，要求集中整治短視頻中的擺拍、技術(shù)生成等虛假信息，以及色情、低俗等博流量，煽動粉絲情緒，誤導(dǎo)消費(fèi)者等問題。

多位接受經(jīng)濟(jì)觀察報采訪的專家表示，“算法亂象”嚴(yán)重影響了用戶體驗(yàn)和社會信任，現(xiàn)在已經(jīng)到了社會需要反思算法危害的時刻。

這一次，《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項(xiàng)行動的通知》，由中央網(wǎng)絡(luò)安全和信息化委員會辦公室秘書局、工業(yè)和信息化部辦公廳、公安部辦公廳、國家市場監(jiān)督管理總局辦公廳聯(lián)合發(fā)布?！锻ㄖ访鞔_，此次專項(xiàng)行動重點(diǎn)整治同質(zhì)化推送營造“信息繭房”、違規(guī)操縱干預(yù)榜單炒作熱點(diǎn)、盲目追求利益侵害新就業(yè)形態(tài)勞動者權(quán)益、利用算法實(shí)施大數(shù)據(jù)“殺熟”、算法向上向善服務(wù)缺失侵害用戶合法權(quán)益等重點(diǎn)問題。

清華大學(xué)人工智能國際治理研究院戰(zhàn)略與宏觀研究項(xiàng)目主任劉典認(rèn)為，相較于過去的措施，這次的清朗行動治理目標(biāo)更加明確、更多部門參與、治理手段更多樣，這些變化表明，政府正在嘗試構(gòu)建一套更加系統(tǒng)、全面的算法治理體系，而非依賴于單一的短期行動。

普通中國人對算法的認(rèn)識是一個逐步深化的過程。2018年，“大數(shù)據(jù)殺熟”評為2018年度社會生活類十大流行語之一。2020年，一篇《外賣騎手，困在系統(tǒng)里》幾乎讓算法成為千夫所指，在這個過程中，對算法的治理也一步步納入監(jiān)管視線。

2021年9月，國家互聯(lián)網(wǎng)信息辦公室等9部門印發(fā)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，提出“利用三年左右時間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局”。2022年3月，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式實(shí)施?！兑?guī)定》明確，應(yīng)用算法推薦技術(shù)，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息，并明確了算法推薦服務(wù)向上向善的原則。

這與相關(guān)法律一起構(gòu)成了算法治理的頂層設(shè)計?；氐浆F(xiàn)實(shí)，和三年前相比，算法已經(jīng)深度嵌入了社會生活的方方面面。

北京大學(xué)數(shù)字治理研究中心主任邱澤奇，自2000年起關(guān)注算法治理，他告訴經(jīng)濟(jì)觀察報，公眾如今對各類算法應(yīng)用都有了自己的體驗(yàn)，已經(jīng)深刻意識到信息繭房、算法偏見、算法歧視等問題，對算法的認(rèn)知水平有了整體性提高。

談及此次專項(xiàng)行動，邱澤奇說：“這次列出的治理要點(diǎn)更清晰了，他們把哪一些算法會導(dǎo)致什么后果都點(diǎn)出來了”。

神秘的算法

算法只是一系列解決問題的計算方式，背后反映的是平臺目標(biāo)。算法工程師按照平臺的指令，敲下一行行代碼，組成了看不見、摸不著，卻又影響每個人的算法。

算法工程師隸屬的算法部門，往往是互聯(lián)網(wǎng)公司的核心技術(shù)部門?！吧俣笔沁@個部門最大的特點(diǎn)，一個算法團(tuán)隊(duì)的標(biāo)配是算法大?！厴I(yè)于國內(nèi)外頂級名校、手握多篇頂會論文、在業(yè)界與學(xué)界聲望顯著，帶領(lǐng)幾個同樣履歷耀眼的新人。

他們往往拿著全公司最高的收入，應(yīng)屆生起薪總包在40萬—50萬元，甚至更高，資深算法工程師年薪在數(shù)百萬元。算法工程師在大廠更容易出成績，因?yàn)閲?yán)重依賴數(shù)據(jù)和算力資源。

李璋就是一線大廠的一位算法工程師。他表示，算法并不像外界理解的那樣是徹底的“黑箱”，一般都會發(fā)表論文公開原理。

在多位算法工程師看來，真正的黑箱不在算法原理之中，而在數(shù)據(jù)與平臺機(jī)制設(shè)置之中。用戶量越大、數(shù)據(jù)越多、平臺機(jī)制向利益傾斜，便帶來了“算法亂象”。

李璋舉例，“信息繭房”“誘導(dǎo)沉迷”“操縱榜單”都與推薦算法關(guān)聯(lián)，最終能被看到的內(nèi)容或商品，都是由算法精心計算過的，最根本的是要讀懂用戶的心?！?/p>

“讀心”需要對用戶海量的個人數(shù)據(jù)、行為數(shù)據(jù)等進(jìn)行篩選，這些散落在網(wǎng)絡(luò)世界不同角落的痕跡，被收集到各個數(shù)據(jù)庫中，成為算法的最底層訓(xùn)練支撐。

比如將網(wǎng)購記錄、瀏覽記錄、在線下門店里的消費(fèi)記錄等個人數(shù)據(jù)，或者點(diǎn)贊、劃走等行為數(shù)據(jù)投喂給算法，就能得到“量身定制”的推薦內(nèi)容。

李璋這樣的算法工程師，最重要的工作是“調(diào)參”，每天面對成千上萬的參數(shù)，需要寫代碼讓算法自動去測試哪些更能激發(fā)用戶的點(diǎn)贊、轉(zhuǎn)發(fā)、完播等反饋。

從李璋接受的指令來看，算法最終指向提高用戶參與度，這是平臺賺錢的基礎(chǔ)，他的任務(wù)是驅(qū)使算法找到更能調(diào)動用戶活躍、維持平臺留存的方案。

視頻數(shù)據(jù)分析平臺百準(zhǔn)創(chuàng)始人潘越飛分享了一個案例。

10年前，他帶領(lǐng)算法團(tuán)隊(duì)做過一個類似今日頭條的內(nèi)容推薦平臺，花了3年時間，把用戶量從0做到了千萬級。當(dāng)時，他們的算法將用戶日均使用時長做到32分鐘，一度只比今日頭條差3分鐘，這個項(xiàng)目最終被字節(jié)跳動收購。

他說：“算法的效率讓人驚喜，一個算法工程師能做到幾百個編輯完成不了的工作?！痹谝淮蜛B測試?yán)?，他把頂級編輯選擇的內(nèi)容與算法推薦的內(nèi)容同時推送給用戶進(jìn)行對比，結(jié)果算法推薦的內(nèi)容在點(diǎn)擊率、活躍時長和停留時長上均超人工推薦3倍。

潘越飛為算法設(shè)置了點(diǎn)贊率、互動率、停留率、分享率等指標(biāo)要求，這與互聯(lián)網(wǎng)上大多APP的根本目的相似，都是為了讓更多人互動，增加消耗時間，帶來更多廣告位與商業(yè)價值。

潘越飛和工程師研發(fā)了上百個不同導(dǎo)向、不同訓(xùn)練目標(biāo)、不同干預(yù)規(guī)則的算法模型，最后被大規(guī)模使用、被字節(jié)跳動購買的是那個符合平臺商業(yè)價值效率的模型。該模型的用戶活躍度最高，廣告流量價值更大。

失控時刻

算法由工程師創(chuàng)造，但算法也會失控。

幾年前，潘越飛已經(jīng)隱隱感覺到“自己控制不住算法了”。他說，算法推薦的內(nèi)容質(zhì)量并不令他滿意，尤其是一個合作伙伴當(dāng)著他的面打開平臺，體育欄目推薦的頭條是某個足球明星女友的裸露寫真，這讓他覺得很丟臉。

潘越飛曾為一條“蟒蛇吞噬了房子”的假新聞頭疼了十幾天。那是一張合成照片，打開正文就知道是假新聞，這條在他看來“無聊”的內(nèi)容一下沖到平臺熱搜榜第一名。他換了各種維度調(diào)試算法，但這張圖片永遠(yuǎn)是第一名。最終沒有辦法，他只能手動刪掉了圖片。

他解釋，用戶沒見過蟒蛇吞噬房子的事件，所以打開率很高。圖片內(nèi)容很短，所以完讀率很高。用戶看完后覺得被騙了，于是在評論區(qū)開罵，帶來高互動率。互動完用戶覺得這個平臺太垃圾了，向身邊朋友吐槽，于是這條新聞分享率也很高。

打開率、完讀率、互動率、分享率都是算法評價內(nèi)容是否值得推薦的權(quán)重，重重加持下，這條假新聞被推薦的次數(shù)越來越多?！八惴ㄓ袛?shù)學(xué)邏輯，但它沒有心，沒有人類的共識，沒有情緒和價值觀?！迸嗽斤w說，算法只是兢兢業(yè)業(yè)地完成它的工作，它的量化指標(biāo)只有數(shù)據(jù)。

他曾耗費(fèi)極大精力和算法對抗，試圖讓算法減少推薦類似內(nèi)容，但結(jié)論是，做不到。他并不想刻意調(diào)動用戶的憤怒情緒，甚至無法準(zhǔn)確得知哪批內(nèi)容會被推送給哪群人，但算法就是會自然而然朝著那個他不希望的方向去走。

他試過精選內(nèi)容，或增加權(quán)威媒體內(nèi)容的權(quán)重，以保證平臺內(nèi)容質(zhì)量的提升。但結(jié)果是，整個平臺的用戶時長大幅度下降了。這就違背了公司運(yùn)營商業(yè)平臺的初衷，于是只好再往回調(diào)，減少與算法的對抗。

算法工程師的背面則是依賴平臺賺錢、生存的人。

馮彬是一個影視博主，全網(wǎng)粉絲超過100萬，他經(jīng)歷過算法帶來的“爆火時刻”，他發(fā)布的作品在1小時內(nèi)沖上抖音、百度、B站熱榜。在流量的爆發(fā)時刻，馮彬的后臺消息全是999+，視頻被彈幕刷屏，各種電話在幾周內(nèi)密集涌來。

但馮彬依舊不敢說自己摸到了流量的門道。對他來說，平臺就像有一只看不見的大手，掌握著生殺大權(quán)。

唯一一條實(shí)踐的經(jīng)驗(yàn)是，他在短視頻平臺測試出，獵奇類的片子容易漲流量，比如志怪傳說、神鬼內(nèi)容，有時候打上一個聊齋的標(biāo)簽，即便內(nèi)容和聊齋一點(diǎn)關(guān)系都沒有，也可能會火。盡管很多同行這么做博取流量，馮彬并不認(rèn)同這種行為。

多位算法工程師表示，在公司內(nèi)部，算法并不是沒有價值觀，也有一些原則，比如說違法亂紀(jì)的內(nèi)容肯定不能推薦，用戶問如何去殺人，如何做炸彈等話題，必然不會得到答案，這由合規(guī)、安全和算法團(tuán)隊(duì)配合進(jìn)行處理。

但在一些灰色地帶，比如說獵奇的電影、恐怖電影，像電鋸驚魂，對一部分用戶也有價值，一些平臺認(rèn)為不應(yīng)該干涉太多?！跋襁@類灰色地帶的事情，人類都無法做出評判的事情，那算法就更不可能做到?！币晃凰惴üこ處煴硎尽?/p>

在邱澤奇看來，算法自己不會作惡，問題出在數(shù)據(jù)和算法之間的匹配性上。他解釋，算法使用的數(shù)據(jù)始終是有偏的。當(dāng)算法應(yīng)用數(shù)據(jù)時，便會復(fù)刻現(xiàn)實(shí)社會的結(jié)構(gòu)，甚至放大現(xiàn)實(shí)社會的問題。

善惡一念

邱澤奇曾與微信創(chuàng)始人張小龍長談，提及微信的廣告植入克制一事，加深了他對算法帶來社會后果機(jī)制的認(rèn)識。

同一時間，邱澤奇也與網(wǎng)約車平臺有接觸。當(dāng)時正好遇到網(wǎng)約車乘客死亡事件，他提了一個建議，設(shè)置一鍵報警系統(tǒng)。后來他發(fā)現(xiàn)，網(wǎng)約車平臺的改進(jìn)比他想象的好很多了，增加了如錄音、一鍵報警、緊急聯(lián)系人等功能，做得越來越完善。

這讓邱澤奇感覺到，如果掌握技術(shù)的人能夠把社會的良心和社會共識的訴求植入到產(chǎn)品中，便是數(shù)字技術(shù)的向善，也是算法為人。至少，他可以做得相對克制一點(diǎn)，讓大家感受更好一點(diǎn)。

他強(qiáng)調(diào)：“一家得到社會廣泛認(rèn)可的技術(shù)公司，通常會選擇在讓大多數(shù)人獲益的同時，從大多數(shù)人那里獲益，而不是簡單地竭澤而漁。”

西南大學(xué)國家治理學(xué)院講師畢文芬曾在重慶、貴州、云南地區(qū)調(diào)研從事電商直播的農(nóng)村婦女。她告訴經(jīng)濟(jì)觀察報，許多人都提到“電商直播難做了”。

在2020年左右，一些文化水平較低的農(nóng)村婦女，在直播電商平臺帶貨還能賺到錢，當(dāng)時經(jīng)過一些基礎(chǔ)的培訓(xùn)，學(xué)會掛小黃車、上鏈接等，就能在直播上吸引到賣家。

有人靠著帶貨在縣城買了170平方米的大平層，有人把蘭花、銀飾等當(dāng)?shù)靥厣a(chǎn)品銷往全國，也有人會從中獲得一些打賞，改善生活，從田間走到直播間。

但是這兩年來，平臺越來越向粉絲量大、懂得投流、會運(yùn)營的人傾斜。直播間里要有“氣氛擔(dān)當(dāng)”宣傳造勢、要有話術(shù)刺激觀看者下單、要表演才藝、要建立矩陣賬號吸引流量……

這些沒有團(tuán)隊(duì)支持的農(nóng)村婦女沒有錢投流，也不懂運(yùn)營，只會講解產(chǎn)品，有時連被平臺罰款、封號都不知道，也沒有渠道申訴，要回賬號。

畢文芬觀察到，限流和罰款給這些農(nóng)村婦女主播帶來了經(jīng)濟(jì)和心理的沖擊，很多人會覺得是自己播的時間不夠長、不夠努力，而不會認(rèn)識到平臺規(guī)則變了，要么延長直播時間，要么回到務(wù)農(nóng)工作里。

畢文芬認(rèn)為，平臺前期也曾為當(dāng)?shù)嘏蕴峁┝诵碌陌l(fā)展機(jī)遇，但當(dāng)平臺的導(dǎo)向改變，驅(qū)使算法盲目追求利益，實(shí)際也侵害這些弱勢群體的勞動者權(quán)益。

如何建立長效機(jī)制

根據(jù)上述《通知》，此次專項(xiàng)綜合治理分為三個階段，即企業(yè)自查自糾、屬地核驗(yàn)企業(yè)自查情況以及治理成效評估總結(jié)。有關(guān)部門將在明年1月檢驗(yàn)企業(yè)自查情況，明年2月14日前完成專項(xiàng)行動實(shí)施成效總結(jié)，“全面評估《指導(dǎo)意見》印發(fā)以來的算法治理舉措及取得的積極成效，深入分析難點(diǎn)問題，制定今后一段時期的務(wù)實(shí)舉措”。

經(jīng)濟(jì)觀察報記者就《通知》中提及的企業(yè)自查自糾安排詢問抖音、快手、騰訊、京東、百度、阿里巴巴、拼多多、美團(tuán)、攜程、滴滴、小紅書等互聯(lián)網(wǎng)企業(yè)，截至發(fā)稿日上述公司均未給予回應(yīng)。

此次清朗行動涉及算法問題較多是內(nèi)容平臺，邱澤奇認(rèn)為這與平臺的成熟度有關(guān)，百度、阿里巴巴、騰訊、滴滴、美團(tuán)都曾經(jīng)歷過輿論的風(fēng)暴口，內(nèi)容平臺還沒有經(jīng)歷過輿論的風(fēng)暴口，這次是這類平臺歷史上的第一次。

他表示，比如關(guān)于虛假信息的問題，以鐘睒睒事件為例，內(nèi)容平臺是可以有作為空間的，比如對事實(shí)類內(nèi)容，如果未經(jīng)核實(shí)，可以讓算法在內(nèi)容里打上平臺提示，如：此內(nèi)容未經(jīng)核實(shí)，請注意辨別。對于未經(jīng)核實(shí)的事實(shí)類內(nèi)容，平臺有提示的責(zé)任和義務(wù)。

工信部信息通信經(jīng)濟(jì)專家委員會委員劉興亮熟悉多個互聯(lián)網(wǎng)大公司。他認(rèn)為，對監(jiān)管部門的要求，大公司并不會反對，他們也意識到這是個問題，應(yīng)該得到治理。否則，如果讓算法長久跑偏，最后受害的是整個行業(yè)。

劉興亮認(rèn)為，算法問題依舊在互聯(lián)網(wǎng)平臺泛濫，其根本原因在于，算法具有很強(qiáng)的隱蔽性，很難界定某些后果是由算法直接導(dǎo)致的，它不像其他色情或暴力等問題，有明確先例可循。對這次監(jiān)管部門的治理，他抱著樂觀期待的態(tài)度，但同時認(rèn)為，一次治理并不能真正解決問題，他相信還會有下一次、下下次專項(xiàng)治理的清朗行動。

事實(shí)上，本次清朗行動，也特別提到對算法治理“建立長效機(jī)制”，要求常態(tài)化開展算法服務(wù)安全風(fēng)險監(jiān)測防范工作，及時發(fā)現(xiàn)網(wǎng)站平臺違規(guī)問題線索，并綜合運(yùn)用督促整改、現(xiàn)場檢查、處置處罰等措施，提升算法常態(tài)化治理水平。

監(jiān)管要求與平臺需求天生會有矛盾。有專家將其形容為“瓷器屋里捉老鼠”，無論監(jiān)管部門或是平臺自身，都會有投鼠忌器的顧慮。消除算法偏見與平臺商業(yè)利益之間也存在天然的矛盾。

劉典認(rèn)為，算法治理是個慢慢來的過程，需要一步步完善。對算法進(jìn)行監(jiān)管確實(shí)會給平臺帶來一些成本，比如技術(shù)升級和合規(guī)成本。但從長遠(yuǎn)來看，這有利于營造健康的網(wǎng)絡(luò)環(huán)境，促進(jìn)平臺的可持續(xù)發(fā)展。具體來說，應(yīng)要求平臺加強(qiáng)內(nèi)容審核，確保算法推薦的健康性和多樣性；公開算法的基本原理和主要運(yùn)行機(jī)制，提高透明度；建立用戶反饋機(jī)制，及時調(diào)整優(yōu)化算法；避免過度采集個人數(shù)據(jù)，保護(hù)用戶隱私。“治理是有代價的，代價也會由關(guān)聯(lián)平臺來承擔(dān)。”邱澤奇說，平臺治理已經(jīng)到了治理質(zhì)量再上臺階的階段。如果平臺能主動看到問題并解決問題，平臺的發(fā)展也會再上臺階。

（應(yīng)受訪者要求，李璋為化名）

?