演算法治理:讓智能技術向善而行特稿

演算法治理:讓智能技術向善而行

發布日期:2025-03-03 萃芝

數字化浪潮席捲全球的今天,演算法作為智能時代的核心技術,已然深度嵌入社會運行的諸多領域,成為推動經濟社會發展的重要力量。然而,隨着演算法應用的日益廣泛,其帶來的問題也日益凸顯。信息繭房、大數據殺熟、演算法歧視等現象頻發,不僅損害了用戶的合法權益,也阻礙了社會的健康發展。

為進一步深化互聯網信息服務演算法綜合治理,中央網絡安全和信息化委員會會同工業和信息化部辦公廳、公安部辦公廳、國家市場監督管理總局辦公廳近日聯合印發通知,部署開展「清朗·網絡平台演算法典型問題治理」專項行動。

這一次圍繞演算法展開大規模檢查,力度之大前所未有。確保演算法技術的發展能夠真正符合人民的利益和社會的需求,成為了這一次演算法檢查的主要目標。如何不讓「演算法」變「算計」,通過演算法治理推動技術向善,為社會帶來更多的正能量和價值,將是各家互聯網巨頭亟待回答的命題。

演算法社會的得與失

在數字化時代,演算法已經成為互聯網服務的核心技術之一。簡單來說,演算法就是一種計算方法,通過一系列步驟或電腦指令來解決問題。隨着人工智能和大數據技術的發展,演算法不再是一成不變的,而是在不斷被投喂數據的過程中持續進化。互聯網公司利用演算法可以提供多種服務,如個性化內容推薦、精準廣告投放、智能搜索、計算調度等。

字節跳動是演算法應用的典型成功案例。字節跳動的核心產品今日頭條和抖音,通過演算法實現了個性化內容推薦,迅速吸引了大量用戶,也在很大程度上改變了移動互聯網信息流動的機制和邏輯。今日頭條和抖音的演算法能夠根據使用者的流覽歷史、點贊、評論等行為數據,精準地推薦使用者感興趣的內容,從而提高了使用者的參與度和留存率。此外,字節跳動還利用演算法在遊戲、搜索等領域進行了探索和創新。例如,字節跳動嘗試在數據與演算法的支持下訓練人工智能理解用戶的遊戲行為,並自動製造遊戲,最終期待以人工智能取代部分遊戲開發人員。這種演算法驅動的創新模式,幫助字節跳動在短短幾年內,突破了阿里、騰訊和百度等傳統互聯網巨頭的包圍,快速成長為全球互聯網巨頭。

然而,演算法的應用也引發了一系列社會問題。2020年,一篇題為《外賣騎手,困在系統裡》的新聞報道引發了公眾的廣泛關注。報道指出,美團的演算法系統對外賣騎手的工作時間和路線進行了嚴格的規劃和控制,導致騎手們在高強度的工作壓力下,不得不違反交通規則,甚至面臨生命危險。

在內容平台中,今日頭條和抖音由於是通過檢測用戶行為和偏好來進行內容推送的,很容易高頻度推送同質化的信息,造成使用者「迷失」在平台所編織的信息繭房內,無法瞭解更加多元的信息和環境。

從近幾年互聯網生態的實踐來看,演算法的廣泛應用也帶來了一系列社會問題,「信息繭房」、大數據「殺熟」、侵害新就業形態勞動者權益等問題不斷湧現,不僅影響了用戶的體驗,也對社會的公平和正義構成了挑戰。

因此,演算法治理成為了一個亟待解決的問題,這也成為了中央網信辦等政府機構進入演算法治理的切口。

互聯網巨頭的演算法革命

在「清朗·網絡平台演算法典型問題治理」專項行動的推動下,美團、抖音、微博等互聯網平台紛紛發布了整改公告,提出了一系列具體的措施。美團宣布將採取八項舉措推進演算法導向正確,包括設立演算法公示專區,持續與各界溝通演算法的基本原理和運行機制,增加演算法的透明度,推動演算法更加公正、更加人性化。抖音則明確要將演算法公開化,重點包括謠言治理和信息繭房等問題。微博也表示將加強演算法治理,提升內容推薦的多樣性和透明度。結合幾家平台各自的特點,可以發現互聯網巨頭們都在針對自身的演算法「痛點」進行着整改。

美團的整改措施中,最受關注的一項無疑是在2025年底前逐步取消騎手超時扣款,推動從負向處罰向正向激勵的轉變。外賣小哥為了避免超時冒險闖紅燈、超速逆行等,已經成為城市交通治理的頑疾,這一措施明顯回應了美團被廣泛批評的「演算法操縱騎手」導致騎手風險的問題。此外,美團還在部分城市試點優化疲勞管理機制,避免騎手因為演算法的調度超時配送,引發過度疲勞的問題。這些措施旨在保護騎手的權益,一定程度上回應了社會對於新就業群體權益保障的呼聲。

抖音的措施則包括優化推薦演算法,減少同質化內容的推送,防止「信息繭房」效應。當前抖音已經成為絕大多數互聯網使用者獲取信息和內容最主要的管道,抖音演算法高度同質化的偏好推薦,則很容易讓使用者陷入信息同質化和沉迷的問題中。優化推薦演算法這一舉措的提出,代表着抖音在這一問題上積極的努力。同時,抖音還加強了對謠言和網絡暴力的治理,推出了「一鍵防網暴」智能遮罩功能,並擴大與權威法律援助機構的合作,為用戶提供法律諮詢和心理疏導服務。

微博的措施則側重於提升內容推薦的多樣性和透明度,鼓勵優質內容創作,減少同質化內容的推送。微博還加強了對熱搜榜單的管理,提升榜單的透明度和可解釋性,防止操縱榜單和炒作熱點的行為。因為微博熱搜在輿論層面具有巨大的影響力,這一舉措也被廣泛視作微博對於「買熱搜」進而操縱輿論等廣受詬病的問題的積極回應。

概括而言,這些整改措施雖然在一定程度上緩解了演算法帶來的社會問題,並且具有較強的針對性,但大多是外部壓力驅動的結果。互聯網公司內部仍然缺乏進一步自我革命的動力。例如,美團的騎手疲勞管理機制雖然在試點,但具體細則尚未完善,且騎手的收入問題仍然存在。抖音和微博雖然在演算法公開和內容治理方面取得了進展,但在演算法的透明度和使用者權益保護方面仍有提升空間。互聯網巨頭的演算法革命在外部監管和社會輿論的壓力下取得了初步成效,但要實現真正的自我革命,還需要公司內部的主動作為和持續努力。能否在企業文化中建立起演算法向善和演算法為人的意識,決定了抖音、微博、騰訊和美團這樣的互聯網巨頭,未來如何與演算法共舞。

技術為人服務,演算法向善發展

隨着科技的飛速發展,演算法的出現正在深刻改寫社會運行的邏輯。從信息推薦到商業決策,從交通管理到醫療健康,演算法的應用無處不在。演算法的本質是數學邏輯,這驅動着基於數據和演算法的「量化社會」正在悄然到來。在這個「量化社會」中,每一個決策都基於大量的數據分析和複雜的演算法模型,旨在提高效率、優化資源配置、提升使用者體驗。例如,智能交通系統通過演算法優化交通流量,減少擁堵;線上教育平台利用演算法為學生提供個性化的學習路徑,提高學習效果。演算法的應用不僅改變了我們的生活方式,也重塑了社會的運行模式。然而,這種「量化社會」也帶來了一系列新的挑戰和問題,需要我們在技術進步的同時,更加關注其對社會和個體的影響。

演算法計算的「量化社會」可能是高效的,但不一定是幸福的。雖然演算法能夠通過數據分析和優化決策,提高社會的運行效率,但這種效率的提升並不一定能夠轉化為每個社會主體的幸福感。外賣騎手在演算法的驅動下,雖然能夠更高效地完成訂單,但同時也面臨着高強度的工作壓力和勞動權益的侵害。用戶在享受個性化推薦帶來的便利時,也可能陷入「信息繭房」,失去接觸多元信息的機會。因此,如何在技術進步中提升每個社會主體的幸福感,逐漸演變成為互聯網平台需要考慮的重要問題。

技術的本質是為人服務的,演算法作為技術的重要組成部分,其治理終究解決的是如何在技術驅動下獲得更好的生活這一命題。演算法治理的核心在於確保演算法的應用能夠真正符合社會的利益和用戶的需求,而不是單純追求效率和利潤。這需要互聯網平台在演算法設計和應用過程中,充分考慮社會倫理、用戶權益和公共利益。通過演算法公開和透明化,讓使用者瞭解演算法的運行機制;通過多元化的演算法設計,避免「信息繭房」和大數據「殺熟」等問題;通過合理的勞動管理機制,保護新就業形態勞動者的權益。只有這樣,演算法技術才能真正實現向善發展,為社會帶來更多的正能量和價值,推動技術為人服務,實現技術與社會的和諧共生。

在當今數字化浪潮中,演算法無疑已成為推動社會前行的關鍵力量,它如同一把雙刃劍,既帶來前所未有的便利與高效,又潛藏着諸多隱憂與挑戰。但我們需要銘記的是,技術的飛速發展不應讓我們迷失方向,演算法的終極價值歸根結底在於服務人類,提升生活的品質與幸福感。它所提供的解法,無論是多麼精妙絕倫,都必須以人的存在為出發點和落腳點,以人的感受、需求和權益為衡量尺規。只有當演算法在運行過程中充分尊重人的主體性,保障人的自由與尊嚴,促進人的全面發展,才能稱之為真正有益的解法。否則,再高明的演算法也只是空中樓閣,無法觸及生活的本質,更無法引領社會走向更加美好的未來。

演算法作為智能時代的核心技術,雖然為提升社會效率、促進互聯網產業發展提供了強大推力,但也帶來了信息繭房、大數據殺熟、演算法歧視等問題。「清朗.網絡平台演算法典型問題治理」專項行動旨在整治演算法應用中的重點問題,並作為外部力量推動美團、抖音、微博等互聯網平台進行了有針對性的整改。這些措施雖有成效,但仍舊是外部壓力驅動,內部自我革命動力不足。演算法的本質是為人服務,其治理應確保符合社會利益和用戶需求,促進技術與社會的和諧共生。