監(jiān)管部門主動(dòng)作為,全社會(huì)共同發(fā)力,推進(jìn)綜合治理
有效規(guī)范算法應(yīng)用 營造清朗網(wǎng)絡(luò)空間(法治頭條·法治護(hù)航網(wǎng)絡(luò)文明建設(shè)③)

隨著網(wǎng)絡(luò)技術(shù)快速發(fā)展,算法應(yīng)用日漸廣泛。與此同時(shí),有的互聯(lián)網(wǎng)服務(wù)平臺(tái)濫用算法,可能造成的“信息繭房”“大數(shù)據(jù)殺熟”“誘導(dǎo)沉迷”等問題也日益受到社會(huì)關(guān)注。
不久前,《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式施行;4月8日起,中央網(wǎng)信辦牽頭開展“清朗·2022年算法綜合治理”專項(xiàng)行動(dòng)……過去一個(gè)時(shí)期,監(jiān)管部門主動(dòng)作為,全社會(huì)共同發(fā)力,算法亂象得到有效整治,算法應(yīng)用日益朝著向上向善的軌道發(fā)展。
算法濫用,對(duì)公眾產(chǎn)生不利影響
李明(化名)下載了一個(gè)以“知識(shí)分享”為主題的APP。打開后,一篇標(biāo)記著“您可能感興趣”的文章被推送至界面。
“這不恰好是我最關(guān)注的話題嗎?”李明點(diǎn)進(jìn)去一看,文章的觀點(diǎn)“恰好”與自己的十分一致,讓李明感覺“有理有據(jù),令人信服”。李明看完一篇,系統(tǒng)又推薦了另一篇他感興趣的文章。不知不覺,李明竟在該APP上一連“刷”了幾個(gè)小時(shí)。
“這就是算法推薦的作用!蹦彻拒浖こ處燑S淑介紹,平臺(tái)會(huì)抓取用戶觀看某話題總體評(píng)價(jià)的停留時(shí)間、留言時(shí)是正面還是負(fù)面傾向、“點(diǎn)贊”還是“反對(duì)”等信息來判定用戶的內(nèi)容偏好。此后,平臺(tái)還會(huì)利用算法依據(jù)“內(nèi)容相似度”和“用戶相似度”,把你最可能感興趣的內(nèi)容推薦給你。
那么算法推薦的大規(guī)模使用,是否會(huì)對(duì)公眾產(chǎn)生不利影響?
“算法推薦的個(gè)性化分發(fā)技術(shù),較多地依賴總體熱度、個(gè)體興趣等數(shù)據(jù)。”復(fù)旦大學(xué)新聞學(xué)院副院長、教授周葆華介紹,目前對(duì)算法推薦的擔(dān)憂主要在于:一方面平臺(tái)追求更大傳播熱度,形成對(duì)內(nèi)容價(jià)值觀的忽視,如推薦低俗內(nèi)容;另一方面基于對(duì)個(gè)性化興趣和朋友關(guān)系的計(jì)算,信息推送與觀點(diǎn)供給可能形成“回音室”效應(yīng),從而讓用戶深陷“信息繭房”中。
胡女士通過某APP向某酒店預(yù)訂一個(gè)房間,支付價(jià)格近3000元?扇胱『蟛虐l(fā)現(xiàn),該房型的實(shí)際掛牌價(jià)僅1000多元。作為該平臺(tái)“鉆石貴賓客戶”,胡女士非但沒有享受到會(huì)員優(yōu)惠,還支付了高于實(shí)際產(chǎn)品價(jià)格的費(fèi)用。胡女士認(rèn)為自己遭遇了“大數(shù)據(jù)殺熟”。她懷疑平臺(tái)利用算法進(jìn)行用戶“畫像”,根據(jù)自己對(duì)價(jià)格不敏感、不索要發(fā)票等消費(fèi)習(xí)慣,抬高價(jià)格,欺詐銷售,遂將該平臺(tái)公司訴至法院。
據(jù)介紹,利用算法進(jìn)行“大數(shù)據(jù)殺熟”的情形現(xiàn)實(shí)中不少見。例如購買同一班飛機(jī)票,自己花了上千元,別人同時(shí)購買卻只花了幾百元,這可能只是因?yàn)槟阋呀?jīng)是平臺(tái)“熟客”,不再需要低價(jià)吸引等。
此外,算法推薦還存在諸多其他問題。一些外賣等服務(wù)平臺(tái)采用調(diào)度決策類算法進(jìn)行工作調(diào)度時(shí),過度追求工作效率和強(qiáng)度,按照最短可能用時(shí)設(shè)置配送員的配送時(shí)限,讓“外賣小哥”為了按時(shí)送達(dá)而不得不超速、逆行等;有些平臺(tái)還存在偏見歧視問題,將違法和不良信息關(guān)鍵詞記入用戶興趣點(diǎn);某些應(yīng)用程序設(shè)置算法未經(jīng)允許抓取用戶個(gè)人信息……
“有效治理算法亂象,是構(gòu)建安全清朗的網(wǎng)絡(luò)生態(tài)的必然要求。”中國政法大學(xué)副教授鄭玉雙表示,要健全算法的法律規(guī)制模式,破解算法的法律規(guī)制難題,實(shí)現(xiàn)算法善治。
建章立制,為算法立規(guī)矩樹導(dǎo)向
不久前,胡女士“大數(shù)據(jù)殺熟”一案終審判決。兩審法院均認(rèn)為,平臺(tái)公司未依法告知關(guān)系訂單交易的真實(shí)信息,怠于對(duì)平臺(tái)內(nèi)經(jīng)營者進(jìn)行有效監(jiān)管,構(gòu)成欺詐,遂判定該平臺(tái)公司退還胡女士訂房差價(jià)并支付賠償金。但是,法院并未對(duì)平臺(tái)公司是否構(gòu)成“大數(shù)據(jù)殺熟”予以認(rèn)定。
“利用算法針對(duì)不同消費(fèi)者設(shè)置不同價(jià)格的行為是否違法,有時(shí)難以判斷!敝袊▽W(xué)會(huì)法治研究所研究員劉金瑞認(rèn)為,出現(xiàn)這種現(xiàn)象,主要是因?yàn)榇饲胺煞ㄒ?guī)對(duì)于算法亂象的規(guī)制比較零散,有的規(guī)定針對(duì)性不強(qiáng)。
社會(huì)有期待,立法機(jī)關(guān)及時(shí)作出回應(yīng)。
個(gè)人信息是實(shí)現(xiàn)算法推薦的基礎(chǔ)。2021年11月1日,個(gè)人信息保護(hù)法實(shí)施。其中“大數(shù)據(jù)殺熟”等問題一時(shí)成為人們關(guān)注的熱點(diǎn)。個(gè)人信息保護(hù)法明確規(guī)定:個(gè)人信息處理者利用個(gè)人信息進(jìn)行自動(dòng)化決策,應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正,不得對(duì)個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇。
“個(gè)人信息保護(hù)法等法律實(shí)現(xiàn)了對(duì)‘大數(shù)據(jù)殺熟’等算法濫用現(xiàn)象的限制,但目前各類算法亂象仍需一部專門、完整、系統(tǒng)的法規(guī)來進(jìn)行全面規(guī)制!敝袊鴤髅酱髮W(xué)文化產(chǎn)業(yè)管理學(xué)院教授劉文杰說,從全過程完善算法推薦的有關(guān)規(guī)范,是從根本上加強(qiáng)算法規(guī)制的客觀要求。
今年3月1日,由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場(chǎng)監(jiān)督管理總局聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(以下簡(jiǎn)稱《規(guī)定》)施行。這是第一部從全過程完整規(guī)范算法推薦的部門規(guī)章。其中明確了算法知情權(quán)、算法選擇權(quán)等對(duì)算法推薦服務(wù)提供者的用戶權(quán)益保護(hù)要求,對(duì)社會(huì)關(guān)注的“大數(shù)據(jù)殺熟”“引誘沉迷”“引導(dǎo)輿論”“特殊群體保護(hù)”等熱點(diǎn)問題,都做出了針對(duì)性規(guī)范。
“《規(guī)定》是第一部系統(tǒng)、全面以算法為調(diào)整對(duì)象的規(guī)范性法律文件。從體系性、規(guī)制工具箱的豐富性、調(diào)整算法的多樣性、對(duì)用戶權(quán)益保護(hù)的周全性等多個(gè)層面來說,《規(guī)定》都具有開創(chuàng)性意義!敝袊ù髮W(xué)教授張凌寒表示。
“《規(guī)定》與個(gè)人信息保護(hù)法、電子商務(wù)法、數(shù)據(jù)安全法等法律相銜接,再配合近年來頒布的關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南、在線旅游經(jīng)營服務(wù)管理暫行規(guī)定等規(guī)范性文件,規(guī)制算法亂象有了較為完備的制度體系!敝袊畔⑼ㄐ叛芯吭夯ヂ(lián)網(wǎng)法律研究中心高級(jí)研究員楊婕說。
多元共治,引導(dǎo)算法向上向善
算法廣泛而深入地應(yīng)用于互聯(lián)網(wǎng),因此,算法治理絕不是憑一家之力就能實(shí)現(xiàn)的,必須全社會(huì)攜手,建立多元共治的局面。
監(jiān)管部門及時(shí)有效的政策舉措,是規(guī)制算法亂象的有力武器。2022年3月1日起,互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)正式上線運(yùn)行。根據(jù)相關(guān)要求,具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起10個(gè)工作日內(nèi)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評(píng)估報(bào)告等信息。
4月8日起,中央網(wǎng)信辦牽頭開展“清朗·2022年算法綜合治理”專項(xiàng)行動(dòng),深入排查整改互聯(lián)網(wǎng)企業(yè)平臺(tái)算法安全問題,重點(diǎn)檢查具有較強(qiáng)輿論屬性或社會(huì)動(dòng)員能力的大型網(wǎng)站、平臺(tái)及產(chǎn)品等。
在算法治理過程中,司法發(fā)揮著引導(dǎo)行為、明確底線、穩(wěn)定預(yù)期的重要作用。
前不久,一影視公司發(fā)現(xiàn)某視頻平臺(tái)在無授權(quán)的情況下,播放其享有完整著作權(quán)的電影,認(rèn)為該平臺(tái)構(gòu)成侵權(quán),遂將其訴至法院。該視頻平臺(tái)公司辯稱,電影是平臺(tái)用戶自行上傳的,其推薦行為系平臺(tái)自帶的算法推薦所致,并沒有侵權(quán)的意圖。
法院經(jīng)審理認(rèn)為,該視頻平臺(tái)公司的上述算法推薦行為,實(shí)際上是向用戶提供了信息流推薦服務(wù),存在提高侵權(quán)傳播效率、擴(kuò)大侵權(quán)傳播范圍的風(fēng)險(xiǎn),同時(shí)也為其自身獲得了更多的流量等利益,其理應(yīng)對(duì)用戶的侵權(quán)行為負(fù)有更高的注意義務(wù)。
“近年來,數(shù)起涉及算法推薦的司法案件引起社會(huì)關(guān)注,相關(guān)判決起到了為算法應(yīng)用立規(guī)矩、樹導(dǎo)向的作用。”西南政法大學(xué)副教授易健雄說。
此外,平臺(tái)企業(yè)的行業(yè)自律也必不可少。
2021年10月22日,深圳市APP個(gè)人信息共護(hù)大會(huì)舉行。20余家重點(diǎn)APP運(yùn)營企業(yè)簽署《深圳市APP個(gè)人信息保護(hù)自律承諾書》,承諾將保護(hù)用戶公平交易權(quán),不利用大數(shù)據(jù)“殺熟”;未經(jīng)用戶單獨(dú)同意,不利用敏感個(gè)人信息進(jìn)行線上精準(zhǔn)營銷和線下推銷等。此前,國內(nèi)10家互聯(lián)網(wǎng)平臺(tái)企業(yè)也簽署承諾書,承諾不非法收集、使用消費(fèi)者個(gè)人信息,不利用數(shù)據(jù)優(yōu)勢(shì)“殺熟”。
此外,越來越多的網(wǎng)絡(luò)平臺(tái)也在積極主動(dòng)地對(duì)算法“激濁揚(yáng)清”。例如,某信息聚合平臺(tái)日前介紹,其為了幫助用戶避免越推越窄的“繭房效應(yīng)”,不斷優(yōu)化推薦機(jī)制、提高內(nèi)容推薦的多樣性,擴(kuò)大信息覆蓋面;某外賣平臺(tái)也優(yōu)化派單算法,充分考慮配送員實(shí)際工作環(huán)境,避免其承受過重工作負(fù)擔(dān),維護(hù)勞動(dòng)者合法權(quán)益。
建章立制,強(qiáng)化監(jiān)管,鼓勵(lì)自律……運(yùn)用法治方法規(guī)范算法應(yīng)用,引導(dǎo)算法向上向善,才能最大化促進(jìn)社會(huì)公共利益,共同營造清朗安全的網(wǎng)絡(luò)空間。
《 人民日?qǐng)?bào) 》( 2022年06月09日 19 版)
分享讓更多人看到
熱門排行
- 1廣東陽江一黑社會(huì)性質(zhì)組織9名成員被判刑
- 2“鯤龍”展翅 AG600滅火機(jī)首飛成功
- 3陜西法院?jiǎn)?dòng)“三秦颶風(fēng)”專項(xiàng)執(zhí)行行動(dòng)
- 4合力營造未成年人網(wǎng)絡(luò)保護(hù)環(huán)境(法治頭…
- 5北京出臺(tái)穩(wěn)定經(jīng)濟(jì)增長多項(xiàng)措施(抓細(xì)抓…
- 6如常的上海,正在歸來
- 7飛槳逐浪 龍騰虎躍
- 8致敬科學(xué)家 種下科學(xué)夢(mèng)
- 9地震發(fā)生那一刻,他們飛奔沖向?qū)W校
- 10以“民族資產(chǎn)解凍”為名騙取上萬人錢財(cái)