隨著平臺經(jīng)濟快速發(fā)展,網(wǎng)絡購物、交通出行、旅游住宿、訂餐外賣、網(wǎng)絡游戲等網(wǎng)絡平臺逐步興起,這些網(wǎng)絡平臺通過大數(shù)據(jù)、人工智能等手段為消費者提供了更豐富的產(chǎn)品或服務,與此同時,一些侵害消費者權益的行為如影隨形。

“大數(shù)據(jù)殺熟”,也只是冰山一角。近幾年,網(wǎng)絡游戲抽獎概率不明、網(wǎng)絡消費促銷規(guī)則繁復、網(wǎng)絡搜索競價排名推薦、網(wǎng)絡直播推送違反法律規(guī)定和公序良俗、刷好評隱差評使評價結果呈現(xiàn)失真、平臺采用算法限制交易等侵害消費者權益的行為屢禁不絕、備受詬病。

“這些問題的背后,核心是互聯(lián)網(wǎng)平臺對算法技術的應用。”中國消費者協(xié)會近日召開網(wǎng)絡消費領域算法規(guī)制與消費者保護座談會,中國消費者協(xié)會秘書長朱劍橋坦言,技術進步和應用總體上有利于增進人類福利,同時也會造成新的困擾和傷害。在網(wǎng)絡消費領域,可能會減少消費者選擇的時間成本,但是也會讓消費者面臨信息安全、歧視對待等消費風險。

“流量至上”“利潤至上”的算法應用,可能會使經(jīng)營者行為有悖法律、有失道德、有違倫理。“網(wǎng)絡經(jīng)營者應當嚴格遵守法律規(guī)定,誠信應用算法,反對利用技術手段,欺騙、隱瞞真實情況,欺凌消費者。”中消協(xié)呼吁,在算法應用中,網(wǎng)絡經(jīng)營者應當加強自律,守法經(jīng)營,承擔應盡義務和責任,同時,各行業(yè)組織應加強引領和督導,使網(wǎng)絡經(jīng)營者合理合規(guī)地應用算法,凈化行業(yè)風氣,促進良性發(fā)展,有效維護消費者合法權益。

此外,應加強算法應用的有效規(guī)制。中消協(xié)建議,有關行政部門加強相互協(xié)調,細化監(jiān)管職責;完善執(zhí)法依據(jù),做好規(guī)章廢改銜接;加強對算法應用的分級標識和分類管理,對涉及公共利益、生命健康、財產(chǎn)權利等的算法應用強化監(jiān)管,對具有市場支配地位的平臺經(jīng)營者的算法應用強化監(jiān)管,對涉及價值觀、道德觀特別是未成年人教育的算法應用強化監(jiān)管。

大數(shù)據(jù)殺熟維權難

建立集體救濟機制

2019年3月,北京市消協(xié)發(fā)布的《大數(shù)據(jù)“殺熟”問題調查報告》(以下簡稱《報告》)顯示,88.32%的被調查者認為大數(shù)據(jù)“殺熟”現(xiàn)象普遍或很普遍,沒有被調查者認為大數(shù)據(jù)“殺熟”現(xiàn)象不存在。有56.92%的被調查者表示有過被大數(shù)據(jù)“殺熟”的經(jīng)歷。

其中,被調查者在購物類、在線旅游類和打車類App或網(wǎng)站經(jīng)歷大數(shù)據(jù)“殺熟”最為常見,其他依次為外賣類、視頻類和電影類App或網(wǎng)站。其中,經(jīng)歷過前三類App或網(wǎng)站大數(shù)據(jù)“殺熟”的被調查者分別達到44.14%、39.5%和37.17%。

北京市消協(xié)副秘書長陳鳳翔指出,表面上是通過數(shù)據(jù),針對消費者推送服務,但從深層次看,大數(shù)據(jù)“殺熟”的本質是部分經(jīng)營者對消費者個人信息過度采集和隨意使用,使消費者的知情權、選擇權、公平交易權以及個人信息保護權利未得到充分尊重和保證。

短期來看,大數(shù)據(jù)“殺熟”或許能給企業(yè)賺取更多利潤,但從長遠來看卻透支消費者對品牌的信任。專家認為,大數(shù)據(jù)“殺熟”背離最基本商業(yè)倫理和企業(yè)價值,違背誠信經(jīng)營原則。

究其原因,陳鳳翔分析說,一方面是算法本質是互聯(lián)網(wǎng)的一個編程技術,這種編程技術由人為參與和輸入,有的編程者并不懂得法律,編制過程中會觸及消費者的底線,或者侵害消費者權利。

另一方面,技術演算出來造成消費者的傷害。這種傷害可能是初期算法的歧視,或者算法在計算機背后所產(chǎn)生的副作用。

《報告》顯示,遭遇大數(shù)據(jù)“殺熟”后,26.72%的被調查者選擇向消協(xié)或市場監(jiān)管部門投訴,25.56%的被調查者選擇不再去這個商家消費,17.43%的被調查者選擇忍氣吞聲、自認倒霉,11.71%的被調查者選擇與商家理論并要求賠償,10.46%的被調查者選擇卸載商家App或刪除網(wǎng)址,8.13%的被調查者選擇在社交網(wǎng)站或向媒體曝光。

大數(shù)據(jù)“殺熟”具有隱蔽性,維權往往難以舉證。陳鳳翔建議,通過公益訴訟方式,推動社會各界協(xié)同共治。

中國政法大學副校長時建中教授同樣認為,大數(shù)據(jù)殺熟,是商家濫用數(shù)據(jù)優(yōu)勢的一種典型行為。商家是數(shù)據(jù)絕對優(yōu)勢占有者,濫用數(shù)據(jù)絕對優(yōu)勢,損害消費者的利益行為并不鮮見。大數(shù)據(jù)一旦“殺熟”,針對是該種消費模式的所有消費者,而非具體消費者。

解決大數(shù)據(jù)“殺熟”需要建立集體救濟機制。時建中坦言,對于個體消費者而言,不一定能夠發(fā)現(xiàn)“殺熟”,而且發(fā)現(xiàn)之后又不一定能夠保存證據(jù),即便保存之后也不一定會尋求救濟,因為救濟成本太高。

大數(shù)據(jù)殺熟是價格歧視的一種。中消協(xié)披露,有些經(jīng)營者利用算法進行的價格歧視還包括對不同地區(qū)的消費者制定不同價格;多次瀏覽頁面的用戶面臨價格上漲;利用繁復促銷規(guī)則和算法,實行價格混淆設置,吸引計算真實價格困難的消費者。

不公平算法有隱蔽性

消費者面臨算法壓榨

算法本身是一種技術手段,經(jīng)營者可以利用算法提升經(jīng)營效率,為消費者提供更豐富、更優(yōu)良的產(chǎn)品和服務。

“算法從技術角度來說,的確對于互聯(lián)網(wǎng)經(jīng)濟的發(fā)展是有很大的貢獻。”對外經(jīng)貿大學法學院教授蘇號朋認為,要客觀認識到的是,算法對于商家來說,是一種重要的營銷或者銷售工具;對消費者來說,亦不能否認算法,尤其是推薦算法給消費者帶來的便利。

在蘇號朋看來,算法的正面意義在于,一是降低復雜定價成本;二是降低頻繁改價的成本;三是顯著提高定價決策的質量。

當然,商家也可以利用算法鉆法律的漏洞,實施違法違規(guī)行為,侵害消費者的合法權益。由于商家存在對算法權利的壟斷,如果這種算法壟斷被濫用,消費者基本無能為力,因為無論是取證本身,還是舉證,以及證據(jù)被相關執(zhí)法機構采納的可能性,目前都存在巨大難度。

“商家借助于算法這種技術手段擴大了商家和消費者之間的技術鴻溝,使得消費者知情機會難度越來越高。”蘇號朋坦言,不公平的算法對消費者所造成的侵害,不僅損害消費者的公平交易權,而且侵害了自主選擇權和知情權。

中消協(xié)此前根據(jù)消費者投訴、有關調查和相關報道,梳理出網(wǎng)絡領域涉及消費者權益的算法應用問題包括推薦算法、評價算法、排名算法等不公問題。

比如通過監(jiān)測分析消費者的消費行蹤軌跡,如瀏覽過的頁面、廣告、商品服務、話題等,有針對性的對消費者進行商業(yè)營銷。朱劍橋坦言,這類推薦算法利用消費者的數(shù)據(jù)畫像,實施所謂精準推送。許多消費者誤以為自己看到的與旁人無異,導致知情、選擇不足。有些經(jīng)營者通過算法應用推送的商品、服務內容,甚至違背法律和公序良俗。

還有部分平臺及平臺內經(jīng)營者為獲得好評,運用刷單等方式,編造虛假高分評價,或者隱匿中評、差評,使真實評價無法顯現(xiàn)。“虛假評價、評價失實呈現(xiàn),不僅破壞經(jīng)營者之間的公平競爭,也對消費者購買決策產(chǎn)生誤導。”朱劍橋認為。

此外,平臺經(jīng)營者制定各類排名榜,聲稱基于消費者好評率、銷量等,對各行業(yè)或商品服務類別進行排序,引導消費者選擇,但具體如何計算得出的難以知曉。

一些線上經(jīng)營者開展有獎銷售、抽獎兌換,特別是部分網(wǎng)絡游戲公司經(jīng)常性推送游戲道具抽獎活動,雖然公示中獎(掉落)概率,但是其算法程序不透明,實際中獎概率缺乏管控,屢遭消費者詬病;還有一些平臺利用所處優(yōu)勢地位通過算法在流量分配、搜索排名等方面設置障礙和限制,控制平臺內經(jīng)營者開展交易,影響公平競爭和消費者選擇。

“一些常見的網(wǎng)絡消費領域不公平算法應用,具有技術性和隱蔽性,潛移默化地影響著消費者的購買決策,消費者很難通過個體力量與之抗衡。”朱劍橋指出,如果任其無序發(fā)展,一方面不利于市場經(jīng)濟的公平有序競爭,不利于經(jīng)濟可持續(xù)發(fā)展;另一方面也會使消費者面臨數(shù)據(jù)算法壓榨,成為技術欺凌的對象,甚至被算法扭曲價值取向和道德觀念,淪為平臺經(jīng)營者的掌中“玩物”。

設立算法倫理專門機構

加強監(jiān)管協(xié)作機制建設

中消協(xié)認為,互聯(lián)網(wǎng)條件下,由于信息占有、技術應用等原因,網(wǎng)絡經(jīng)營者處于更為強勢的地位。在算法應用中,網(wǎng)絡經(jīng)營者應當加強自律,守法經(jīng)營,承擔應盡義務和責任,維護好消費者的合法權益。

時建中認為,算法公平監(jiān)管或者公平治理,必須要解決誠信、透明和公平問題。此外,除對應用算法的企業(yè)所實施行為進行道德評價、法治評價外,強化企業(yè)社會責任的評價也是一個重要路徑。

清華大學法學院副院長程嘯指出,算法問題可以通過技術解決。比如鼓勵針對市場有壟斷地位企業(yè)的算法采取反制措施的算法研究,用算法針對算法,讓算法之間形成競爭關系,從而重塑市場競爭機制。

中消協(xié)建議,加強算法應用的有效規(guī)制,并呼吁社會各界通過力所能及的方式,共同做好社會監(jiān)督,促進算法應用的公平、合理,防止經(jīng)營者利用算法作惡。一方面,加強機構設立和立法規(guī)制。在個人信息保護法、反壟斷法、反不正當競爭法、價格法等相關法律中,建議增加算法應用的相關規(guī)定。

一是國家設立算法倫理專門機構,負責算法應用倫理、規(guī)則、標準制定,不公平算法應用調查、處理等,并指定相關政府部門負責,加強對算法應用的有效監(jiān)管。

二是明確算法應用結果一致性要求。規(guī)定算法搜索結果應同時呈現(xiàn)公共選項,即所有用戶運用同樣的搜索方式,應可得到相同的結果。且相關結果應作為優(yōu)先選項推送,保障消費者有效便捷獲取。

三是保障算法應用的透明、公平、誠信。明確經(jīng)營者使用算法應做到可知、可查、可逆。發(fā)生爭議,負有向有關行政部門、司法機關、第三方機構提供算法、后臺數(shù)據(jù)、相關資料及進行說明的義務。做到算法應用的可驗證、可解釋、可追責。

四是明確舉證責任倒置規(guī)定,強化算法實施方的舉證責任,明確其偽造、篡改證據(jù)的責任和后果,解決消費者舉證難、鑒定難。

另一方面,加強監(jiān)管協(xié)作和機制建設。朱劍橋說,互聯(lián)網(wǎng)領域算法應用十分廣泛,建議有關行政部門加強相互協(xié)調,細化監(jiān)管職責;完善執(zhí)法依據(jù),做好規(guī)章廢改銜接;加強對算法應用的分級標識和分類管理,對涉及公共利益、生命健康、財產(chǎn)權利等的算法應用強化監(jiān)管,對具有市場支配地位的平臺經(jīng)營者的算法應用強化監(jiān)管,對涉及價值觀、道德觀特別是未成年人教育的算法應用強化監(jiān)管。

朱劍橋指出,要加強對算法的事前、事中、事后監(jiān)管,通過對算法應用進行必要的目的審核、法律審核、道德審核,以及建立黑名單制度等措施進行有效管理;建立算法投訴審評機制,保障消費者和社會各界的投訴、監(jiān)督權;培育第三方技術鑒定機構,強化對算法應用的技術審核力量;保障互聯(lián)網(wǎng)經(jīng)濟持續(xù)健康發(fā)展,有力維護消費者合法權益。

與此同時,建議有關司法機關加強對算法應用案件的分析研究,推動出臺有關司法解釋,充分發(fā)揮司法機關的審判和監(jiān)督作用,強化經(jīng)營者舉證責任,加強對算法應用問題的實質審查,通過司法判例弘揚公平正義,強化對消費者權益的保護。

算法應用不公針對的是普遍的社會大眾,每個人都可能成為潛在的受害者,要加強消費維權和社會監(jiān)督。中消協(xié)建議,消費者加強個人信息保護和依法維權意識。對于非法或過度索取個人信息的行為,勇于說“不”;對于網(wǎng)絡經(jīng)營者實行的推薦算法、價格算法、評價算法、排名算法、概率算法、流量算法中存在的不公問題提高警惕,加強監(jiān)督,通過維權行動,加強共同治理。（法治日報全媒體記者 侯建斌）