- +1
當(dāng)算法決定一切:緊接著啤酒廣告的是“伊斯蘭國(guó)”招募視頻
【編者按】
《世界是平的》作者托馬斯·弗里德曼的新書(shū)《謝謝你遲到》繼續(xù)探討了技術(shù)和全球化加速及其影響。當(dāng)今世界,不僅是平的,更是快的,面對(duì)快速變化的時(shí)代,我們?cè)撊绾螒?yīng)對(duì),托馬斯·弗里德曼在書(shū)里給予了一些建議?!吨x謝你遲到》的中文版近日出版,澎湃新聞獲得授權(quán)摘錄其中《網(wǎng)絡(luò)空間里有上帝嗎?》一章的部分內(nèi)容,以引起大家對(duì)大數(shù)據(jù)時(shí)代如何管理和平衡網(wǎng)絡(luò)空間中的隱私保護(hù)的思考。

毫無(wú)爭(zhēng)議,我們正在創(chuàng)造大量全新的、不受管制的空間——沒(méi)有規(guī)則,沒(méi)有法律,沒(méi)有聯(lián)邦調(diào)查局,更沒(méi)有上帝。在過(guò)去兩年中,出現(xiàn)了一些不同異常的新聞。先來(lái)看一則2015年3月3日發(fā)布于CNNMoney 頻道的報(bào)道:這則報(bào)道曝光了YouTube網(wǎng)站在“伊斯蘭國(guó)”(ISIS)或其他恐怖組織上傳的視頻前插播商業(yè)廣告:詹妮弗·安妮絲頓稱(chēng)贊阿維諾護(hù)膚品的妙用;百威啤酒在一場(chǎng)音樂(lè)會(huì)上炫耀它的啤酒;維多利亞的秘密售賣(mài)氣味清香的除臭劑。都是些尋??梢?jiàn)的廣告,但不同之處在于廣告之后播放的內(nèi)容。這一次,緊接著播放的都是“伊斯蘭國(guó)”(ISIS)和圣戰(zhàn)分子的視頻……
像YouTube這樣的視頻網(wǎng)站向公司出售廣告時(shí)間,廣告會(huì)在視頻播放前自動(dòng)播放。這篇報(bào)道指出:“雖然廣告客戶(hù)可以指定傳播的目標(biāo)人群,但他們并不能直接控制廣告的刊登位置?!眻?bào)道援引法律分析師丹尼·塞瓦洛斯的話(huà):“從合同的角度來(lái)看,這些花了大價(jià)錢(qián)從YouTube 網(wǎng)站購(gòu)買(mǎi)導(dǎo)流點(diǎn)擊的公司如果發(fā)現(xiàn)他們的廣告后緊跟著的是“伊斯蘭國(guó)”(ISIS)的招募視頻,那他們可能不會(huì)感到高興?!?/p>
“伊斯蘭國(guó)”(ISIS)的追隨者中也許沒(méi)有幾個(gè)人喝啤酒。也許網(wǎng)站的算法探測(cè)到有許多年輕人訪(fǎng)問(wèn)了這些網(wǎng)站,并推定其中會(huì)有很多愛(ài)喝啤酒的人。無(wú)論是什么原因,投放廣告的公司并不知情,也不會(huì)感到高興。
在看了一段視頻之后,安海斯·布希啤酒公司負(fù)責(zé)消費(fèi)者關(guān)系的副總裁向CNNMoney頻道訴苦:“我們不知道會(huì)有一個(gè)我們公司的廣告與這種視頻放在一起播放?!痹贑NNMoney頻道報(bào)道此事后,YouTube撤下了與“伊斯蘭國(guó)”(ISIS)的相關(guān)視頻。
以下是Bustle.com網(wǎng)站的跟蹤報(bào)道:
YouTube刊登廣告的方式是這樣的:在品牌支付廣告時(shí)間費(fèi)用之后,視頻網(wǎng)站會(huì)依據(jù)算法將廣告隨機(jī)地安排在一段視頻之前,但除非親自觀看,不然YouTube和投放廣告的公司都無(wú)法知道廣告究竟投放在哪個(gè)視頻之前。盡管公司無(wú)法要求其廣告在某一特定視頻前播放,但它可以要求針對(duì)某些目標(biāo)群體投放其廣告。但是,為何百威啤酒、豐田和Swiffer 除塵撣的廣告會(huì)在“伊斯蘭國(guó)”(ISIS)的視頻之前播放,這顯然是個(gè)未解之謎。因?yàn)?,我們可以肯定,沒(méi)有哪家公司會(huì)選擇瞄準(zhǔn)18歲至55歲之間、想要發(fā)動(dòng)恐怖襲擊的極端武裝分子。
再來(lái)看看澳大利亞悉尼發(fā)生的這則新聞。2015年12月24日,出租車(chē)預(yù)約公司優(yōu)步為上周在悉尼發(fā)生咖啡店劫持事件時(shí)提高車(chē)費(fèi)道歉。在這場(chǎng)16個(gè)小時(shí)的恐怖事件中,共有3人喪生,槍手也被擊斃。據(jù)BBC新聞網(wǎng)站報(bào)道,一個(gè)槍手控制了悉尼的一間咖啡店,人們紛紛逃離這里,有人拔腿就跑,有人則乘車(chē)逃離,優(yōu)步公司在乘車(chē)需求大幅上漲之時(shí),將車(chē)費(fèi)提高至正常價(jià)位的4倍之多。
在悉尼的馬丁廣場(chǎng)發(fā)生劫持事件的那天,優(yōu)步因提高價(jià)格而在社交媒體上受到了嚴(yán)厲的批評(píng),因此,它開(kāi)始提供免費(fèi)的出城服務(wù)。
優(yōu)步還表示,它將退還受到加價(jià)影響的乘客的乘車(chē)費(fèi)用。
“我們沒(méi)有立即停止動(dòng)態(tài)定價(jià)。這是個(gè)錯(cuò)誤的決定?!眱?yōu)步在周二發(fā)表的一篇博客中表示。
優(yōu)步表示,它的首要任務(wù)是幫助盡可能多的人安全離開(kāi)中央商務(wù)區(qū),但是由于溝通“不暢”,導(dǎo)致大家對(duì)其動(dòng)機(jī)產(chǎn)生很多誤解。
優(yōu)步在其他城市捍衛(wèi)其動(dòng)態(tài)定價(jià)的策略,但已與美國(guó)監(jiān)管機(jī)構(gòu)達(dá)成協(xié)議,在國(guó)家面臨緊急情況的時(shí)候限制該政策。
所有這些報(bào)道體現(xiàn)了一個(gè)共同點(diǎn)——做決策的不是人,不是道德,更不是上帝,而是算法。所有這些報(bào)道的另一個(gè)共同點(diǎn)在于,一些技術(shù)力量聚集到一起,使人與機(jī)器的力量呈指數(shù)級(jí)的階段性變化,遠(yuǎn)比我們?nèi)祟?lèi)重塑自己,重塑我們的機(jī)構(gòu)、法律和領(lǐng)導(dǎo)方式的進(jìn)程要快得多。
“我們正在讓科技做人類(lèi)本不應(yīng)放棄的工作?!蔽鞯侣f(shuō)道,“是人做出的決定,讓YouTube通過(guò)算法為視頻匹配廣告。但之前這從來(lái)都不是科技要干的工作?!边@應(yīng)當(dāng)永遠(yuǎn)是人類(lèi)的職責(zé)?!翱萍际剐碌男袨?、體驗(yàn)和連接方式成為可能?!彼a(bǔ)充說(shuō),“但是,需要人類(lèi)來(lái)為其制定行為準(zhǔn)則,讓體驗(yàn)更有意義、連接更加深入,并根植于共同的價(jià)值觀與抱負(fù)。”不幸的是,人類(lèi)進(jìn)步與道德發(fā)展不存在摩爾定律。這項(xiàng)進(jìn)程是凌亂的,不遵守線(xiàn)性趨勢(shì)。它一會(huì)兒上升,一會(huì)兒下降,曲折多變。這很難,但確實(shí)沒(méi)有其他辦法。
隨著網(wǎng)絡(luò)空間進(jìn)入家庭,這一切變得更具挑戰(zhàn)?;叵胍幌?015年11月在科羅拉多州卡能市所發(fā)生的事件:當(dāng)?shù)馗咧?00多名學(xué)生被發(fā)現(xiàn)相互交換裸照,并將照片儲(chǔ)存在智能手機(jī)隱秘的照片保險(xiǎn)柜應(yīng)用中。學(xué)生們拍攝了自己的裸照并進(jìn)行分享,然后使用手機(jī)上的“幽靈程序”儲(chǔ)存并隱藏照片。幽靈程序看上去與任何一款正常的應(yīng)用程序很相似,最受歡迎的一款應(yīng)用看起來(lái)像一個(gè)計(jì)算器。如果你的父母或老師拿到你的手機(jī),他們看到的就是一個(gè)計(jì)算器的圖標(biāo)。但是,如果你在鍵盤(pán)上輸入密碼,就會(huì)轉(zhuǎn)入一個(gè)隱藏的頁(yè)面,你可以在其中儲(chǔ)存色情照片、視頻和短信。這聽(tīng)上去很像是10年前Q博士安裝在詹姆斯·邦德手機(jī)里的東西。現(xiàn)在,每個(gè)高中生的手機(jī)上都有?!八饺苏掌kU(xiǎn)柜”(Private Photo Vault)是蘋(píng)果應(yīng)用商城中所有照片及視頻類(lèi)應(yīng)用軟件中下載量最多的應(yīng)用。該應(yīng)用阻止了父母、警察以及任何其他人向青年人傳播可持續(xù)的價(jià)值觀。
“在過(guò)去,如果父母抓到自己的孩子在做壞事,他們會(huì)說(shuō):‘回你的房間。’”西德曼說(shuō)道:“只要孩子在家里,家長(zhǎng)就可以控制他們——所以他們會(huì)命令孩子回房間,那里沒(méi)有電視?!钡F(xiàn)在,即使你讓孩子回他們的房間,他們?nèi)匀荒苁褂妹孛艿膽?yīng)用程序與整個(gè)世界連接,媽媽和爸爸被蒙在鼓里:看起來(lái)他們正在使用計(jì)算器,實(shí)際上卻在發(fā)送色情短信。
你給孩子配一部手機(jī),是想方便地知道他們午夜后的去向,或是讓他們?cè)诰蹠?huì)后呼叫優(yōu)步回家。但是,這部手機(jī)不僅是父母管束的繩索,也能成為孩子們進(jìn)入禁忌世界的鑰匙。所以,“回你的房間去”這道命令,現(xiàn)在必須改為“把你的智能手機(jī)、平板電腦、iPod、蘋(píng)果手表、無(wú)線(xiàn)網(wǎng)卡以及手機(jī)上保險(xiǎn)柜應(yīng)用程序的密碼交出來(lái),然后再回房間”。
這些不受控制的領(lǐng)域不僅僅限于前衛(wèi)青少年特有的工具。2015年12月17日,在巴黎圣戰(zhàn)者自殺襲擊爆發(fā)后,CNN.com網(wǎng)站的報(bào)道稱(chēng):“巴黎襲擊事件的調(diào)查人員發(fā)現(xiàn)了一些證據(jù)。他們認(rèn)為這些證據(jù)表明,一些恐怖分子使用了加密應(yīng)用程序隱藏襲擊計(jì)劃……恐怖分子使用過(guò)的眾多應(yīng)用中就包括Whats App和Telegram。這兩款通信應(yīng)用軟件都標(biāo)榜自己采用了難以破解的端對(duì)端加密技術(shù)來(lái)保護(hù)用戶(hù)的隱私?!?/p>
接著,發(fā)生了一個(gè)著名案件。2015年12月2日,賽義德·里茲萬(wàn)·法魯克在加利福尼亞州圣貝納迪諾槍殺了14名民眾。當(dāng)聯(lián)邦調(diào)查局要求蘋(píng)果公司交出賽義德所使用的iPhone網(wǎng)絡(luò)鎖柜的密碼時(shí),蘋(píng)果公司以全世界各地的iPhone用戶(hù)的隱私問(wèn)題為由,拒絕幫助聯(lián)邦調(diào)查局。邦調(diào)查局最終成功破解了這部手機(jī),并通過(guò)從第三方網(wǎng)絡(luò)安全機(jī)構(gòu)上購(gòu)買(mǎi)的一個(gè)“工具”提取數(shù)據(jù)(聯(lián)邦調(diào)查局局長(zhǎng)詹姆斯·科米不愿透露這個(gè)第三方機(jī)構(gòu)的名字)。這場(chǎng)保護(hù)隱私與保護(hù)安全之間的軍備競(jìng)賽才剛剛開(kāi)始。這要求美國(guó)國(guó)會(huì)進(jìn)行嚴(yán)肅的反思:面對(duì)威力強(qiáng)大的憤怒者日益嚴(yán)重的沖擊,我們?cè)撊绾喂芾砗推胶饩W(wǎng)絡(luò)空間中的隱私保護(hù)。






- 報(bào)料熱線(xiàn): 021-962866
- 報(bào)料郵箱: news@thepaper.cn
滬公網(wǎng)安備31010602000299號(hào)
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營(yíng)許可證:滬B2-2017116
? 2014-2026 上海東方報(bào)業(yè)有限公司




