留言討論


分享本文至 E-mail 信箱

生活處處皆演算法?重點在於如何運用——《打開演算法黑箱》

曾經造訪紐約長島瓊斯海灘(Jones Beach)的人,在他們開車前進大海的路上,都會經過一座又一座的橋梁下方。這些主要是為了對上下高速公路的人進行分流所建造的橋梁,有一項不尋常的特色。這些橋梁以曲度和緩的拱形跨越車流,懸掛的高度異常低,有時距離柏油路面的淨空少到只剩 9 英尺。

這種怪異的設計是有理由的。1920 年代,紐約一位呼風喚雨的都市規畫師羅伯特.摩斯(Robert Moses),汲汲於要讓他在瓊斯海灘新近完工、獲獎肯定的州立公園,成為富有美國白人的保留地。

這些橋梁低到 12 英尺高的巴士無法通過。圖/Robert Moses Causeway@NYC roads

他知道他私心偏袒的客戶會搭乘自己的私家車前往海灘,而來自貧窮黑人社區的那些人會搭巴士到那兒,於是處心積慮設法要限制通行,其做法是在高速公路沿線建造數百座低懸的橋梁,低到 12 英尺高的巴士無法通過。

種族主義式橋梁並非唯一悶不吭聲、偷偷摸摸對人們施加控制的無生物件(inanimate object)。物件和發明所具有之權力超乎所聲稱之目的,歷史上這種例子不勝枚舉。

無生物件就在你我生活中

有時是經過精心安排、惡意地加入設計之中,有時則是未經思索便加以忽略的結果:想想市區有些地方缺乏輪椅通道這件事吧。有時這是無心的後果,就像十九世紀的機械化紡織機。

這些機器的設計是要讓繁複織品的產製更容易,但最後對工資、失業和工作條件產生的衝擊,使得這些機器可說是比維多利亞時代任何一個資本家都更加暴虐。

現代發明也沒什麼不同。問問英國北部斯肯索普(Scunthorpe)的居民吧,他們開立 AOL 帳戶受阻,因為這家網路巨擘新開發一種褻瀆用詞過濾功能,禁用他們的城鎮名稱。

當年寫出臉書編碼的馬克.祖克柏(Mark Zuckerberg),絕對沒想過他的發明會被指控助長全球各地的選舉操弄。圖/DocumentaryTube

或是丘伍梅卡.阿菲柏(Chukwuemeka Afigbo),這名奈及利亞男子發現有一種洗手乳自動給皂機,每當他的白人朋友把手放在機器下方時,皂液噴出毫無問題,卻對他的黑皮膚沒有反應。

或是 2004 年在哈佛宿舍房間裡寫出臉書編碼的馬克.祖克柏(Mark Zuckerberg),他當時絕對沒想過他的發明會被指控助長全球各地的選舉操弄。

這些發明每一項背後都有演算法。

演算法,這一段段看不到的、構成現代機器時代小齒輪的編碼,帶給世界從社群媒體動態消息到搜尋引擎、衛星導航、音樂推薦系統等等一切,和以往的橋梁、建築物及工廠,同為我們現代基礎建設的一部分。

我們與演算法的距離

演算法就在我們的醫院、我們的法庭、我們的車輛之內。圖/EVG photos@Pexels

演算法就在我們的醫院、我們的法庭、我們的車輛之內。演算法為警方、超市和電影工作室所用。演算法已經知悉我們的好惡,告訴我們該看什麼、該讀什麼、該和誰約會。而對於這一切之於人類的意義,演算法自始至終暗中擁有緩步微妙改變其規則的權力。

在本書中,我們將會發現,我們或許並不知情卻日益依賴著為數眾多的演算法。

我們會密切注視這些演算法所宣稱的內容、檢視其未公開言明的權力,並直面演算法所引發卻未解答的疑問。我們將會遭遇警方用來決定誰該被逮捕的演算法,這些演算法要我們在保護犯罪被害人與遭指控者的清白之間做出抉擇。

我們將與法官用來決定罪犯刑度的演算法過招,這些演算法要求我們決定我們的司法體系應該是何種模樣。我們將會發現,醫生用演算法來推翻自己的診斷;自駕車上的演算法堅持要我們給我們的道德下定義;演算法正在秤量我們的情緒表現方式;還有,演算法擁有掏空我們民主體制的力量。

演算法真的那麼可怕嗎?

我並非主張演算法天生就壞。你在書中篇章終將看到,有諸多理由對於前景感到正面樂觀。從來沒有任何物件或演算法本身就是非好即壞,重點在於如何運用

全球定位系統(GPS)是為了發射核子彈而發明,現在幫忙遞送披薩。重複播放的流行樂,曾經被用來當作刑求工具。花環無論做得多美麗,我真想要的話,可以用來勒死你。對演算法具有見解,表示對人與機器之間的關係有所理解。

每一種演算法都與建立並運用它的人們有難分難解的關聯。

這意味著,究其核心,這是一本關於人的書。關於我們是何許人、我們要往何處去、何者對我們重要,以及這一切如何藉由科技正在產生改變。關於我們與演算法之間的關係,那些早就在這兒的、和我們一起工作的、強化我們能力的、修正我們錯誤的、解決我們難題的,並在這過程中創造出新演算法的演算法。

這是關於演算法對我們這個社會是否仍有淨利益的質問。關於你應當在何時信任機器甚於自己的判斷,應當在何時抗拒這種交由機器掌控的誘惑。這是關於拆解演算法、找出其侷限,關於竭力審視我們自己,並找出我們自己的侷限。關於區別有害與有益,並決定我們想要住在哪一種世界裡。

因為未來不會自己到來,是我們創造出未來。

——本文摘自《打開演算法黑箱》,2019 年 5 月,臉譜出版

圖/pixabay

關於作者


泛科選書(PanBooks)

泛科選書(PanBooks)

PanX 泛科技新聞網從科技議題著手,企圖把未來更清楚地描繪出來。從能源議題、金融科技、生物科技,到物聯網、大數據、工業4.0、自造者,都是我們專注的內容。若希望有任何書籍合作歡迎向我們聯絡:contact [at] panx.asia

留言討論


網站更新隱私權聲明
本網站使用 cookie 及其他相關技術分析以確保使用者獲得最佳體驗,通過我們的網站,您確認並同意本網站的隱私權政策更新,了解最新隱私權政策