鄭國威專欄／當「臉部辨識」科技進入深水區，智慧化等於監控化？

2019 年 08 月 13 日

站在海關的自動查驗閘道，面對相機，一秒後閘道迅速開啟；拿起手機，相機瞬間辨識解鎖，進入主螢幕，這樣的使用體驗我們早已不陌生。不過說到臉孔辨識，更好玩的或許是能夠辨識出年齡、在臉上加上可愛狗耳朵、狗鼻子或貓熊黑眼圈、或是讓我們看見變老之後會長成什麼樣的那些 App。自從機器辨識人臉的準確率因深度學習而在近幾年突飛猛進，甚至超越人類所能，各種延伸出的應用也越來越多元跟普及……只不過，就像每一樣人類的發明，當精靈從神燈裡被釋放，起初設想不到，或是不願設想的事情，總是隨之而來。

將近兩個月以來，香港「反送中」示威與抗爭持續升高，而這些抗議群眾如何反警方的監控科技，也成為焦點。他們除了戴上口罩、面罩，還使用在野外看星星時會用到的指星筆雷射光對準警方的蒐證攝影機，為的就是避免事後被人臉辨識軟體查出身份。同時，在同樣備受外界關注的新疆，在市區無處不在的海康威視監控系統，則是「再教育營」以外，另一個讓聽到相關消息的人毛骨悚然的存在。

相較於其他生物特徵識別技術，像是指紋、虹膜、聲紋等等，臉孔辨識在於「自然」，以及「不容易被察覺」這兩點上佔有優勢，但這優勢是對辨識者來說的，對於被辨識者，這樣的優勢就成了擋也擋不住的破口。

看！天眼在看著我們

美國聯邦政府基於國防安全考量，將中國的海康威視跟浙江大華兩家公司列入美國國防授權法案 (NDAA) 的黑名單之後，聯邦政府各機關必須得在 8/13 之前移除所有來自這兩家公司的設備。然而這並不容易，因為移除的範圍還包括由這兩家公司銷售給其他公司，並且貼上美國或日本企業品牌進入到各個商店、銀行、路口的攝影機。這使得這項試圖移除成千上萬隻天眼的工作肯定無法在期限前達成，也將成為美中兩國貿易戰下，另一個持續悶燒的議題。

美國聯邦政府或許真的擔心中國的眼睛窺伺，但美國人民也擔心美國自己的政府惡搞。舊金山在 5 月中經議會決議，成為第一個禁止政府機關──如警察或交通管理局──使用人臉辨識技術的城市。而就在這幾個月，薩默維爾、奧克蘭等城市或地區也加入了反人臉監控的行列，許多美國的城市跟州也正在立法限制人臉辨識的使用範圍。反對這項技術的人提出許多理由，例如擔心人臉辨識有種族跟性別的偏差，會造成執法不當與不公，或是認為這樣的技術會讓人民時時感到活在監視之下，是踏入反烏托邦的關鍵一步。

反對人臉辨識者在這裡擔心的倒不是中國的監控系統，而是微軟、亞馬遜還有 Google 等雲端服務公司。Evan Greer 在 BuzzfeedNews 的一篇文章中表示：「……即使這些演算法運行良好，無處不在的人臉掃描仍然對人類自由的未來構成巨大威脅。由人工智慧驅動的生物識別監控與我們之前看到的任何監控完全不同。它能夠以之前不可能的規模，實現對整個人口的即時位置跟踪和行為監管……想像一個你從未見過的人看著你的一舉一動──比較你的面部照片並預測你是否會犯罪──想像一下軟體以最快的速度工作，而無法同情你。它認為它知道你的感受和你想要的。如果你過了特別糟糕的一天，它也不在乎。你臉上的表情可能會讓它把你當作國家的敵人。我們中的任何一個人都可能成為演算法冷酷證詞的受害者。」

這三家公司並不是因為提供一般消費者人臉辨識產品而被抨擊（當然也是有啦，例如 Google 今年推出的 Nest Hub Max ），而是因為他們都提供了相關技術，給雲端服務的使用者，特別是政府單位來採購使用。像是亞馬遜的 AWS Rekognition、微軟的 Azure 臉部 API，至於 Google 的 Cloud Vision 則暫時只開放偵測圖片中的多個臉部，以及相關的重要臉部特徵，例如表情或頭飾。但暫不支援臉部識別。

人臉辨識的批評與回應

反對者一方面透過議會，禁止地方政府使用及採購人臉辨識服務，另一方面也要求這些公司停止販售相關服務給政府單位，特別是執法部門。在今年三月，78 位人工智慧領域的科學家跟研究者在一篇公開的文章上聯名反對 AWS Rekognition 應用在政府執法上，認為其技術還有很多欠缺，這些人包括正在微軟、Google、Intel 任職，甚至還有之前就在 AWS 工作過的專家，更別提還有 400 位不同領域的學者也同樣連署反對。另外，亞馬遜的員工在 6 月時也發表公開信給老闆貝佐斯，要求公司停止販售人臉辨識技術給政府執法部門，不要當危害人權的幫凶，壓迫社會中的邊緣人，特別是移民家庭；在亞馬遜的股東會議上也有股東提出類似的倡議，但最終被否決。

為了回應這樣的批評，AWS 的 Amazon Rekognition 產品介紹網站上新增了一頁，標題為「臉部辨識與人工智慧的事實」，當中有一段特別強調「使用臉部辨識時絕不能違反個人權利，包括隱私權，或對需要由人類進行分析的情景做出自主決定。正如 Matt Wood 博士所言：「機器學習是一個非常有價值的工具，可以幫助執法機構。雖然人們擔心它被用於其他目的，但我們不能因為溫度可能會被設定錯誤，造成比薩餅被烤焦，便因此扔掉烤箱。然而，從公共安全角色來看，政府權衡得失並規定執法機構應當符合的溫度（或信任度），是一種很合理的想法。」AWS 的執行長 Andy Jassy 也表示歡迎監管，但希望政府統一標準，免得城市與州政府各自為政，到後來可能有五十種以上的規矩要遵守。不過目前為止，AWS 還是美國公民自由聯盟 (ACLU) 的主要抗議對象，ACLU 更直接用實驗證實 AWS 的 Rekognition 有很大的問題，竟然把 28 位美國國會議員誤認為已被逮捕的罪犯，其中非白人議員被誤認的比例特別的高。

微軟看到了亞馬遜中了那麼多箭，也跟 ACLU 的人喝了幾杯咖啡，便在去年底接連在官方部落格發表兩篇文章強調微軟在發展人臉辨識技術上將遵守的自律原則；更主動邀請政府管制，刪除了一個含有 1000 萬張人臉圖像的數據庫，跟亞馬遜一比起來像是乖寶寶。但最近微軟也因為投資以色列一間人臉辨識技術公司 AnyVision 而遭到抨擊。根據以色列當地媒體HAARETZ 的報導，AnyVision 這家新創公司的技術被用在約旦河西岸，監控每一個來去的巴勒斯坦人，侵犯了巴勒斯坦人已經很稀薄的人權。而根據 Forbes 報導，這家公司的顧問團主席是前以色列情報特務局局長，公司主席 Amir Kain 更是前國防部安全部門的長官，可見與以色列政府關係有多好，特別是在無止盡成長的監控業務上。微軟把 AnyVision 上架到 AppSource 平台上，表示會遵守自律原則，但怎麼看就是會辦不到啊。

至於 Google，雖然自家服務暫時不支援臉部識別，想避開戰場，但 Google 背上的箭也沒少。2016 年，Google 被一位女性起訴，原因是 Google 在未經她許可下，利用上傳到 Google 相簿的照片建立了她的臉孔模板，不過在 2018 年底 Google 打贏了這起官司，也替其他同樣這麼做的科技公司衝開了防線。

知名的矽谷投資人、我很喜歡的《從0到1》一書的作者 Peter Thiel 更將 Google 拉上公審台，他最近除了在全美保守主義大會上表示聯邦調查局跟中央情報局該調查 Google 與中國政府「看似叛國」的關係，也接著在 8/2 號投書紐約時報，再次針對 Google 發飆，認為該公司與中國合作研究人工智慧是危險的。但尷尬的是，Peter Thiel 創辦的 Palantir 公司也是大數據監控生態系的成員，而且還是最主要、且最受爭議的玩家之一，前面不是提到有許多亞馬遜員工聯合寫信給該公司高管嗎？信裡頭除了要公司別賣人臉識別技術給執法單位，也要求亞馬遜停止與 Palantir 的合作，因為 Palantir 就是協助美國政府打擊非法移民，造成數千位孩童跟父母分離的技術軍火商。當然啦，Peter Thiel 想必認為將包括人臉辨識在內的大數據及人工智慧技術賣給美國中央情報局、國安局、或是移民及海關執法局 (ICE) 是屬於愛國行為。

「智慧化」基本上就等於「監控化」？中美大國給我們的提醒

人臉辨識能夠成為爭議話題，代表這項科技的確已經具備普及跟深入所有人生活的本領，但就如同人類對其他科技的依賴造成的問題一樣，被方便的人臉辨識技術「馴化」的我們，很可能難以察覺技術的偏頗跟缺失，在技術失敗跟故障時依然盲信，讓強大又普及的技術帶來強烈又廣泛的問題，到處都是的塑膠垃圾就是這樣的案例；但反過來說，在人臉辨識技術普及到各個範疇的此刻，要是我們無法信任人臉辨識技術，則可能會浪費更多時間在驗證上，或是乾脆忽略技術發出的正確提醒，結果還是讓技術無用化。

前陣子，台灣輿論也開始關注起政府單位採購的海康威視監視攝影機，才驚覺其無孔不入的程度，已經到了只能嘆句「啊不然咧」的無可奈何。其實台灣地方政府也頗為歡迎這項技術，例如台北市戶政人臉辨識系統在今年三月便啟用，能夠監測行為與辨別身份的智慧路燈也即將在台北市擴大實施，其他還有許多案例在台灣人權協會這篇文章裡看得到。人臉辨識或許只是另一款中立的技術，已經證實在許多時候可以大幅提升找到失蹤人口或嫌疑犯的效率。但我們現在也都明白「智慧化」基本上就等於「監控化」，若沒能預先辨識出「人臉辨識」的後續效應，看看中國跟美國的情況，應該是很好的提醒。