留言討論


分享本文至 E-mail 信箱

鄭國威專欄 / 機器為何不該擁有致命決策的能力,以及我們該如何以透明來抗衡

2016 年 07 月 15 日

戰爭伴隨著人類的慾望而永存,恐怖攻擊也防不勝防,目前看不到這條血腥之路的終點,但如何不讓這條路更加血腥,甚至脫離人類的掌握?這場 TED 演講的講者丹尼爾˙史瓦雷茲是一位科技驚悚小說作家,我第一次看見他的作品《守護程序 I:網路殺神》與《守護程序 II:自由之戰》就為之震撼,因為他對科技細節知識的掌握,讓他的小說讀起來就像是這故事已經真實在世界上某個地方發生了。他的故事建立於一切的科技條件都已經具備,社會狀態早已實現,讓讀者不得不自問:這件事情應該要發生了,或是已經發生了,只是我們可能不知道。

他在 2013 年於 TED Global 上的演講則是跟他的另一本小說《格殺決策》比較有關。在這本小說中,他描述了一群擁有自主攻擊能力的致命無人機可能造成的災難。而他的這場演講,雖然完全沒有提到小說,很顯然是試圖傳遞同一個主題:我們正在過渡更多的決策權給機器,甚至是殺人的決定,而我們正在屈服於這趨力,後果將要發生。

雖然現在(在檯面上),各種致命武器都需要一定程度的人類掌控,但史瓦雷茲認為有三種趨力正在讓我們放棄這些掌控。第一,越來越多的國家正在研發遠程無人戰鬥機,而這些戰鬥機都佈滿了攝影機跟偵測裝置,產生「大數據」,這些數據不可能由人類來一一檢視,因此我們必然要透過演算法跟視覺軟體,讓機器告訴我們該注意什麼。第二,因為是遠程,所以在遠方的人類駕駛員跟戰鬥機之間的溝通必然透過電磁波,但很容易受到電磁波干擾攻擊,這樣戰鬥機就真的無用武之地,「除非」我們讓戰鬥機自行找尋跟決定攻擊對象跟攻擊時機。第三,對有心人士來說,要發起「匿名戰爭」門檻因為科技而大大降低,犯罪組織或是稍有權勢跟財力的個人都可以擁有這些無人自主致命武器,而且就算被找到殘骸,也很難指向特定攻擊者。

另外,我們現在用社群媒體跟手機產生的資料可以用來製成人際互動圖,找出意見節點跟意見領袖,廣告商可以依據這些數據來投放廣告或邀請試用產品跟代言,但同樣的資料也可以被極權政府跟犯罪組織用來打擊公共溝通,使得形成中的政治行動崩潰,而他們可以用的武器當然就包括自動且致命的無人機。

史瓦雷茲認為,各國需要一同避免這樣的情形發生(也就是他小說中描述的情節),禁止研發自動殺人機器,就像全球針對生化跟核武的限制一樣。越來越嚴峻的恐怖攻擊,族群衝突,國境紛爭,都可能成為導火線。而一般生活、農業、工業跟商業用途的無人機對史瓦雷茲來說並不是壞事,但一樣需要管制,建立一個「免疫系統」:讓每一台無人機都擁有編號,就像汽車跟飛機一樣,並且讓每個擁有手機的人都能夠下載 App,從上頭清楚得知附近無人機的位置跟工作狀態。

無人機不只在天空飛行,也會在陸地上、海洋裡出現,而且可能因為我們習以為常而更難以察覺,我們已經進入了這樣的世界,不能繼續讓自己假性無知了。

延伸閱讀:

鄭國威專欄/人工智慧殺人事件

無人機專題(三)/到底在搞什麼飛機-聽 Maker 剖析無人機世界的飛行秩序

https://panx.asia/archives/47442


你的行動知識好友泛讀 已全面上線啦

每天有成千上百則內容透過社群與通訊軟體朝你湧來,要從混雜著偽科學、假消息、純八卦的資訊中過濾出一瓢知識解渴,在這時代似乎變得越來越難?

為了滿足更多跟我們一樣熱愛知識與學習的夥伴,現在我們很害羞也很驕傲地宣布,手機閱讀平台——泛讀 PanRead iOS 版和「泛讀」Android 版都上架啦!使用後有任何心得或建議,都歡迎與我們分享喔

立即下載 優質知識不漏接

關於作者


鄭 國威

鄭 國威

PanX 總編輯,家有一貓一妻一女,蟑螂無數。 熱愛重金屬音樂,常食重金屬食品。 自己在創業,熱愛科技,無時無刻不想著未來,也希望透過 PanX 把科技媒體這件事做得更好,先從台灣最好做起。

留言討論