戰爭伴隨著人類的慾望而永存，恐怖攻擊也防不勝防，目前看不到這條血腥之路的終點，但如何不讓這條路更加血腥，甚至脫離人類的掌握？這場 TED 演講的講者丹尼爾˙史瓦雷茲是一位科技驚悚小說作家，我第一次看見他的作品《守護程序 I：網路殺神》與《守護程序 II：自由之戰》就為之震撼，因為他對科技細節知識的掌握，讓他的小說讀起來就像是這故事已經真實在世界上某個地方發生了。他的故事建立於一切的科技條件都已經具備，社會狀態早已實現，讓讀者不得不自問：這件事情應該要發生了，或是已經發生了，只是我們可能不知道。

他在 2013 年於 TED Global 上的演講則是跟他的另一本小說《格殺決策》比較有關。在這本小說中，他描述了一群擁有自主攻擊能力的致命無人機可能造成的災難。而他的這場演講，雖然完全沒有提到小說，很顯然是試圖傳遞同一個主題：我們正在過渡更多的決策權給機器，甚至是殺人的決定，而我們正在屈服於這趨力，後果將要發生。

雖然現在（在檯面上），各種致命武器都需要一定程度的人類掌控，但史瓦雷茲認為有三種趨力正在讓我們放棄這些掌控。第一，越來越多的國家正在研發遠程無人戰鬥機，而這些戰鬥機都佈滿了攝影機跟偵測裝置，產生「大數據」，這些數據不可能由人類來一一檢視，因此我們必然要透過演算法跟視覺軟體，讓機器告訴我們該注意什麼。第二，因為是遠程，所以在遠方的人類駕駛員跟戰鬥機之間的溝通必然透過電磁波，但很容易受到電磁波干擾攻擊，這樣戰鬥機就真的無用武之地，「除非」我們讓戰鬥機自行找尋跟決定攻擊對象跟攻擊時機。第三，對有心人士來說，要發起「匿名戰爭」門檻因為科技而大大降低，犯罪組織或是稍有權勢跟財力的個人都可以擁有這些無人自主致命武器，而且就算被找到殘骸，也很難指向特定攻擊者。

另外，我們現在用社群媒體跟手機產生的資料可以用來製成人際互動圖，找出意見節點跟意見領袖，廣告商可以依據這些數據來投放廣告或邀請試用產品跟代言，但同樣的資料也可以被極權政府跟犯罪組織用來打擊公共溝通，使得形成中的政治行動崩潰，而他們可以用的武器當然就包括自動且致命的無人機。

史瓦雷茲認為，各國需要一同避免這樣的情形發生（也就是他小說中描述的情節），禁止研發自動殺人機器，就像全球針對生化跟核武的限制一樣。越來越嚴峻的恐怖攻擊，族群衝突，國境紛爭，都可能成為導火線。而一般生活、農業、工業跟商業用途的無人機對史瓦雷茲來說並不是壞事，但一樣需要管制，建立一個「免疫系統」：讓每一台無人機都擁有編號，就像汽車跟飛機一樣，並且讓每個擁有手機的人都能夠下載 App，從上頭清楚得知附近無人機的位置跟工作狀態。

無人機不只在天空飛行，也會在陸地上、海洋裡出現，而且可能因為我們習以為常而更難以察覺，我們已經進入了這樣的世界，不能繼續讓自己假性無知了。

延伸閱讀：

鄭國威專欄／人工智慧殺人事件

無人機專題（三）／到底在搞什麼飛機－聽 Maker 剖析無人機世界的飛行秩序

機器人專題（二）／機器人出事後，是程式沒寫好、規範不周全，還是廠商的問題？