鄭國威專欄／人工智慧殺人事件
最近有兩起「意外死亡事件」，特別引人注目。一則是 7/1 日發生在台灣海峽的海軍誤射飛彈，擊中台灣漁船，奪走船長性命事件，另一則是發生在 5/7 日，於美國佛羅里達州發生的首起特斯拉自駕模式車禍死亡意外，但也同樣在 7/1 日曝光。
才過了兩天，關於這兩起事件，已經累積非常多報導與評論。儘管都是令人難過的意外，而且相對罕見，但也讓關注者更了解軍武飛彈科技或自動駕駛技術的現況跟限制，我自己也看了不少，文末我會附上一些我看到的推薦給各位，作為延伸閱讀。
這兩起事件都還有賴兩地司法單位妥善調查，我也不是法官或檢察官，但從我的角度來說，我認為這是兩起與人工智慧有關的殺人事件，而我們必須開始認真看待人工智慧的倫理與法律問題。
在這兩天，不管你關注的是哪一件意外，我想共同的問題都是：這到底是怎麼發生的？先從發生在台灣的誤射飛彈事件說起，在事件發生後，各種陰謀論甚囂塵上，中共或前朝政府是否動手腳自然是首選題材。在那麼誇張的事件發生後，大家都處於一頭霧水，對「結論」的需求自然會醞釀出這樣的故事，也算是正常能量釋放的一種。大家不解的是：飛彈發射不是應該有很多關卡嗎？發現是誤射不是可以遙控解體嗎？為什麼會鎖定一艘漁船？為何擊中了卻沒有爆炸？為何一位中士就能夠獨力搞出這種事情？是疲勞、壓力、求好心切、自認熟練而輕忽、還是軍紀不彰而忽視 SOP？不管是陰謀論還是各種墨菲定律的集合體……許多說法都歸因於「人」。這些說法（包括有報導指出中士本人也說自己因為擔心操演最近都睡不好）傾向於將這些問題歸咎在「人」身上，認為機器並沒有問題。是人沒有好好設計，沒有好好操作。
也就是說，就是因為發射飛彈的過程中還有太多人為操作，而人會累、會懶、會偷雞摸狗，所以犯了這次的錯。那改善之道真的是更加倚賴人嗎？美軍算是世界一等一的軍隊了，不管是人還是科技，但誤射誤炸事件依舊頻傳，例如去年 10 月 3 日發生的昆都士醫院空襲事件。
事實上，中華民國國軍一直以來被詬病的就是「制度一堆都在那，但人會扭曲制度」，而讓所有的規範都變成只是舞台展演的劇本。從這個角度來說，我們該做的反而是將更多的權限交給機器，用演算法來降低人為影響，讓電腦來做出更好的判斷，而非加上更多道由血肉之軀裁決的關卡（或所謂的「幹部督導」）。從減少錯誤、即時反應等面向來說，都該繼續提高自動化程度，不是嗎？除了軍武科技以外，從股市交易到臉書廣告，再到自動汽車，我們不都在往這條路上走嗎？
但，若看仔細一點，這位釀禍的中士選擇了「作戰模式」–>「自動程序」–>「發射」，然後飛彈就發射了。飛彈為何為擊中漁船奪命呢？並非湊巧，沒有瞄準，也非刻意鎖定，而是飛彈的演算法讓飛彈自行搜尋附近的標的，自行決定攻擊對象，然後擊中。
「雄風 1 型飛彈現已除役，取而代之的雄二與雄三，具有終端導引模式。上午被誤擊的雄3，所輸入鍵入的方位雖然只是操演用的假方位，事前並未鎖定特定船隻，但飛彈抵達相關海域後，會自動開啟尋標器，由前而後、由左而右地搜索當地海域的目標，翔利昇號漁船不幸遭到鎖定，遭彈體貫穿，但因飛彈引信未被啟動，所以沒有爆炸。」
也就是說，中士雖然選錯模式，按了發射鈕，但真正讓飛彈擊中漁船的是飛彈上的尋標器跟演算法。若用凱文凱利的說法，飛彈就是帶有毀滅意圖的「科技體」。若今天這位中士射出的弓箭或子彈或是榴彈，在中士跟不幸的目標之間，僅存在自然定理，例如重力、風力、地球自轉等等。但在這起飛彈誤射事件中，人工智慧（儘管初階）是最終的決定者。更類似的案例是各種 UCAV 無人戰鬥航空載具，雖然都強調由人類遠端即時控制，但若真的投入戰爭，由程式控制，造成傷亡，若要歸咎戰爭罪，是該怪派出無人機的軍人、程式設計師，還是人工智慧呢？
值得對照的是，在特斯拉這起剛曝光的車禍事故中，諸多的討論都聚焦在自動駕駛「科技」的盲點，例如虎嗅網轉載這篇來自微信公眾號 Robotics 的文章寫到：
「7 月 1 日一早，特斯拉發表博客敘述了 NHTSA（美國國家公路交通安全管理局）正在著手調查第一起 Tesla 自動駕駛致死的車禍。該車禍是今年 5 月 7 日美國弗羅里達洲一位名叫 Joshua Brown 的 40 歲大哥開著一輛以自動駕駛模式行駛的 Model S 在高速公路上行駛，全速撞到一輛正在垂直橫穿高速的白色拖掛卡車（如圖）。」
而作者認為特斯拉的三個傳感器系統通通在這起事件中發揮不了作用，原因可能是：
- 擋風玻璃中間的 MobileyeEyeQ3 視覺系統：長焦鏡頭無法識別是卡車還是雲，對漂浮物體的偵測還不夠好，演算法無法從大面積白色障礙物提取特徵點。
- 前保險槓下方的毫米波雷達：安裝位置過低。
- 車輛四周的 12 個超聲波傳感器：高速行駛下無作用。
也就是說，特斯拉的人工智慧可能在當下判斷：那只是遠方的雲，繼續保持高速前進即可。然後他就死了。當然，人的因素還是存在。這起車禍中另外一位當事人，也就是卡車司機，表示死亡的 Brown 先生當時正在玩遊戲，並沒有好好地把手放在方向盤上，但這說詞令我存疑，畢竟高速撞擊的那一刻卡車司機如何能看見特斯拉車主在幹嘛呢？而且就算真的是在玩遊戲，又怎樣呢？
特斯拉推出自駕模式後，從沒有忘記強調自駕模式並非完美，駕駛仍需保持注意，把雙手放在方向盤上，但自從自駕模式啟用以來，太多的車主跟科技媒體不斷以更誇張的方式來展示特斯拉帶給世界的科技奇蹟，例如在車上睡覺、玩牌、XXX……儼然是科技試膽大會，這是一種透過展現自己對先進但具有風險的新科技的信任來炫耀自己擁抱科技的態度，因為擁抱科技在當代是值得炫耀的。
別誤會了，我並不認為這些行為有什麼道德上的問題，要是我也會這樣做，但是觀看者能否有足夠的判斷力去認知這些「炫耀性質的展演」，是另一個問題。Brown 先生在意外發生之前是一位超級特斯拉迷，上傳過多則特斯拉自駕的影音，我認為這是我們這些科技擁護者的特點：我們想讓其他人「知道／認為」自動化科技與人工智慧是迷人的，而且會是我們生活的最佳伴侶。我相信慘死的車主在死前都還全心信任著、倚賴著特斯拉的人工智慧，把自己交給它。所以，這起車禍，若同樣要究責，該怪誰？是讓我們崇拜的 Elon Musk、慘死的車主、還是人工智慧呢？
我並沒有正確答案，但我認為這兩起事件告訴我們的是：我們已經進入了人工智慧扮演極重要角色的時代，會有更多不管是正面或負面的事件發生，我們會越來越不知道該如何歸咎，諸般倫理跟法律問題已經襲來，請做好準備。
ps. 可能是我比較孬，但我覺得誤射事件發生之後，有些文章在想像並討論之後如何用這起事件作為廣告來外銷台製飛彈，是蠻殘忍的。私底下軍火交易真這樣做就算了，放在檯面上討論是要人情何以堪。若是無差別殺人事件發生後，刀商拿兇手連砍 N人依舊鋒銳當作廣告，我們絕對看不下去，但是戰爭的世界可以，這就是戰爭的可怕。
延伸閱讀：
留言討論