留言討論


分享本文至 E-mail 信箱

當阿拉丁跟阿廣遇上人機協作的倫理難題|臺灣普拉思系列

本文由 臺灣普拉思 委託,泛科技企劃執行

  • 編按:你有想像過 2030 年的世界長什麼樣子嗎?科技發展到哪裡?他又怎麼影響了我們現在的生活呢?讓我們用一台未來的掃地機器人的視角,從它「偷聽」到各種漫畫與動畫人物的對話,來一窺未來有可能的樣貌吧!

事件發生在西元 2030 年的台灣,那時候迪士尼、宮崎駿、漫威各個漫畫與動畫人物,都被製作成真人了,他們開始舉辦演唱會、見面會、上脫口秀,他們活著而且有生命週期。他們成為業配廠商最想要合作的 KOL !但儘管是這樣的他們,也有著各式各樣不同的煩惱。

一間名為「臺灣普拉思」的廠商,設計了一款掃地機器人,編號 TW 2030,才不到幾個月,幾乎人人一台,無償地寄送給各大網紅,就像是智慧型手機一樣普及。但背後其實一點都不單純,就像 app 蒐集你的個資一樣,這台掃地機器人真正的目的不是掃地,他有個秘密任務:為了瞭解人們對於科技發展的適應性、提出更好的科技政策,他們偷偷利用這台掃地機器人蒐集使用者的意見。

別懷疑,我就是那個烏龜型掃地機器人,現在我要一步一步揭露這個大陰謀。以下內容來自一位使用者的電話錄音。

圖/NickyPe @pixabay

以下是阿拉丁跟阿廣的對話。

(按下播放鈕)

阿廣:「嗯,阿拉丁,我確認一下:你是說,因為一台烏龜掃地機器人,所以茉莉公主突然想到要找我跟大英雄天團的人,到阿格拉巴幫忙……做都市大改造?」

阿拉丁:「已經不是茉莉公主了,是蘇丹,不過她說朋友可以繼續稱呼她為茉莉。對啦,我們真的很需要你們的幫忙。茉莉昨天看到寄來給我試用的機器烏龜在臥室裡掃地,想到阿格拉巴的城市環境問題,如果能有這種好比精靈一樣厲害的科技,或許可以更快解決,所以就請我聯絡你啦!拜託,可以來一趟嗎?包吃包住喔!」

阿廣:「真的不需要我們順便打擊惡棍嗎?我們在舊京山可是很受歡迎的超級英雄喔!」

阿拉丁:「茉莉認為,比起解決一兩個惡棍,改善貧窮跟衛生環境,才是真的能讓阿格拉巴子民過好一點的方式。而身為一個孤兒與前街頭小偷,我認為她說得一點也沒錯!」

阿廣:「這我也同意,同樣身為一個孤兒與前街頭機器人格鬥玩家,這忙我幫了!茉莉有什麼特別交代嗎?」

阿拉丁:「對了,她說不希望你派出一大群被改造過的加強版烏龜機器人到街頭上,這樣不只會嚇到人民,也會把很多本來做打掃人員的工作搶走,她希望你能想出一個兩全其美的辦法,既能讓城市變乾淨、提高衛生條件,又能讓人民覺得被尊重,覺得有參與感。」

阿廣:「哇賽,這有點挑戰,不過誰叫我是天才呢,就讓我們大英雄天團來達成這個連精靈也辦不到的任務吧!在我出發前,我得先問你幾個問題。第一個問題,你聽過『莫拉維克悖論』嗎?」

阿拉丁:「莫拉維克?好像之前有個被茉莉拒絕的王子叫這個名字……」

阿廣:「完全不對!你是真的很沒自信,擔心茉莉被其他人搶走是吧?好啦,我快速解釋一下:

有位跟我一樣也是機器人科學家的老前輩,叫漢斯・莫拉維克,這個以他的名字命題的悖論是說:對人類困難的問題,對電腦來說卻是簡單的,而對電腦困難的問題,對人類來說則是簡單的。

舉例來說,要讓電腦像圍棋高手一樣下棋,甚至打敗人類,這算簡單,但要讓電腦像兩歲小孩一樣,能選出自己喜歡的貓貓玩偶,從客廳走到廚房,避開桌角跟地上的積木,卻是很困難的。」

阿拉丁:「我知道你想說什麼了,要讓機器去做最適合機器做的事,讓人去做人最擅長的事,互相幫助,這樣就不會有工作被搶走,人民卻無所事事,或是糟糕一點像我以前一樣,只能偷東西填飽肚子。」

阿廣:「沒錯阿拉丁,很多人擔心機器人會把人類的工作搶走,剝奪人存在的價值,但我認為那是因為他們不懂莫拉維克悖論。即使像杯麵那麼先進的照護機器人,也還是不能了解人的情緒跟環境的訊號而常常出差錯—雖然我還是很愛它啦。回歸正題,有太多的案例顯示,人類的決策充滿著偏見跟漏洞,自以為是反而得不償失,交給機器反而比較好。」

要讓機器去做最適合機器做的事,讓人去做人最擅長的事,互相幫助,這樣就不會有工作被搶走,人民卻無所事事。圖/IMDb

阿拉丁:「所以結論是,為了避免決策者把腦補當證據,我們必須減少倚賴專家的判斷跟預測?這我可以理解,畢竟阿格拉巴上一位被蘇丹倚重,堪稱專家的人是賈方,而他……算了,你知道的。那下一步呢?」

阿廣:「照著莫拉維克悖論說的做囉。人類負責提供世界觀、常識,以及提供資料給機器,並適當檢查機器的預測跟執行狀況,必要時推翻機器的決策。至於計算、預測、判斷跟部分的執行,則交給機器。以阿格拉巴的城市衛生問題來說,我現在想到的做法是,讓城市清潔人員穿上我設計的輔助裝備,一來讓他們工作時不會傷身體,提高安全性,二來可以同時偵測環境,紀錄噪音、空氣、髒亂程度,讓機器能根據這些資料,提出更好的預測。」

阿拉丁:「哇嗚,這主意真好!」

阿廣:「這還用說,我可是天才!等到收集到足夠的資料,還可以根據清潔人員的工作量來給薪,或是動態調整酬勞,例如要是阿格拉巴舉辦祭典時,有些街道垃圾比平常多,就可以提高那條街的清掃費用,讓想多賺一點的清掃員去認領。還可以讓附近的鄰里給清掃員打分數,或是給星等之類的,這樣可以激勵優秀的清掃員,淘汰不認真的清掃員。這模式在我們舊京山已經很常見囉!」

阿拉丁:「等等……這樣真的好嗎?阿格拉巴舉行祭典的時候,通常會有很多牛車、馬車、駱駝、甚至大象,平常也不少。要是清掃員為了搶工作而沒注意到安全,被動物跟車輛給撞到或壓到了……另外,有些地方是城市的死角,垃圾特別多,人們也不願靠近,這樣也不會有鄰里幫清掃員打分數或給星,那清掃員也就沒有動力去那些地方打掃了。」

阿廣:「嗯…這…但在舊京山很多服務真的都已經用這種『平台經濟』的模式在運作了,讓我們的生活變得很方便呢!」

阿拉丁:「我不是反對這個點子。要是以前的我,有像這樣的機會打零工賺錢,我也不會去當小偷。而現在的阿格拉巴的確需要讓機器跟人合體來做新工作。我只是覺得,在決定這麼做之前,茉莉跟我,還有大臣們,得先想想可能的影響。」

阿廣:「可是我得說,人通常對自己的能力過度自信,特別是居於高位的人。我懂,對一般人來說,要承認自己該把更多的判斷權交給機器,是有點不舒服的。但,我們應該為了避免不舒服的感覺,就讓人類繼續犯錯嗎?例如讓不公正的人類法官把不該釋放的人給放了,該釋放的人卻被繼續關著?或是讓容易分神或疲累的人類繼續掌握方向盤,使車禍在全世界的道路上每年殺死 100 多萬人?或是讓阿格拉巴的衛生不佳,使得孩子整天腹瀉,連上學也沒辦法呢?」

阿拉丁:「阿廣,冷靜下來,我只是想看看有沒有兩全其美的辦法。或許我們還是可以照你建議的,我們只需要在機器主導的決策流程中,設定人類需要介入的節點。除了茉莉跟大臣,我們也可以納入其他會受到這決策影響的人的意見,像是清潔員跟鄰里,我想茉莉肯定會接受的。茉莉說過,當一個決策的外部性很大,也就是決策的結果,對沒有參與決策的人的影響很大的時候,就該避免這樣的決策。我想這是因為她以前也被這樣的決策—像是公主只能跟王子結婚、公主不能離開王宮、公主不能當蘇丹—這些法令悶了很久。如果要讓你帶來的機器被國民接受,我們需要找到方法,把外部性降低,以免出了問題,大家都怪罪你我跟茉莉。」

阿廣:「這邏輯我接受,我建議導入機器時要指定負責的管理者,我也會讓機器決策的邏輯能夠被人類了解,而不是在沒人能懂的演算法黑箱裡。同樣的,為了讓人機協力更順利,我強烈建議當你們判斷必須介入決策的時候,要用量化的方式來紀錄,且必須要有明確的評量指標。才知道這樣的介入是否促進了決策的品質。另外,在全面推動之前,也可以先在一個特定區域試試看機器的效果,也就是所謂的『沙盒』。」

阿拉丁:「沙河?阿格拉巴周遭是有沙漠啦,沙河得找找。」

阿廣:「嗯,差不多啦,我之後再跟你解釋。我有另一個問題要問你:你知道腦機介面嗎?」

阿拉丁:「老雞戒麵?這不用擔心,我們這裡的雞都吃米,不吃麵的。」

阿廣:「那等我去拜訪時記得請我吃烤雞。不是啦!腦機介面是大腦跟機器之間溝通的管道,不是像耳朵貼著手機講電話這樣喔,而是一種不需要周邊的神經跟肌肉參與,直接透過偵測大腦訊號,找出訊號中的特徵,再轉譯為指令,讓機器運作的方式。」

阿拉丁:「我知道了,就是你用來控制 Microbot 的那個頭盔!」

阿廣:「沒錯!腦機介面最大的難關就是舒適度跟訊號品質之間的兩難,非侵入式,也就是在頭皮之上偵測訊號的方式獲得的訊號一點也不精準,但侵入式,也就是在頭蓋骨上,或是插入腦中的方式則很麻煩,更有感染、排斥、損傷大腦等等嚴峻挑戰。有的公司試圖提升技術,讓我們覺得插幾根細絲進大腦挺安全,也有公司先專攻演算法,讓轉譯指令的正確率隨著人工智慧深度學習的進步而持續提升。身為天才的我,當然是都搞定了,但這項技術實在太先進,也有被人偷走濫用的經歷,所以我把這項技術暫時封印了。但我在想,或許可以在阿格拉巴試試看基礎版本的腦機介面,你有什麼想法嗎?」

阿拉丁:「我懂,你的 Microbot 被盜用,就像當年神燈被賈方偷走一樣,太強大的力量都得謹慎使用。我想想,讓行動不方便的人用腦機介面來控制機器輪椅如何?雖然阿格拉巴不少動物都聽得懂人話,例如猴子阿布、老虎樂雅,跟賈方那隻紅色的鳥,但要讓每一隻牛跟駱駝都聽話實在是太難了,很多人需要更便利的移動方式,而魔毯只有一條。」

圖/IMDb

阿廣:「不愧是阿拉丁,總是替最需要的人著想,不過根據我的印象,阿格拉巴街頭可不太適合輪椅耶。」

阿拉丁:「這我有想到,我想成立一家社會企業,讓行動不便的國民搭乘用腦機介面控制的輪椅,到城市各地探查,看哪些路線跟地點該優先無障礙化,這樣一方面創造新的工作,也讓這些過去都被忽視的國民有工作可以做,對國家也會更有參與感。我以前總是跟阿布在城裡跳上跑下,躲生氣的城衛跟店主,雖然那時候我總是自怨自艾,但有我這樣的身手,畢竟還是幸運的。窮人並不想被施捨,只要能給他們機會,這是現在的我最想做的。」

阿廣:「哇賽,這點子也太棒了吧!我說真的,你該把這主意帶到舊京山來。」

阿拉丁:「能被天才稱讚,我很榮幸。就等你們大英雄天團大駕光臨囉!如果成功了,茉莉跟我會在國家精靈日致贈精靈獎章,並且辦一場盛大的派對好好感謝你們的!」

(錄音檔播放結束)

這下你都聽到了,先不要有反應,事情還沒結束。不要傳訊息給我、不要聯絡我,我下個禮拜會再聯絡你。

不過如果你也有些話想說,我們不錄音,你可以在這裏填寫你對未來科技世界的想像:2030臺灣普拉思 — 公民參與的科技願景,還能抽智慧手錶跟超商禮卷,真是一兼二顧。

關於作者


鄭 國威

鄭 國威

泛科知識公司知識長。
歡迎造訪我的個人 Youtube 頻道:鄭龜煮碗麵

留言討論


網站更新隱私權聲明
本網站使用 cookie 及其他相關技術分析以確保使用者獲得最佳體驗,通過我們的網站,您確認並同意本網站的隱私權政策更新,了解最新隱私權政策