韓國被揭私下開發「自主意識殺人」機器人！「嚴厲抵制無效」學者：人類將加速滅絕

人工智慧專家警告，韓國大學正在開發一種可能摧毀人類的秘密機器人軍隊。人工智慧研究界最受歡迎的學者聲稱，韓國科學與技術高級研究院 (Kaist) 正與武器製造商韓華系統 (Hanwha Systems) 合作開發該技術。來自30個不同國家的50多位頂尖學者已簽署抵制該機構，並對其AI

April 6, 2018

編輯：ｔｈｉＣＣズッカー

台灣, 世界, 科技

人工智慧專家警告，韓國大學正在開發一種可能摧毀人類的秘密機器人軍隊。人工智慧研究界最受歡迎的學者聲稱，韓國科學與技術高級研究院 (Kaist) 正與武器製造商韓華系統 (Hanwha Systems) 合作開發該技術。來自30個不同國家的50多位頂尖學者已簽署抵制該機構，並對其AI計劃表示擔憂，稱其為「潘多拉的盒子」，專家認為人工智能和自動化殺人機器人不應該被用作戰爭武器。專家們對人工智能機器人為惡意目的而開發的可能性感到不安，並稱其可能導致第三次世界大戰。

%e9%9f%93%e5%9c%8b%e6%ae%ba%e4%ba%ba%e6%a9%9f%e5%99%a8

二十七位主要的人工智慧教授聚集在一起，譴責韓國Kaist大學在二月份啟動一個新的人工智慧武器實驗室。該實驗室是與韓國領先的武器公司韓華系統共同建立的。抵制信指出：「這個潘多拉盒子打開後將很難關閉。」該信由雪梨新南威爾士大學 (University of New South Wales) 的Toby Walsh教授撰寫，寄給Kaist院長Sung-Chul Shin教授。他在信中寫道：「像Kaist這樣的著名機構看來來加速了軍備競賽，這是令人遺憾的。因此，我們公開聲明，我們將抵制與Kaist所有合作，直到Kaist總監提供我們尋求但未收到的保證，即中心不會開發缺乏有意義的自主武器。」

廣告1

抵制和=譴責該機構的主因，來自對人工智能武器化潛力的擔憂。信中說：「如果開發出來，自主武器將引發第三次世界大戰革命。他們將加速戰爭，規模也將比以往更大。他們有可能成為恐怖武器。」在對新計劃作出反應之後，大學昨天發布了一份聲明，其中Shin Sung-chul院長提供了保證Kaist不再開發「天網」啟發的機器人。他非常明確地表示，該機構無意開發「致命的自主武器系統或殺人機器」。「作為一個學術機構，我們非常重視人權和道德標準。Kaist努力開展研究以為世界帶來更好的服務。我再次重申，Kaist不會進行任何嚴重違反人類尊嚴的研究活動，包括缺乏意義的人類控制的自主武器。」

Toby Walsh教授告訴CNN，他對Shin的回應感到滿意。抵制組織者尚未表示是否會回應Kaist主席的聲明。Walsh教授表示：「我仍然對他們打算做什麼有一些疑慮，但整體來說，他們已經做出了適當的回應。」

廣告2

在抵制被解除之前，學者將拒絕與Kaist合作。這包括訪問Kaist，接待來自學術機構的訪問者或為其參與的任何研究項目做出貢獻。下週在日內瓦，聯合國的123個成員國將討論致命自主武器或殺手機器人帶來的挑戰，其中22個國家要求徹底禁止這種武器。與化學和核戰爭類似，有些人認為戰爭不應該裝備自動化的殺人機器。韓國軍隊已經在朝鮮邊界安置了一個機器人小組。三星的SGR-A1帶有機槍，可以切換到自主模式，但目前仍由人類通過顯示畫面操作。