未來的自治化殺人系統已經來臨,只是它們還不是武器而已

    加入我們永遠收到最新的消息

自治化殺人機器人

當討論到自治武器系統時,無可避免地會立即對照到魔鬼終結者中的殺人機器人,令人感到意外的是,包含Stephen Hawking, Noam Chomsky, Elon Musk,google的Demis Hassabis,Apple的Steve Wozniak等學者、技術專家和企業家,共同連署寫信呼籲禁止此系統。

信中結論: 連署者提到自治武器的威脅在於,會變成大規模戰爭中普及的武器,甚至是 “暗殺"、破壞國家穩定、控制人口以及選擇性殺害特定族群”。

推薦文章:  法國為推動乾淨能源,禁止新石油和天然氣的鑽探

這項技術方向的終點很明顯:自治武器將會變成明日的Kalashnikovs(AK-47的發明家)。人類現在面臨的關鍵問題是,是否應該展開一場AI軍備競賽還是在一開始的時候就阻止。

'TERMINATOR 3: RISE OF THE MACHINES' FILM STILLS - 2003...No Merchandising. Editorial Use Only. No Book Cover Usage  Mandatory Credit: Photo by c.Warner Br/Everett/REX (421101h)  'TERMINATOR 3: RISE OF THE MACHINES'  'TERMINATOR 3: RISE OF THE MACHINES' FILM STILLS - 2003

這些擔憂是很難推託的。但重要的是,不要減少對科幻小說中終結者的形象,自我陶醉的假設AI正在那裡等著殺我們。這些爭論中有更重要的人與政治方面的議題需要被檢討。

如同他們所描寫的,問題並不是終點,而是起點。全球的人工智慧軍備競賽已經開始了。其中最令人擔憂的是,它總是看起來不像是如此。依當時在冷戰期間先發制人的原則,攻擊系統和防禦系統兩者間的差異是很模糊的,舉例來說,攻擊就是最好的防守,本質上就是混和兩者。自治系統可相對容易,重新編製程式轉換為攻擊系統或是防禦系統。

真實世界中的自治系統

全球監視系統2

星球地表研究院(Planetary Skin Institue)和惠普的地球中樞神經系統(CeNSE)是兩個建立智慧遠端感測系統網路的專案,此系統可對地震或潮汐提供預警,並根據資訊自動做出行動。

由NASA及思科系統(Cisco Systems)所創辦的行星地表研究所,致力於建立一個行星生態監控的平台,此平台不僅有能力提供資料給科學家,也可以監控極端氣候、碳存量、可能違反條約的活動,並能辨識所有類型的潛在環境風險。這是個很好的主意,自治武器的軟硬體、設計準則,本質上跟自治監測系統是相同的。科技與它的應用是矛盾的,現在廣泛使用的網際網路、GPS衛星和很多系統,原本是軍事用途的。

推薦文章:  科學家說: 外星人可能早在人類進化之前就來過地球了

全球監視系統

獨立非營利的行星地表研究所,他們想要用科技改善人的生活,他們宣稱要提供一個平台作為全球的公共需求做善事,並與他人合作開發過程中可提供幫助的創新。當中沒有提及到的是,它有淺力貨幣化全部收集到的資訊,感應器即時的資訊可以自動更新全球金融市場與觸發股票的自動買賣。

星球地表研究院的系統提供遠端、自動感測系統提供即時、全球遠端資料追蹤,它的口號是”監測、預測、行動”,事實上,依此相同規則,AI自治武器系統也能這樣運作。信中說到 “AI是繼火藥、核子武器後,戰爭中的第三次革命”,當無人駕駛飛機在2002年從遙控飛機轉變成智慧型武器,就已經有能力建造可自行選擇目標並攻擊的AI武器了。

未來就是現在

我們不應該猜測未來的事,我們反而應該處理來自冷戰期間的自治武器的遺物、從第二次世界大戰和冷戰時期的大學、企業和軍方間研究與發展部門而來。成立於1958年的美國國防高等研究計畫署(DARPA),就是冷戰時的遺物,對投機性研究仍追求一個很活躍的高風險、高報酬模式。

透過資助計畫和競爭,研究和發展創新擴展到民間企業,本質上冷戰計畫的延續是透過民間企業的發展。國安產業在結構上,已經和政府政策、軍事計畫和經濟發展緊密結合了。為了考慮AI武器的禁用,必須指出圍繞在政治與經濟體系周圍更廣泛的問題,因為這些武器有利可圖,重點會放在軍事科技上。

核子彈爆炸

關於核子彈的歷史淵源,作者EL Doctorow說到:”一開始,核子彈是我們的武器。然後,它變成我們的外交政策,再來,它變成了我們的經濟”。當它們影響自治武器發展時,我們必須批判性衡量這三樣東西,如此一來,我們才可以討論此必然性,不是執迷於技術上,而是在允許與鼓勵這件事的政策上。
加入好友
來源: Iflscience