在演算法殺人之前，或許我們該先殺死它們
ifanr ifanr 發表於 2019年6月01日 09:30 收藏此文
第一次武器革命是火藥。
這個始於 1000 多年前中國煉丹術的武器，在北宋末年可一炮燒燬城門，《金史》對稱為「震天雷」的武器有這樣的描述：「火藥發作，聲如雷震，熱力達半畝之上，人與牛皮皆碎並無跡，甲鐵皆透」。
13 世紀傳入西歐後，靠冷兵器耀武揚威的騎士階層從此衰落，隨著無煙火藥、雙基發射藥、雷管等的出現，才產生了真正意義上的軍事革命，現代意義上的火箭、炸彈、導彈隨之而來，戰場上開始炮火連天。
第二次武器革命是核彈。
人類只在一次戰爭中使用過核武器，第二次世界大戰期間，美國在日本的廣島市和長崎市投下兩枚原子彈。
1945 年，日本廣島在一聲震耳欲聾的蘑菇雲爆炸下，瞬間淪為火海，71379 位無辜平民受難，建築和人類都如原子一般分崩離析。核爆炸產生的巨大破壞力，還產生了幾萬年都無法消失的放射性危害。
這就是將來的第三次武器革命：AI。它也是一場無形的武器革命。
其實我們日常生活中對 AI 已經並不陌生，從 Siri 透過語音辨識我們的需求，到網路透過使用者畫像實現對廣告的精準投放，2017 年，進化版 AlphaGo 的 Master 機器人甚至團滅圍棋頂尖高手，AI 技術以肉眼可見的速度在進步。
AI 武器將成為一個自主性的殺傷性武器，不僅將能在任何環境下被任何人採用，還能讓戰爭變得工業化、超越人類道德規範，從而變得無法掌控。這也是為什麼它在火藥和核彈之後，被稱為武器的第三次革命。
現在，AI 武器已經被美國、俄羅斯、英國、法國、以色列和韓國等國家部署和開發，包括 381 種部分自治武器和軍事機器人系統。這些基於人工智慧的槍支、飛機、船隻、坦克、機器人，將有可能在演算法的控制下，掀開未來的世界大戰。
它也被視為一種致命自主武器系統（LAWS）——不僅「會思考」，能辨別自然語言，還能「有意識」地尋找和辨別攻擊目標，以傳統武器和士兵無法比擬的速度和效率消滅對手。
只要人們在武器內設定了演算法，再加上豐富的感測器、不同功能的監視器等，一個武器就能精準辨識、跟蹤、定位某個戰鬥人員，還能中途重新編輯程式和篡改演算法，跟蹤更多戰場變量。
在密集的戰鬥空間裡，決策、部署和速度就是關鍵資產。AI 能夠精確制導武器，不用士兵操縱，就能讓飛機、戰艦、裝甲車大規模絞殺敵人，獲得更顯著的勝利機會。
以往的戰鬥速度和持續時間都會被改變。因為 AI 武器的殺戮速度，無論是在行動還是思維上，都完全可以超過人類保護自己的速度。
它可怕的地方還在於：每個人，都能利用 AI 的技術讓武器變成「殺手」。
植入武器的演算法，不需要以往高價或稀少的原料，一個程式設計師和一個3D列表機，就能做出一群武器製造商才能做出的東西；資金充裕的人，就能實現一個超級大國用一支軍隊才能辦到的事情。
這將使武器廉價大量生產，使戰爭產業化。
另外，AI 在軟體系統中，也能成為一種武器，同樣會造成可怕的後果。可以預見的是，恐怖主義的恐慌必將升級，人們將整日覆蓋在訊息恐慌的無形陰影之下。
AI 擺脫人類、替代人類、控制人類、成為新物種都很遙遠也並不現實，且完全自主的 AI 武器現在還沒出現。
各國正在研究的 AI 武器一般包括七大類：遠端自動射擊機器人、智慧型無人機系統、無人艦船與潛艇、自主射擊陸戰武器、智慧型導彈體系、網路攻擊與衛星攻擊武器等等。
美國五角大廈的軍方智囊團一致認為人工智慧、機器人和人機協同將改變戰爭進行的方式。俄羅斯高級軍事官員也表示，機器人近幾年內將在戰爭中被廣泛使用。
國際數據公司的研究表明，全球機器人技術支出將從 2016 年的 915 億美元翻倍增長到 2020 年的 1880 億美元。
人工智慧正在顛覆原有的社會結構和分配方式，數據已經成為了最重要的資源。
科技的邊界是無限的，但法律和政治需要邊界。
荷蘭反戰非政府組織帕克斯（Pax）在新報告中擔心軍備競賽因此爆發，並表示「要防止最終的災難，必須採取全面禁令。」
目前，有 28 個國家明確支持禁止使用完全自主武器，但美國、英國等國反對這樣的禁令，認為禁令「為時尚早」，還能探索開發和使用自主武器的潛在優勢，國家武器審查是處理自主武器的最佳方式。
2013 年 4 月起，和平組織 PAX 共同創立了國際知名的阻止殺手機器人運動，近年來，一直在推廣禁止自主武器的開發、生產和部署，以及關注其中的法律、道德和安全問題。
對於 PAX 而言，AI 武器必須被禁止的最重要的原因，就是其中的道德問題。
標籤: AI,人工智慧,人工智能
