你手中的程式碼，可能變成他們的子彈

• 2019 年 12 月 1 日
• 筆記

By 超神經

今天在新加坡進行的朝美會談，美國總統川普與朝鮮最高領導人金正恩進行歷史性會晤並簽署文件。

近期的國際局勢，真的會因為今天的歷史性握手，而太平么？其實我們一直關注和投身的 AI ，作為一項民用科技中發展出的技術，正前所未有的接近軍事戰爭。

34 歲的金正恩與 72 歲的川普，代表敵對了近 70 年的朝鮮與美國，在新加坡嘉佩樂酒店，把手握在了一起，時間大約 13 秒。

朝鮮近年的核計劃、美軍主動攻勢、俄羅斯和中國的旁觀防守態度，國際局的勢風雲詭譎，都讓整個世界陷入階段性焦慮。

不同於數十年前的冷戰，當代國家越來越重視在資訊技術上的投入，以創造出更先進的軍事武、培養更多更領先的軍事人才，來爭取自己的世界地位。

發展軍事科技，先發展人才

發展軍事科技，美國自然不必多說，他們一直主張人才至上。

不過美國的趨勢是，主流 MIT、Stanford 這些知名學府培養了不少工科人才，但他們通常是直接進入工業界的應用型人才，很少針對國防軍事進行培養。

跟國外不同，中國是軍事科技一把抓。比如我們熟悉的中國科技大學、國防科技大學、解放軍資訊工程大學等知名院校都設有電腦、電子資訊、大數據等現代科技專業，幾乎針對國防軍事進行定向培養和輸送。

另外，中國還有著中國特色學生類型：國防生，他們出沒在各個大學中，享受著優惠的學費政策和嚴格的培養計劃。

我們的老鄰居俄羅斯也十分注重人才培養，尤其是在電腦科學領域。大家都知道他們的數學基礎實在是太好了，所以自 1977 年 ACM 成為一項國際性賽事以來，俄羅斯基本就是奪冠最多的國家。

戰鬥民族真是比不了

今年在北京大學舉行的 ACM 想必不少小夥伴也都看了，俄羅斯在內的的數所東歐大學，再一次怒刷存在感，狠虐了其他國家。

不過，由於缺乏創業環境，以及太多壟斷性行業，這些聰明的程式設計師很難在科技領域發展，如果他們想要為國出力，也就只能去造坦克了。

今天刷屏的「白頭山天降偉人」偉大領袖金正恩將軍所領導的朝鮮，在人才競賽上就比較尷尬了，本來中國能成為大學的學校就屈指可數。而電腦科學領域，也就金策工業綜合大學能拿得出手，可以說人才匱乏。

加上整個國家比較封閉，在核計劃夭折後，這些為數不多的理工人才也只能繼續給國家造潛艇，也很為朝鮮的技術人才感到擔憂，畢竟偉大領袖金正恩將軍吹過的牛實在是太多了。

Marven 項目真的結束了么？

話說歷經 3 多個月，3000 多名員工的聯名抗議後，各方輿論壓力之下。Google終於放棄和美國軍方「Project Maven」項目的續約計劃。這是一次技術的勝利，但絕不是互聯網公司與國家層面軍事計劃合作的結束。

Project Maven 這個項目，最早是由內部員工爆料，當時 Google 正通過一家私密的中間公司為美國軍方提供 AI 方面的知識和技術支援，幫助美軍發展無人機 AI 系統，並允許軍方使用 Google Cloud 並指導支援他們使用 Tensorflow。

雖然在公司內部掀起了前所未有的爭議，還引起了極大的輿論壓力，也僅僅是停止了 Marven 的項目合作。如果你覺得 Google 這就在美國軍事行動中收手了，這就太 Naive 了。

美國國防部每年在資訊技術上近百億美金的科研投入，遠高於其他國家，甚至是數十個國家的整體國防投入的總和。而我們所知道的 Project Maven 只不過是冰山一角。

除了 Google，但其實 IBM、Microsoft 等也在為美國國防部的各種軍事項目提供技術支援。

世界戰場召喚民用 AI 技術

互聯網公司工程師們一直在推進 AI 技術的發展，這樣的民用客機，能被直接用來研發軍事武器，參與軍事戰爭么？

從目前已經實現的技術來看，AI 的自主性是建立在歷史數據的基礎上，依靠強大的運算能力，AI 能基於歷史對未來行為進行簡單預測。

但這些數據卻不足以支撐 AI 形成像人類一樣的道德準則。它們不知道種族主義，也不知道殺人的含義，它們只會機械的執行既定演算法的命令。所以，過分依賴數據也是AI的致命缺陷。

如果輸入的數據是一些負面，甚至帶有偏見的，AI 就會做出帶有偏見的行為，甚至放大偏見，比如種族歧視、性別歧視等。人類能夠用道德約束自己，但對AI而言，數據就是它的道德。

按照 AI 的行事邏輯，川普空襲敘利亞就不會是發射幾枚導彈這麼簡單了。而且在人為控制下，很難保證輸入的數據不具備主觀性，而這種主觀性則帶有偏見。

Google 退出與軍方的一個項目是輿論的勝利，但並不代表互聯網公司帶頭研發的 AI 技術不會繼續被應用到軍事領域。英國政府不久前出台過一份 AI 發展原則：

• AI 應該為了人類共同利益而開發；
• AI 要在可理解和公平的原則下運作；
• AI 不能被用來削弱個人、家庭或社群的數據權和隱私權；
• 任何公民都有權接受教育，使他們能夠在精神、情感和經濟上與人工智慧共同發展；
• AI 不應具有傷害、摧毀或欺騙人類的自主力量

各位 AI 工程師們，結合自己的項目，來品讀一下。

超神經 小百科

單詞

labeling

['leɪblɪŋ] 標註

geospatial

地理空間;地理;地球空間資訊

片語

hierarchical categorization 多層分類

nonlinearity 非線性