人工智能的未來是人機(jī)環(huán)境系統(tǒng)智能
軍事智能就像戰(zhàn)爭(zhēng)一樣，是一團(tuán)迷霧，存在著大量的不確定性，是不可預(yù)知、不可預(yù)測(cè)的。從當(dāng)前人工智能的發(fā)展趨勢(shì)來看，可預(yù)見的未來戰(zhàn)爭(zhēng)中，存在著許多人機(jī)融合隱患仍未能解決，具體有：
?。?）在復(fù)雜的信息環(huán)境中，人類和機(jī)器在特定的時(shí)間內(nèi)吸收、消化和運(yùn)用有限的信息，對(duì)人而言，人的壓力越大，誤解的信息越多，也就越容易導(dǎo)致困惑、迷茫和意外。對(duì)機(jī)器而言，對(duì)于跨領(lǐng)域非結(jié)構(gòu)化數(shù)據(jù)的學(xué)習(xí)理解預(yù)測(cè)，依然是非常困難的事。
?。?）戰(zhàn)爭(zhēng)中決策所需要的信息在時(shí)間和空間上的廣泛分布，決定了一些關(guān)鍵信息仍然很難獲取。而且機(jī)器采集到的重要的客觀物理性數(shù)據(jù)與人類獲得的主觀加工后的信息和知識(shí)很難協(xié)調(diào)融合。
（3）未來的戰(zhàn)爭(zhēng)中，存在著大量的非線性特征和出乎意料的多變性，常常會(huì)導(dǎo)致作戰(zhàn)過程和結(jié)果諸多不可預(yù)見性，基于公理的形式化邏輯推理已遠(yuǎn)遠(yuǎn)不能滿足復(fù)雜多變戰(zhàn)況決策的需求。鑒于核武器的不斷蔓延和擴(kuò)散，國(guó)家無論大小，國(guó)與國(guó)之間的未來戰(zhàn)爭(zhēng)成本將會(huì)越來越高。無論人工智能怎么發(fā)展，未來是屬于人類的，應(yīng)該由人類共同定義未來戰(zhàn)爭(zhēng)的游戲規(guī)則并決定人工智能的命運(yùn)，而不是由人工智能決定人類的命運(yùn)，究其因，人工智能是邏輯的，而未來戰(zhàn)爭(zhēng)不僅僅是邏輯的，還存在著大量的非邏輯因素。
?。?）鑒于各國(guó)對(duì)自主裝備分類不同，對(duì)于強(qiáng)人工智能或叫通用人工智能類武器概念的定義和理解差距都很大，所以當(dāng)前最重要的工作不時(shí)具體的技術(shù)問題如何解決（技術(shù)迭代更新的非?？欤?，而是有關(guān)人工智能應(yīng)用基本概念和定義如何達(dá)成共識(shí)，如：：①什么是AI？②什么是自主？③自動(dòng)化與智能化區(qū)別是？④機(jī)器計(jì)算與人算計(jì)的區(qū)別是？⑤人機(jī)功能/能力分配的邊界是？⑥數(shù)據(jù)、AI與風(fēng)險(xiǎn)責(zé)任的關(guān)系如何？⑦可計(jì)算性與可判定性區(qū)別等等。
有的定義還很粗略，需要進(jìn)一步細(xì)化，如從人類安全角度看，禁止“人在回路外”的自主武器是符合普世價(jià)值且減少失控風(fēng)險(xiǎn)必要之舉，但是什么樣的人在系統(tǒng)回路中往往就被忽略，一些不負(fù)責(zé)任的人在防疫系統(tǒng)中可能會(huì)更糟糕；
?。?）對(duì)于世界上自主技術(shù)的發(fā)展情況，建議設(shè)立聯(lián)合評(píng)估小組，定期對(duì)自主技術(shù)發(fā)展情況進(jìn)行細(xì)致的評(píng)估與預(yù)警，對(duì)技術(shù)發(fā)展關(guān)口進(jìn)行把關(guān)，對(duì)技術(shù)發(fā)展進(jìn)行預(yù)測(cè)分析，對(duì)進(jìn)行敏感技術(shù)開發(fā)的重點(diǎn)機(jī)構(gòu)和研發(fā)人員進(jìn)行定向監(jiān)督，設(shè)立一定程度的學(xué)術(shù)開放要求。
?。?）AI軍用化發(fā)展所面臨的安全風(fēng)險(xiǎn)和挑戰(zhàn)主要有：
?、?a href="http://jingdaile.cn/" target="_self">人工智能和自主系統(tǒng)可能會(huì)導(dǎo)致事態(tài)意外升級(jí)和危機(jī)不穩(wěn)定；
②人工智能和自主系統(tǒng)將會(huì)降低對(duì)手之間的戰(zhàn)略穩(wěn)定性（如中美、美俄之間戰(zhàn)略關(guān)系將更加緊張）；
③人和自主系統(tǒng)的不同組合（包括人判斷+人決策、人判斷+機(jī)決策、機(jī)判斷+人決策、機(jī)判斷+機(jī)決策）會(huì)影響雙方的態(tài)勢(shì)升級(jí)；
④機(jī)器理解人發(fā)出的威懾信號(hào)（尤其是降級(jí)信號(hào)）較差；
?、?自主系統(tǒng)無意攻擊友軍或平民的事故將引起更多質(zhì)疑；
?、?人工智能和自主系統(tǒng)可能會(huì)導(dǎo)致軍備競(jìng)賽的不穩(wěn)定性；
?、?自主系統(tǒng)的擴(kuò)散可能引發(fā)人們認(rèn)真尋找對(duì)策，這些對(duì)策將加劇不確定性，且各國(guó)將擔(dān)憂安全問題。
計(jì)算應(yīng)對(duì)“復(fù)”，算計(jì)處理“雜”，寫作文就是一種計(jì)算計(jì)過程，只不過不是用數(shù)字圖形，而是用文字符號(hào)。
人類不可能完全掌握世界，但可以嘗試?yán)斫馐澜?，這種智能會(huì)催生出更新的哲學(xué)范疇和思考。
在馮·諾伊曼生前出版的最后一本關(guān)于大腦和計(jì)算機(jī)之間關(guān)系的著作，《計(jì)算機(jī)與人腦》中，馮·諾伊曼總結(jié)了自己以上觀點(diǎn)，并且承認(rèn)大腦不僅遠(yuǎn)比機(jī)器復(fù)雜，而且大腦似乎沿著他最初設(shè)想的不同路線來實(shí)現(xiàn)其功能。幾乎蓋棺論定般地，他認(rèn)為使用二進(jìn)制的計(jì)算機(jī)完全不適合用來模擬大腦。這是因?yàn)樗呀?jīng)幾乎可以論定，大腦的邏輯結(jié)構(gòu)，和邏輯學(xué)、數(shù)學(xué)的邏輯結(jié)構(gòu)完全不同，那么，“從評(píng)估中樞神經(jīng)系統(tǒng)真正使用的數(shù)學(xué)或邏輯語音的角度來看，我們使用的數(shù)學(xué)的外在形式完全不適合做這樣的工作?！?/p>
最近的科學(xué)研究也證實(shí)了這一點(diǎn)。法國(guó)神經(jīng)科學(xué)家羅曼·布雷特的發(fā)現(xiàn)從根本上質(zhì)疑了大腦和計(jì)算機(jī)底層架構(gòu)上的一致性，即神經(jīng)編碼?？茖W(xué)家們受到大腦和計(jì)算機(jī)之間隱喻的影響，將技術(shù)意義層面上的刺激和神經(jīng)元之間的聯(lián)系，轉(zhuǎn)移到了表征意義上神經(jīng)元編碼徹底代表了刺激。事實(shí)上，神經(jīng)網(wǎng)絡(luò)是如何以一種最佳的解碼方式將信號(hào)傳遞給腦中的理想化觀察者的“下游結(jié)構(gòu)”，至今是未知的，甚至在簡(jiǎn)單的模型中也沒有明確的假說。那么，這種隱喻會(huì)導(dǎo)致科學(xué)家們只關(guān)注感覺和神經(jīng)元之間的聯(lián)系，而忽視動(dòng)物的行為真正對(duì)神經(jīng)元的影響。
匈牙利神經(jīng)科學(xué)家蓋伊爾吉·布薩基的研究結(jié)果更為激進(jìn)。在他的《由內(nèi)而外的腦》一書中，布薩基指出，大腦事實(shí)上并不是在通過編碼表征信息，而是構(gòu)建了信息。在他看來，腦并不是簡(jiǎn)單被動(dòng)地接受刺激，然后通過神經(jīng)編碼來表征他們，而是通過積極地搜索各種可能性來測(cè)試各種可能的選擇。這無疑是對(duì)于用計(jì)算機(jī)來比喻大腦的隱喻的全盤推翻。
無論是從腦科學(xué)，還是計(jì)算機(jī)科學(xué)的角度，這種將大腦比作計(jì)算機(jī)的隱喻壽命或許都將不再延續(xù)?？撇济翡J地指出，這種隱喻被作用到人們對(duì)于計(jì)算機(jī)的研究之中，讓人們盲覺，縮小了真正該研究的范圍。
（作者：白駒）