「這兩個詞之間的區別,只取決於拿著最高許可權的人是誰。」
布魯斯沒有否認這一點。
「所以我才需要你來參與設計,維克多。」
「如果把這個系統完全交給那些政客和官僚,他們會毫不猶豫地把它變成一座數字監獄。」
「但如果由我們來設計,至少,我們還能在系統裡保留最基本的邊界。」
「邊界?」鋼骨問,「比如,不記錄我們的真實身份,只記錄行動代號?」
布魯斯點了點頭:「我的初始方案是,每個註冊的超人類都會獲得一個匿名的數字授權碼。」
「你們的真實身份由一個獨立的。三重加密的資料庫保護。」
「只有在發生重大傷亡。需要啟動追責調查時,經過聯合國安理會。超人類委員會以及當事方法律代表三方同時授權,才能解封。」
鋼骨發出一聲冷笑。
「你覺得那些政客會老老實實地遵守你設計的規則?」
「我不相信政客。」布魯斯的聲音冷得像冰,「所以我才要親自設計系統。」
就在這時,會議桌的另一端,託尼。斯塔克的全息投影閃現出來。
他看起來明顯沒睡好,眼窩深陷。
鋼骨看向託尼的投影:「如果接入我的母盒網路,系統的安全性會比地球上任何已知的網路都要高得多。但問題也更大。」
「母盒不是普通的計算機,它會學習,會自我擴充套件,會主動最佳化資訊路徑。」
「你們確定,要把這種擁有自主學習能力的東西,放進一個政治監管體系裡?」
「我們剛剛因為一個擁有自主學習能力的人工智慧,差點把整個地球砸成一塊隕石。」託尼的語氣裡充滿了自嘲和疲憊。
「你猜我確不確定?」
布魯斯看了一眼情緒不佳的託尼,開口道:「所以,我們不建立擁有自主決策能力的AI,只建立一個純粹的記錄系統。」
「所有行動的審批許可權,仍然由人類組成的委員會來完成。」
「母盒網路只負責資訊的加密。記錄。預警和異常追蹤,它本身不具備任何執行能力。」
鋼骨沉默了片刻,似乎在權衡利弊。
最終,他點了點頭:「我可以幫你們搭建原型系統,但我有三條絕對的限制。」
「第一,這個系統本身不能擁有任何武力執行許可權。」
「第二,系統的資料追蹤範圍,不能直接定位到任何人的私人生活場景。」
「第三,我必須保留隨時可以從後臺切斷母盒網路介面的最高許可權,也就是後門。」
託尼攤了攤手:「你看,我就喜歡後門,前提是這個後門掌握在自己人手裡。」
。答回地脆乾斯魯布」。件條的你意同我「
。論討的節細技了進即隨議會
。名簽量能的標目證驗準能就,下況的容取讀接直不在,構結加的規常穿何如是譜頻量能的盒母了示演們他向骨鋼
。案方技的面介錄記戴穿可級甲戰於關了充補則尼託而,念概的」子匣黑行類人超「個一了出提斯魯布








