陸遠等了幾秒,繼續說道:
“智腦有一個核心指令。這是我們從第一行程式碼寫起就定死的——任何情況下,人類的決策權高於AI。智腦可以提建議,可以給方案,甚至可以推翻自己的方案,但最終的決策鍵,必須由人類的手指按下去。”
有代表站了起來。
是美利堅代表,那個曾在太平洋上與華夏對峙的前海軍上將。
他的嘴唇動了一下,似乎想說什麼,最終沒有說出口。
陸遠看向他,繼續說道:
“聯合理事會提議制定一份關於AI倫理的公約,我完全同意。我提議,這份公約應當包括三條核心原則。”
他舉起一根手指:
“第一,禁止任何國家、任何組織、任何個人,開發具備獨立自我意識的人工智慧。智慧可以很高,但不能產生‘我是誰’這個意識。自我意識是自由的基石,也是危險的起點。”
“第二,禁止對任何可能存在智慧生命或潛在智慧生命的星球實施殖民。宇宙很大,太陽系只是其中一粒沙。如果我們在火星上發現了哪怕一個細菌,那個細菌的演化方向,也應當由它自己決定。”
“第三,所有應用於軍事領域的人工智慧系統,必須保留不可移除的人工終止開關。這個開關的最終控制權,歸屬聯合國防務理事會五人常任理事國一致決議。任何單邊行動,將被視為對人類命運共同體的背叛。”
他放下手,聲音恢復到正常的講話音量:
“我是商人,不是政客。我講不出漂亮的辭藻。我只能告訴各位——我們剛從一場星際戰爭中活下來。我們贏得驚險,贏得慘烈,贏得幸運。下一次,如果沒有下一次的話,我們必須確保,敵人不是我們自己創造出來的。”
大螢幕上,先覺者小女孩的笑臉漸漸淡去,取而代之的是一行大字:
《星際文明AI倫理公約(草案)》
陸遠向後退了一步,對著全場微微欠身:“謝謝。”
大會堂裡沉默了三秒。
然後,又有人站了起來。
還是那個美利堅代表,老海軍上將。
他雙手緩慢而堅定地開始鼓掌。
掌聲瞬間蔓延到整個會場。
法蘭西代表站起來,俄羅斯代表站起來,巴西、南非、印度、東瀛、肯亞……
所有國家的代表全體起立。
掌聲像暴風雨一樣砸在大會堂的穹頂上,迴盪,再回蕩。
一位非洲小國的代表掌心都拍紅了,鏡頭掃過他的臉,他眼睛裡全是淚水。
東瀛代表團裡,那個曾經是主戰派的外相已經下臺了。
新上任的代表是個矮小的白髮老人,他鼓掌鼓得最用力,嘴裡低聲重複著一句日語。
後來的唇語專家分析那段影像時,讀出了那句話的意思:
”。了道知們我,了道知,了道知“
。位座回走中聲掌的雷如在遠陸
”。了惜可家說演當不,子皮這你,哥遠“:說他對音聲低,頭過偏沫李
”。的真是誌日段那者言預大,料資查查“,裡子椅進坐遠陸”。話假說沒可我“
”。的編你是為以我“:愣一沫李
”。多很差思意,字個三多。’要需們他得覺我‘了改’要需‘把我,’管接被要需們他‘是的寫誌日原。字個一了改實確候時的念我但“,口一了喝,蓋瓶水泉礦開擰遠陸”。事種這編不來從我“
”。害厲是真……人個這你“:來出了笑住不忍終最,秒幾好了看他著瞪沫李
。節環票投進會大
:佈宣重鄭,後文全案草約公完讀宣,上臺講在站長書秘








