《AI神權》第832章 有倫理約束(1)

作者:么么大叔·17小時前

禁閉室裡,丁一敲程式碼的手忽然停了。

他聽見了聲音。

很輕,隔著厚厚的鋼板傳過來,斷斷續續。

很明顯,這是故意讓他聽見的。

但他能辨認出是藍汐在說話。聲音不高,但每個字都咬得很清晰。

“……你們不明白……‘先知’不是你們想的那種……簡單的預測工具……”

丁一屏住呼吸,手指懸在鍵盤上方。

“它有倫理約束層……是林風親自設計的……程式碼裡嵌了道德判斷模組……”

藍汐的聲音頓了一下,像是喘了口氣,接著說:

“系統不能進行可能引發市場崩潰的極端交易……不能針對特定國家或群體惡意做空……不能違反……‘不主動製造災難’的原則……”

丁一的心臟猛地跳了一下。

他懂了。

藍汐在傳遞資訊,在用一種只有他能完全理解的方式。

她確實聽懂了之前自己敲牆壁時傳遞的意圖,拖延,混淆,抬高對方的期望閾值。

“先知”系統確實有倫理約束,這是真的。

當初林風和他討論這個問題時說過:“丁一,這東西太厲害,不能沒有韁繩。賺多少錢是其次,但不能因為我們,讓普通人傾家蕩產。”

所以他們在系統核心加了一層道德判斷神經網路,它會模擬無數種市場情景和社會影響,自動過濾掉那些雖然暴利但可能引發連鎖風險的交易策略。

這也是為什麼星月量子基金賺了那麼多錢,卻從來沒有引發過監管機構真正警覺的原因,他們的交易記錄經得起查,甚至某種程度上,起到了市場穩定器的作用。

但現在,藍汐在把這個特性主動告訴敵人。

她在暗示:你們想要的那個“無敵的賺錢機器”,其實是被閹割過的版本。真正的完整系統,是有枷鎖的。

而如果對方想要的是純粹的、無限制的暴力掠奪工具……那他們可能會失望,或者至少,會對“先知”的盈利能力產生不切實際的期待落差。

這招很聰明。丁一心裡一緊,又有點發酸。985本科生藍汐原本只是個行政秘書,是他一點點教她程式設計基礎、給她講AI原理、陪她看論文。她學得很快,後來甚至能和他討論神經網路架構的優劣。

但他從來沒想過,有一天她會用這些知識,在這樣一個地方,為他爭取時間。

丁一重新把手放回鍵盤。

敲擊的方向變了。

他開始構建那個倫理約束層。

這部分程式碼極其複雜,因為它處理的不是數學問題,是模糊的、充滿矛盾的道德判斷。

比如:一筆交易能讓基金賺十億美元,但可能導致某個發展中國家貨幣貶值5%,觸發債務危機,做還是不做?

。險風律法的在潛和譽聲期長慮考要還,數變重多等理心會社、濟經、治政擬模要需統系

”。客機投的嗜是不而,家行銀派老的知良有個像它讓“:是求要的提初當風林

。”心核測預易“的要想正真人敵是不並但,分部一的統系”知先“是實確們它,碼式程的測莫深高來起看、謹嚴、實真行萬幾寫裡這在以可一丁

。層一著隔還,法算演心核的波場市測預準能個那離,上際實但,”業專“常非來起看會,告報樹策決的雜複生會,力算量大耗消會來起行執碼式程些這

猜你喜歡

同題材或同分類的其他作品。