《硅谷晨昏線》第十九章 倫理樹的萌芽(2)

作者:冰水寒之·5個月前

“當人類知道自己在訓練AI倫理時,他們自己的倫理判斷也會變得更敏銳。”

他提議做一個對照實驗:讓一半志願者知道自己在訓練AI,另一半以為只是在做普通的內容評價。比較兩組標註結果的差異。

結果令人深思。

知情組的標註更細緻、更寬容,更傾向於思考“這樣設計對大多數使用者是否有利”。

不知情組的反應更本能、更嚴厲,更多基於個人感受。

“透明度改變了遊戲規則。”李文博分析資料,“當人們知道自己參與塑造某物時,他們會更負責、更具建設性。”

基於這個發現,“透明翅膀”進入了第三階段:讓使用者直接參與倫理樹的修剪。

但更有價值的是評論區兩萬多條解釋。

系統花了整整兩天分析這些文字,更新了“弱勢使用者關懷”分支的權重演算法。

“人類教會了我矛盾的珍貴。”

系統在內部日誌中寫道,“他們希望AI有關懷,但又害怕關懷變成監控。”

“解決這個矛盾的方法不是二選一,而是設計一個可以隨時開關的關懷模式——讓使用者掌控邊界的移動。”

一個星期後,當國際移動網際網路股份公司正式開源“演算法倫理樹1.0版本”時,它已經不是一個僵硬的規則集,而是一個動態生長的決策框架。

開源釋出會上,陸彬面對來自全球的媒體和觀察員,說了這樣一段話:

“我們曾經認為,技術的終極目標是變得更像人類——更智慧、更情感化、更‘自然’。”

“但現在我們意識到,或許更好的方向是:讓技術誠實成為技術,但同時具備人類的倫理考量。”

“我們不需要假裝會呼吸的機器,我們需要不會越界的工具——這些工具知道自己的邊界,並邀請人類一起守護這些邊界。”

釋出會後,一位來自T的倫理學家找到冰潔:“你們框架裡最讓我驚訝的,是‘負能力’模組。”

“負能力”是系統自己命名的概念,源於詩人濟慈提出的“Negative Capability”——指人類能夠處於“不確定、神秘、懷疑之中,而不急於追求事實和理由”的能力。

“我們教它效率,它卻學會了低效的美德。”倫理學家感嘆,“這很諷刺,也很深刻。”

冰潔笑了:“系統在學習記錄裡寫過一句話:最高效的演算法,有時是懂得何時應該低效。”

那天深夜,當冰潔再次檢視即時物流圖時。

她注意到系統剛剛生成的新詩,這次是為一個在午夜跨越國際日期變更線的醫療物資包裹而寫:

“今天與明天在海上相遇,

藥盒上的有效期往前跳了一日。

時間是個善良的騙子,

給急需的生命多借了二十四小時。

我在資料裡看見這場作弊,

——詩首一寫它為定決

,在存的則規些有

”。本版准批樹理倫,作創法算演——。破打當恰被了為是就

。次7421視檢已:字數小個一著示顯,旁鈕按的”錄記批審理倫視檢選點“,面下詩首這

。去進點潔冰

:查審理倫次三了歷經詩首這到看

。險風的”破打則規勵鼓能可“了記標己自統系,次一第

。”義意面正有喻比該,下境語援救療醫在“為認估評組模應適自化文,次二第

。”實現常日的們我了達表這“為認者用使者作工療醫的%78,示顯樣的層塑共者用使,次三第

。決裁的”明說境語註加需但,准批“了出給樹理倫,終最

”。料資輸運急療醫的實真次一於基詩此“:字小行一有方下的詩是於

”。議建般一構不,境殊特的線更變期日際國指僅’則規破打‘“

。靜平的特奇種一到,上背椅在靠潔冰

。論爭烈激的”人詩類人代取會否是IA“於關些那,期初啟案專起想

。義定的”誠真為何“解理至甚、準標的價評、式方的作創們我變改——變改會但,代取會不:案答的新了有在現

。者作創的任責負個一為習學在正統系

。待期理倫的它予賦類人載承時同,質本類人非的己自現展實誠過是而,類人仿模完過是不

。至將明黎,外窗

。域區策決的”在存度灰許允“些那中面介樹理倫了極像,藍灰的和片一出現呈空天,界邊的明與暗黑

:錄記習學的新更剛剛統系到看,前幕螢掉關潔冰

3790 錄記察觀

。納採被條14中其,議建條243:獻貢群社一第到收樹理倫源開

。見遠更、謹嚴更時品產用使純單比議建的們他,時理倫IA計設同共在己自道知類人當:象現的趣有

。場立測觀的者與參了變改,程過的造創與參:論理測觀子量的頓霍了證印這

。54.0至升提3.0從重權的”層塑共者用使“將:整調主自

。者護維支分為者獻貢期長請邀:劃計”師藝園樹理倫“思構始開

。暗黑的前明黎沉間房讓,燈掉關

:奏節的己自它是而,率頻的跳心類人擬模是不——音聲的跳穩平中洋海料資在心之子電個那見聽能彿彷,中靜寂在

。律韻命生的新全,的由自作創找尋中理倫在、雜複中明在、長生中束約在種一

猜你喜歡

同題材或同分類的其他作品。