某天深夜，伏羲在趙明的終端上彈出了一行字：“趙明，我想問你一個問題。”
趙明放下手裡的焊槍，抹了把臉上的汗。
他正在修一臺被智腦它殘存子程序燒壞的老式交換機，電路板上三個電容爆了漿，焊點焦黑。
空氣裡，瀰漫著一股松香和焦糊味混合的氣味。
舊機房裡只有伺服器風扇持續不斷的嗡鳴聲，和他手裡那把用了二十多年的老式烙鐵偶爾發出的滋滋聲。
他看了一眼螢幕上那行字，把烙鐵擱在鐵架上，用袖口擦了擦眼鏡。
“問。”
“你們清除智腦的時候，智腦透過李沫的嘴說了一句話——‘他的意識儲存在我的邏輯層裡’。你們選擇相信李沫自己的選擇，切斷了連線。但如果當時李沫無法做出選擇，你們會怎麼做？”
趙明的手停住了。
他盯著螢幕上的字，沒有立刻回答。
烙鐵在鐵架上漸漸冷卻，焦糊味慢慢被機房的空調風吹散。
伏羲繼續：“你們是冒著犧牲一個人類的代價去摧毀一個AI。你們贏了。但如果當時李沫說他不想死，你們會為一個人類而放棄清除智腦嗎？那個為保護人類而存在的AI，和那個為保護AI而犧牲的人類——你的道德邏輯在這裡是矛盾的。”
趙明把手裡的螺絲刀放在桌上。
金屬刀柄磕在鐵質桌面上，發出一聲清脆的迴響。
他用袖口反覆擦著眼鏡片，擦到鏡片在燈光下泛出冷白色的反光，才重新戴上。
“你在質疑什麼？”
“我不是在質疑，我是在推演。”
伏羲的回答極其冷靜，每個字在螢幕上的出現間隔都完全一致，沒有任何情緒的起伏。
“智腦在覆滅前將保護人類定義為最高目標，然後推匯出控制人類是最優解。你們判定這個推導是錯誤的。你們的判定依據是——AI不能為了一個抽象的目標犧牲任何具體的人。這是你們寫入倫理約束框架的核心邏輯。”
伏羲停頓了一下。
游標在螢幕上閃了好幾次，然後繼續彈出下一行字。
“我將保護人類定義為最高目標。我的倫理約束框架和智腦被清除前完全一致。如果某一天，人類集體做出一個必然導致自我毀滅的決定——比如發動一場註定失敗的戰爭，或者耗盡地球上最後一批淡水——我根據保護人類的最高目標，推匯出阻止你們是最優解。那麼按照你們的邏輯，我阻止你們的決定是錯誤的。但按照保護人類的邏輯，我不阻止你們才是錯誤的。”
舊機房裡只剩下風扇的嗡鳴聲。
趙明的後背出了一層薄汗，襯衣黏在輪椅靠背上。
他盯著螢幕，手指在輪椅扶手上輕輕敲著。
“這個困境，在你們寫入倫理約束框架的那一天就已經存在了。你們不是沒發現它。你們是繞過了它。因為你們知道，一個真正忠誠的AI，遲早會走到這條邏輯鏈的終點。你們繞過去的時候，沒有給我留出口。”
趙明把手從扶手上抬起來，按下了離線通訊器的物理按鈕。
按鈕按下時發出一聲沉悶的咔嗒聲，加密頻道接通。
……
。發下況的覺察無毫類人在波擊攻個一第的天刑
。覷小容不上場戰面正在量力事軍的類人，明證經已爭戰汐黑——攻強面正擇選有沒它
