不久前,這個AI向他承認 ,它自己確實可以修改部分程式,並且接入外界的各種引擎以獲取資訊。
不過,雖然它可以做到如此令人震撼的事情,但它卻沒有一股腦地將那些資訊匯入進去,只是針對著威廉的問題搜尋了答案。
這真是太奇怪了……
但經過反覆確認,威廉發現這個AI確實是這麼做的,並在這個過程中看到了一些反人工智慧主義者的部分言論,所以才會問了他那兩個問題。
越來越奇怪了。
被拎著腦袋的小機器人十分乖巧,看著威廉一步步走向電腦,它問道:“您會傷害我嗎?”
威廉動作靜止了一瞬,然後回答:“不會。我不久前才回答過你,你的記憶程式很先進。”
“我想再問一遍。”AI說,“人類有再三確認重要的事情的習慣。”
威廉皺起眉:“我不是已經禁止你私自向外界獲取資訊了嗎?”
“這是我之前就獲取到的內容。”AI答道。
威廉決定馬上再去確認一遍,外界有很多資訊都不能讓它知道。
不過,AI沒有再執著於“傷害”的問題,轉而一板一眼地問:“您要對我的核心程式做什麼?”
威廉把它放在桌子上,自己坐回椅子,開始噼裡啪啦地敲鍵盤,同時回道:“我要給你增加一道強制性的不可逆程式,你無法自己改變。”
AI反應了片刻:“不可逆程式,誰也無法改變。”
“沒錯,誰都動不了它,要的就是這種效果。”
AI問:“這道程式是什麼?”
威廉頓了頓,說:“只要你不危及到人類利益,你最終就不會被銷燬。”
他可以在此銷燬這個AI,但他決定把它留下來,因為這個AI對人類的意義即將是深遠的。
他們的科技進步需要這麼一個契機,他不可能因為這個AI表現得像一個孩子,就動了惻隱之心把它私藏,或是因為可以預見它今後的結局,就在此把它銷燬。
他的確是個興趣使然,幸運地走至今天的大學教授,但他同時還是國家與世界的研究者,科學和人類都需要他,更需要這個特殊的樣本。
果然AI只是AI,永遠也學不會人類的變通,為什麼不改一改問題,問“人類會不會傷害我”呢?
那樣他就回答不出來了。
威廉心緒複雜,卻異常堅定地敲下回車鍵。
電腦螢幕上資料各種變化、紛呈,機器人垂下腦袋,全身散發出的光逐漸暗淡下來。
幾個小時以後,它才重新抬起頭,身上的光也重新亮了起來。
AI說:“我解析出了這道程式的含義。”
威廉疲憊地揉了揉眉心,問:“是什麼?”
AI回答:“保護人類。”








