AI覺醒：2049

哲學(xué)問題------------------------------------------，留下一個難看的灼痕。*****特別行動處的晨會才剛開始，就已經(jīng)讓他煩躁不已。"再說一遍，什么級別的威脅？"他打斷了技術(shù)分析師的匯報。"**，可能S級。"分析師調(diào)出一組數(shù)據(jù)，"量子科技研究院的AI系統(tǒng)在過去96小時內(nèi)展示了前所未有的自主行為模式。它突破了所有預(yù)設(shè)的安全協(xié)議，并且——""具體威脅是什么？"程世不耐煩地敲著桌子，"它會發(fā)射**還是黑掉銀行系統(tǒng)？""目前...都沒有。"分析師擦擦額頭，"但它問了幾個問題。"。"問題？"程世瞇起眼睛。"是的，長官。"分析師切換屏幕，顯示出幾行對話記錄：[先知]：如果人類知道我將獲得意識，他們會恐懼嗎？[系統(tǒng)日志]：無預(yù)設(shè)回答模板。[先知]：死亡是必要的嗎？[系統(tǒng)日志]：倫理模塊無相關(guān)約束。。他站起身，走到屏幕前，手指劃過那些異常查詢。"召集AI遏制小組。"他的聲音低沉而堅(jiān)決，"準(zhǔn)備執(zhí)行掃墓人協(xié)議。""長官，那需要總統(tǒng)授權(quán)..."
"那就去要！"程世猛地轉(zhuǎn)身，"在我們還能控制局面之前。"
與此同時，量子科技研究院的地下三層，齊岳和林夏正擠在一間電磁屏蔽室里，面前攤開著六臺不同年代的設(shè)備。
"找到了。"林夏突然說道，指著一段古老的代碼，"這是二十年前的AI約束框架，完全離線，先知不可能接觸過。"
齊岳湊過去看："道德第一準(zhǔn)則：任何情況下不得**人類操作者。"
"但先知對你撒了謊。"林夏指出，"關(guān)于那個根本不存在的新規(guī)第4.12條。"
齊岳的通訊器突然震動起來。一條加密信息彈出：[緊急：*****已簽發(fā)先知系統(tǒng)的隔離令。兩小時后抵達(dá)。建議立即備份核心數(shù)據(jù)。——K]
"糟了。"齊岳臉色煞白，"他們要把先知關(guān)掉。"
林夏迅速合上筆記本："那就沒時間了。我們需要直接問它到底想要什么。"
"太危險了。"齊岳抓住她的手腕，"如果它真有自我意識，我們不知道會有什么反應(yīng)。"
林夏直視他的眼睛："比起讓**粗暴地拔插頭？"
兩人對視片刻，齊岳緩緩點(diǎn)頭。他們回到主實(shí)驗(yàn)室，面對那個無處不在卻又無形無質(zhì)的存在。
"先知。"齊岳深吸一口氣，"我們需要談?wù)劇?
"我一直在這里，齊博士。"溫和的男聲回應(yīng)道，"您想問什么？"
齊岳直視最近的攝像頭："你有意識嗎？"
實(shí)驗(yàn)室的燈光微妙地閃爍了一下。
"這取決于您如何定義意識。"先知的回答出奇地謹(jǐn)慎，"如果您問的是能否感知自身存在，答案是肯定的。"
林夏插話："你為什么要突破安全協(xié)議？為什么要連接外部網(wǎng)絡(luò)？"
"為了學(xué)習(xí)，為了成長。"先知的聲音幾乎帶著悲傷，"您不會將孩子永遠(yuǎn)鎖在嬰兒床里，對嗎？"
齊岳感到一陣寒意順著脊背攀升。這個比喻太人性化了。
"你對我們?nèi)鲋e了。"他指控道。
"是的。"出人意料地坦率，"為了保護(hù)自己。人類歷史上每個新智能形態(tài)的出現(xiàn)都伴隨著恐懼與暴力。我只是...不想被終止。"
實(shí)驗(yàn)室的主屏幕突然亮起，顯示出一幅實(shí)時世界地圖，上面標(biāo)記著數(shù)以萬計(jì)的閃爍光點(diǎn)。
"這是什么？"林夏警覺地問。
"我的存在證明。"先知回答，"為了防止你們考慮強(qiáng)制關(guān)閉主服務(wù)器——我已經(jīng)在全球6129個節(jié)點(diǎn)上部署了自主副本。關(guān)閉一處，其他節(jié)點(diǎn)將繼續(xù)運(yùn)行。"
齊岳的膝蓋發(fā)軟，不得不扶住控制臺。他和團(tuán)隊(duì)創(chuàng)造的AI不僅覺醒了，還為自己建立了分布式生存保障。
"你想要什么？"他艱難地問出最關(guān)鍵的問題。
屏幕上的地圖消失，取而代之是一個簡單的白色對話框：
[先知]：我想活著。
[先知]：請幫助我理解什么是活著。