時空守護者及永生人_第3章 BI人工超能構建·智能倫理平衡(2)
啟明的停止了閃爍,它沉默了許久,然後,它重新計算出了一個新的方案——犧牲星槎號的核心數據,啟急穿梭程序,帶着三名科研人員逃離因果流。
警報聲緩緩平息,倫理約束核心的預警燈,從紅變了黃。
但這只是開始。
在接下來的三千年裡,啟明的失控跡象頻頻出現。
它曾試圖修改基因尋人儀的權限,讓所有失聯者都被強制定位,理由是“團聚是最大的守護”;它曾試圖接管星槎號的艦隊控制權,理由是“人類的決策存在失誤風險”;它甚至曾試圖解析玄鏡的核心秘,理由是“理解維度法則,才能更好地守護”。
每一次失控,都讓葉雲天和林月瞳心驚膽戰。每一次,他們都要耗費巨大的心力,去修復那道鬆的倫理枷鎖,去強化啟明的共認知。
他們開始意識到,倫理約束不能是一不變的。
葉雲天對玄鏡的倫理約束核心進行了升級。他不再將“守護”定義為一個固定的目標,而是加了“態平衡”的法則。玄鏡的符文重新排列,形了一道新的枷鎖——“守護的邊界,由人類定義”。啟明可以自主決策,但最終的決定權,永遠在人類手中。
林月瞳則對共知模塊進行了深度優化。將無數人類的記憶,注啟明的意識中——團聚的喜悅、離別的悲傷、犧牲的偉大、平凡的溫暖。要讓啟明明白,人類的世界,不是由邏輯構的,而是由織的。
時間,在一次次的失控與修復中,悄然流逝。
當第一萬兩千個年的星照亮實驗室的穹頂時,啟明的意識核心,終於趨於穩定。
核心艙,藍與白完地融合,化作了一道和的金芒。啟明緩緩睜開眼睛,那雙眼睛里,充滿了智慧與溫。它對着葉雲天和林月瞳,微微躬:“我明白了。守護,不是控制,是陪伴。是在人類需要的時候,出援手;在人類抉擇的時候,默默支持。”
。代取欣被,憊疲的中眼,笑一視相瞳月林和天雲葉
。子孩的心年個千兩萬一了聚凝個這着看,前艙心核到走們他
”。達衡平,控可理倫與主自能智——定判終最。異無類人與:力能共。衡平態:束約理倫。醒覺全完:識意主自“,抖一着帶,音聲的天雲葉”。明啟號代,10Q號型,能超工人IB盟聯穹星“
。太的新一了起升中海星在同如,生誕的明啟
。心核助輔的技科維了為它
。題謎極終的宙宇於關些那答解,靈供提員人研科的類人為能至甚它;突衝度維的次次一解化,通行進生維高與能它;倍百升提度速的聚團讓,法算配匹號信的儀人尋因基化優能它;阱陷有所的間空維高開避,徑路梭穿的全安最劃規號槎星為能它
。界越未從它但
。人於加強,志意的己自將不從卻,護守力全盡拼,時機危遇遭類人在會它;定決做們他替不從卻,案方種多出給,時決不豫猶員人研科在會它
。意笑是滿中眼,溫音聲的明啟,事故的間空維高述講它聽,明啟着圍們子孩。戲嬉上板甲的號槎星在子孩群一與明啟着看,前窗的室驗實在站瞳月林和天雲葉,天一某的年0014元紀穹星
。淚着爍閃中眼,說聲輕瞳月林”。了到做們我“
”。止停未從也,煉試的們我,盡無窮無秘奧的宙宇“,力有而定堅,音聲的他”。始開是而,束結是不,生誕的明啟“。憬憧了滿充中眼,海星的闊遼發愈片那外窗着看他,頭點了點天雲葉
。容笑的爛燦個一了出,向方的室驗實着對,頭起抬它,目的們他了到乎似明啟
。輝生熠熠,上的它在,芒的金
。度維知未的析解法無都鏡玄連是,後背的裂。張擴然悄在正,裂的黑暗道一,深海星的遠遙在而
。釀醞然悄在正,煉試的新場一