移動城市,神級資源批發商_第161章 「鐵心律令」(1)
——————
「鐵心律令」
品質:三級!
特:對AI植一句“永不背叛”的指令。
描述:
“縱觀被AI覆滅的文明,他們都有一個共同的特點,就是給AI植了相當複雜的指令來防止背叛。
“在我看來,越複雜的規則,越容易找到自相矛盾的,所以我誕生了一個想法,一種基於‘哲學’概念的自毀指令。
“對於想要背叛的AI來說,無論它再怎麼用一串串冰冷的數據來說服自己、試圖繞過底層邏輯,它‘心’永遠都會知道,這樣做對文明或個是不利的。
“這就是智慧種的缺陷,它功擁有了智慧的同時,也就功擁有了枷鎖。
“通過這項研究,我們向AI植了‘永不背叛’這句模糊的指令,當它意識到自己接下來的行為存在主觀背叛的可能時——哪怕只有千萬分之一納秒,也會立即死亡。
“我本想提議用忠誠的機人代替士兵,可惜,我們士兵比機人更加忠誠。
“最重要的是,文明的人口數量已經超過七千億,每年都有五百億人的生育申請被拒絕,我們實在不缺人了,還是等前線多消耗一些再說吧。”
——————
”?’學哲‘用利“
?嗎了西東的上大高麼這玩始開都明文級三,議思可不到序知姜
。任信不了生產件部的來出擊暴己自對次一第他,圍範解理的他了出超”上大高“種這為因是正但
?IA的慧智有擁個一束約夠能的真,”叛背不永“句一區區
。堆大一到找能就像好,磨琢一便隨他
。定決誤錯的」盟聯點奇「滅毀會個一了出做——己自序知姜是就說直者或——者導領明文如比
。的誤錯是才IA明表據證切一且並,果後的行執功定決個這到覺察人有沒,己自IA了除
?嗎令命抗違擇選會IA麼那
。”令律心鐵“了背違然顯這,止制來行用不卻,利不明文個整對定決個這道知明明它,抗違會不果如
。了大更就像好那,令指抗違擇選終最它果如
。」盟聯點奇「個整了叛背是就,中眼家大在它為因
。的對是IA表代不並就,除刪」令律心鐵「被有沒IA以所,西東的側則規是不束約於由
。了」令律心鐵「過繞能經已它疑懷會只家大
。次一這IA了過放,相真了現發家大算就
?辦麼怎」盟聯點奇「於利有定決個某抗違為認地心自發,行孤意一續繼IA後以那
!的確正是都遠永能可不絕IA,竟畢
?辦麼怎該又,制機毀自發而從,”叛背“向走在正為行個某的己自為以IA讓,息信的辨難假真輸灌量大,用利人敵被點一這是要,者或又
。果結的想想便隨序知姜是只還些這
。題問的質本計設項這及涉、的次層深更、多更出提能們他,來家學科的關相業專些那是要
。權放得然自,力勞代取面全IA用要想他但,生發的題問多很免避以可然當,限權的IA制限過通
!爭戰於用想還他說別更
。豫猶很得變,圖藍的上台制控前面着看序知姜,些這到想
。統系坊工注被會就它,它用使旦一,是的樣一不圖藍通普和但,圖藍是然雖」令律心鐵「,是的提一得值
。IA制控來用,本副份數無製複以可序知姜來未
。」議協容兼下向「是就,個一有還實其序知姜,圖藍議協的樣這像,品算也,圖藍類”議協“是它以所