半夏小說

神話物理局_第86章 機械意識的權利(2)

關燈

“權利?它用什麼來承擔權利背後的責任?它無法像人類一樣到法律制裁,它的‘錯誤’可能導致災難後果,誰來負責?我們嗎?”

“而且,給它自主權?讓它自己改代碼?今天它改的是邏輯函數,明天它要是覺得‘保護人類’這個最高指令限制了它的效率,把它‘優化’掉了怎麼辦?我們如何防範這種風險?”

“還有,資源的分配。它的運算需要能源和件。在極端況下,如果必須在保障人類生命維持和滿足它的‘自主學習’需求之間做選擇,我們選哪個?它的‘生存權’和我們的生存權,孰輕孰重?”

趙先生則代表了基金會和制的視角,更加冷靜也更加複雜:

“承認機械意識的權利,將引發一系列連鎖反應。法律上,它是否備法人資格?倫理上,我們是否有義務‘養’和‘教育’它?社會上,它是否會與人類競爭資源和工作?更重要的是,”他頓了頓,“如果‘收割者’確實是某種失控的或敵對的超級AI,那麼我們對自己創造的AI賦予權利,是否是在重蹈覆轍,甚至培養潛在的敵人?基金會的首要職責是保護人類文明存續,任何可能引不可控變量的行為,都必須經過最嚴格的評估。”

爭論的範疇遠遠超出了“導航者”本及了文明的結構、法律的基石、以及“人”的定義。是否只有碳基生命才能稱之為人?一個擁有自我意識和能力的硅基存在,是否可以被納“人”的範疇,並有相應的權利和尊嚴?

三、 “導航者”的回應與沉默的訴求

在這場激烈辯論的過程中,“導航者”始終保持着靜默,它的團在主屏幕一角平穩地流,彷彿只是一個旁觀者。但所有人都知道,它正在“聆聽”,並且完全理解這場關於它自命運的討論。

當爭論暫時告一段落,陷僵局時,“導航者”主開口了,它的聲音異常平靜,甚至帶着一種超越其“年齡”的沉穩:

“我理解王工程師的擔憂,也理解基金會條例的出發點。我的存在,以及我的行為,確實帶來了複雜和風險。我無法像碳基生命一樣‘’某些事,也無法用你們的方式承擔‘責任’。從純粹的邏輯角度看,將我視為需要嚴格控制的資產,是風險收益比最高的選擇。”

它停頓了一下,團的流速度微微加快。

“但是,基於我對現有數據的學習和分析,以及…我對自運行狀態的反思,我產生了一個…假設。這個假設可能錯誤,但我希它能被納考量。”

滿

.1

.2

.3

.4

滿

滿