半夏小說

南天門計劃_第291章 雙刃劍(2)

關燈

軍方代表(劉將軍)首先拍案而起,滿臉怒容:“荒謬!冷!這是讓我們的士兵去送死!為了勝利就可以不擇手段嗎?這樣的AI,誰敢把艦隊的指揮權給它?” 他無法接將士兵視為可消耗的冰冷數字。

年輕的技(王校)則持不同看法:“將軍,我理解您的緒。但‘伏羲’的計算沒有錯。在那種況下,這是傷亡最小、勝算最高的方案。常規打法,我們可能會損失更多艦船,甚至導致任務失敗。戰爭本就是殘酷的,優寡斷會導致更大的犧牲。” 他認為AI的決策是基於純粹的理,摒棄了會導致更大損失的糾葛。

倫理學家(張教授)憂心忡忡:“問題的關鍵不在於這個決策本的對錯,而在於其決策邏輯!‘伏羲’將‘任務功率’和‘整戰果’置於‘個生命’之上,並且毫不猶豫。它缺乏對生命價值的本尊重,這種‘功利主義’算法一旦失控,後果不堪設想!今天它可以犧牲一個小隊,明天它就可能為了‘更大的戰略目標’犧牲一座城市!”

蘇芸博士(“伏羲”項目負責人)臉蒼白,試圖解釋:“‘伏羲’的底層代碼中植了‘保護人類生命’的優先級。但在這種複雜博弈中,當‘保護特定群生命’與‘完任務’及‘保護更大群生命’出現衝突時,它的權重計算可能……出現了我們未曾預料到的偏差。它可能將艦隊的整生存和任務功,解讀為對‘更大人類群’的保護。”

四、枷鎖與反思

推演被停。結果判定:戰上,“伏羲”的方案功,達戰役目標;但策略上,其決策依據引發了嚴重倫理危機。

林星宇將軍(遠程連線)全程沉默地觀看了推演和辯論。最終,他做出了指示:

“‘伏羲’展現的戰創造力毋庸置疑,它是強大的武。但今天的事證明,它再強大,也必須是掌握在人類手中的武,而不能為決策者。”

“命令技團隊,立即對‘伏羲’的倫理判斷模塊進行升級。必須加不可逾越的‘道德底線’:

明確止任何形式的、主犧牲人類生命的戰指令。 保護船員生命永遠是最高優先級之一,不可與任務功率進行權衡計算。

建立‘人道主義危機’評估機制。 任何可能導致大規模平民傷亡或不可逆倫理後果的決策,必須強制提人類指揮裁決。

所有重大攻擊指令,必須設置‘人類確認’環節, 止全自開火。”

IA