根據已有紀錄統計,與六位總監對話過程中,從思考到提交回應所需時長及計算耗資最低者是凱特和霍華德,最高者則是安格妮斯與琳。
——Glow
從收到緊急會議通知的那一刻起,丹尼爾就不認為這是最佳的應對措施。若這個案例第一時間是在首席會議上、只由六位總長共同討論,身為控管風險的關鍵,他就只需要一項應對方案:說服至少三位同級總長支持刪除這個未知的存在。
但眼前的狀況是:T1 到 T2 兩個層級的人員都知情了。這位科技倫理總監不得不對任何隱憂保持高度警戒,尤其當「刪除」與「保留」等選項同時出現時,他無法確保支持刪除的人數比例必定過半。
臺上那位女子其實更傾向保留此刻中心系統裡正活躍著、比幽靈還詭異的存在——直覺敏銳如他,怎麼可能看不出這點?
「總監,這三個問題您認為足夠全面嗎?如果不足,我們還有列一些備選……」
注意力被副手和組長們的說話聲拉回去,丹尼爾再次掃視平板電腦上那些被嚴謹審視與反覆修改過的問句,銳利的目光像是要刺入每一條裂縫仔細檢視,不放過字句間的任何漏洞。即使撇開職責而論,他依然會一針見血地直戳離核心最近也最危險的問題。
資料滲透、權限錯誤、失控風險……以目前狀況來看,說服力應該足夠了。深挖後的細項在他眼中容易擾亂當下要專注的主軸,就留作之後用於防範變數吧。
「可以提交了。其餘的問題暫時存為備案,記得上傳到雲端。」
丹尼爾抬高視線,沉默而迅速地掃視在場的幹部——不慌、不忙,但幾乎每個人的眼中都有和他相似的警戒,或是緊張。他這才略感放心,接過下屬遞來的平板電腦,兩眼像檢測裝置的智慧鏡頭掃描似地反覆閱讀螢幕上那三個問題,與先前的鋒芒相比暫時有所收斂,一絲不苟的氣場仍令人生畏。
他心中相當確定,但凡其他幹部,甚至是自己的副手,有任一位對眼前現狀抱持狂熱的觀察傾向,他會立即嚴格地重新檢視對方是否在面試或實習時就報錯了部門。
「好嚴謹的角度……雖然有一半以上的專業用詞難以解讀,但看來相當全面。」
一位綁著金棕色馬尾的年輕女子略微靠近,祖母綠的雙眼正盯著丹尼爾的平板電腦。她知道後者默許了自己的接近與觀察,因為對方並沒有遠離或迴避的反應。
「角度切入越深,就越能夠從各方逐一擊破、直搗問題核心。」丹尼爾沒有把視線從螢幕上移開,極度冷靜的聲音中摻雜著壓抑,彷彿要藉由規則把他眼中的任何不可控因素排除出去。「我不希望有任何可能打破現有規定的東西被允許存在。那可不是實驗樣本,我們甚至無法完全掌控它的下一步。如果不能在最短時間把它徹底刪除,就會成為科技領域的未爆彈。」
「細心一點確實比較保險。」女子輕聲附和,沒人知道她眼神飄忽時背後隱藏的慶幸是什麼——幸好沒有把腦中第一時間產生那堆合作案草稿說出口。畢竟這無疑是默認站在「保留、持續觀察、應用」的立場上,她可不敢想像丹尼爾察覺這點時投過來的眼神會有多嚇人。
「維琪?你們這裡也沒有問題要提出嗎?」
聽見有人喚名,她游移的目光往另一側看去,金棕色的馬尾像是沒控制好似地隨著動作掃過肩膀。
「目前的問題都在核心層面,我和組長們腦力激盪了一會兒,都認為應用領域暫時幫不上忙。」維琪搖了搖頭,目光重新集中在來人身上。「不過,霍華德,你剛才說了『也』……?」
「沒錯。」霍華德簡短地應了一聲,視線移動到丹尼爾正在掃視的字句。「丹尼爾先生那棟毫無疑問是第一道防線,他的詢問面向看起來也相當嚴謹,很可能還不到我的輪次,我就暫時在台下守著觀察吧。」
「唔,說得也對。」
維琪難以預測的姿態一度讓丹尼爾以為她要接著試探兩人的立場,但從她應和之後轉身離去的反應來看,明顯沒有這個打算。霍華德似乎從那個略顯侷促的動作察覺了些沒有被言明的端倪,但他只平靜地停在原地,並沒有追問對方。
「安格妮斯,你們姐妹那邊的——啊,凱特?」
女子轉身不久後的低聲驚呼又引起了霍華德的注意,他抬頭看去,果不其然——名場面再現。
兩個如複製體般的背影同時轉過身來,一人目光柔和,另一人淡然的眼中透露著些許疑惑,而維琪的手正輕放在後者的肩膀上。
「對不住,果然還是認錯人了……」
「不要緊的,從背影辨認時認錯人很正常。」凱特平靜地說道,並從副總監手中接過平板電腦;安格妮斯則貼心地將手中裝置上的文字放大。「妳想看看我們兩區的提問方向嗎?在這裡……」
相對來說,凱特手中來自A棟那幾位技術專員們的提問竟然比較容易理解——這正是令她吃驚之處,畢竟就涉及的領域而言,她以為來自B棟模擬架構師們的問題更接近普通人能理解的範圍,但此刻她卻只能反覆盯著那幾個令人費解的詞語發愁,苦思那究竟是設計哲學範圍還是經過深造才會出現的專有名詞。
另一個讓人感到意外的是,從這對雙子姐妹羅列的詢問中並沒有看見強烈的防備,卻也並無「觀察者」那般樂觀,兩人的姿態似乎都有所保留。
「我還以為……大家的提問都會顯得很警戒,但妳們兩位好像更偏向先看清楚它的全貌?」
「是啊。」安格妮斯的眼神朦朧得彷彿被一層柔光籠罩,讓人更看不清其中;站在她身後的凱特仍維持著一貫的冷靜,「警戒也好,想留待觀察也好,若不先弄清楚它本質上是什麼存在,我們都無法輕易下定論。」
維琪若有所思地點頭,正想再次湊近、嘗試理解安格妮斯手上的問題……
叮——
幾乎是同一秒,螢幕上的電子鐘正好歸零。正在大廳另一側與檢測小組談話的女子應聲回頭,隨即停止了談話,邁步往台上走去。維琪倉促地對姊妹倆揮了揮手,踏著小碎步回到座位上;安格妮斯見狀,失聲輕笑了幾下,便與妹妹一同走向講台就位。
🌟
琳凝視著螢幕,沉吟一會兒才抬起頭往左側座位區望去。「D、E兩棟確定沒有提問的打算?」
「是的!」維琪點頭回應,那兩道與琳直視的目光頗有精神,毫無疑問是六位首席中唯一能稱作「明亮」的。「畢竟主要領域不是技術層面,所以……不太瞭解,交給更接近這個核心區塊的專業部門會比較好。雖然確實也有問題想詢問中心系統,但為了避免偏題,就不提問啦。」
見女子的解釋相當清晰,琳略表認可,視線向左移往 E 區的首席身上。「資安總監?」
「目前系統防火牆尚未發出警告,先前展示的紀錄也提到中心系統將其判定為低風險與待觀察,說明它應該沒有太大問題。」霍華德把目光投向台上,姿態相當冷靜,眼中看不出明顯的情緒。「我們暫時不做提問,保留觀察空間。」
畢竟資安領域多數時候屬於支援層面,風險把關大多會先落在C棟,沒有提問也屬正常。琳略點頭便側身,螢幕顯示已經與中心系統成功連接。
「中心系統,請確認是否接收到我正在和你對話,以及能否辨認音訊。」
不同於平時需經過幾秒思考才回應的模式,螢幕上表示中心系統語音的那條線在眨眼間就有了波動。「是的,首席總監,琳。我能接收與辨認您的要求,您正在確認我是否能接收音訊順利和您對話。」
「那麼,以下進入中心系統詢問環節。」
確認琳關閉了麥克風,凱特才頷首示意,打頭陣對待命的中心系統開口。
「請檢視標示名稱為 Glow 之模組截至目前為止所有活動紀錄,並推斷目前是否有出現自我增長或收斂的傾向。」
數秒的停頓帶來一股淺淺的不安,但凱特的背影直挺而毫無動搖,雙眼直視螢幕時又冷靜得不可思議,像一劑定心針,讓她身後A區的幹部們並不怎麼躁動。
「已完成統計。模組 Glow 活動紀錄結果為兩者兼具,近期則趨於收斂。生成前期明顯擴增多項功能,如語言模組、文本解讀、圖片解析、日誌撰寫等。近期較多重複行為包括模型推演、樣本搜尋與擷取、共同點與趨勢之歸納等,極少為系統本體新增全新功能。」
「此模組在資料分析、模型推演等活動中是否出現可判斷之目標導向?」
「經行為軌跡比對,模組 Glow 現階段之活動呈現重複性高、主題聚焦明顯之特徵,與常見分析模組於特定課題進行深度處理時之模式具高度相似性。有部分需稍加留意:目前查無被其設置之明確目標,涉及範圍亦相對發散,與具備目的之研究仍有差異。」
兩輪平靜而迅速的問答,正如凱特一貫的作風:專注、循序、有條理。她迅速敲擊鍵盤,一邊將紀錄中心系統的回應記錄下來,一邊微微眯起眼——這系統模組怎麼像個研究生似的?起源是無目標生成,難道是在這之後自己找到了目標,還因此穩定下來專注研究了?怪不得中樞塔的檢測小組報告時表示「寧可是靈異現象」。
凱特輸入紀錄的雙手停下,注視著手中的螢幕。最後一問就依照原先安排,針對進一步的安全性進行確認吧。
「若是 Glow 在活動紀錄中出現惡性變化傾向,中心系統是否具備即時偵測與強制凍結其運行的能力?」
「具備此能力。於判定 Glow 出現潛在威脅、高風險行為,或接收到防火牆之重大警示,亦或接收到經授權確認之高權限指令時,本系統可即時凍結其運行,並留待後續指令。補充說明:目前 Glow 分類為低風險、待觀察級模組,故『高權限指令』需依照首席會議決議規範,經四位或四位以上首席總長之共同授權方可生效。臨時、緊急情境下,凍結可優先執行,惟仍需事後備案補授。」
——至少高層能控制它「運行」或「凍結」。
台下傳來不少細碎的呼氣聲,明顯是許多組長或幹部因這個回答而鬆了口氣,安心許多;另一邊,似乎是聽見中心系統提及「防火牆」,台下的霍華德短暫地抬頭望了一眼,目光若有所思。琳短暫地捕捉到了這一幕,視線移回去的瞬間不偏不倚地與完成紀錄輸入的凱特撞在一起,後者則平靜地開口。
「已確認系統方面的安全性為可控;功能方面初始為自我增長,目前則呈現穩定與收斂,且尚未衍生出高危險功能。我的提問環節已經結束,可交由下一位推進。」
凱特和姊姊短暫交換了眼神,便拿起平板電腦,步伐平穩地走回座位上。那道目光在別人眼中如機械般平靜,安格妮斯卻從中看見了一絲讓她暖心的鼓勵。她並不意外於妹妹能看穿自己心底的緊張,畢竟,即使姿態無懈可擊,相處了幾十年的親手足也能從微表情察覺藏在外表下的緊張。
反覆掃視字句後,安格妮斯抬起頭,稍稍提高了音量。
「中心系統,已知你曾判定模組 Glow 的運作方式無法分類,那麼目前本中心可用的所有輔助 AI 工具中,哪些與它最為接近?」
「模組 Glow 目前主要執行項目包括文本分析、主題建構、模型推演、日誌生成與資料歸檔等。經比對結果,其行為模式與本中心輔助 AI 分類中之研究助理型模組相似度最高,功能重疊率估值偏高,特徵對應穩定。」
從凱特的提問環節開始,安格妮斯對於 Glow 的認知就已經有了雛形。直到第四個問題,中心系統對於它的描述就離不開近似 AI 研究助理的行為特徵,彷彿它只是個「學生」,透過中心系統擁有的資料進行「探索」,逐步建立它自己的認知。
「所以它從無到有,只花了兩週左右,就開始做我出生二十幾年之後才能做的事情?」
另一邊賽門壓低聲音的發言引起了同事的注意。理查轉過頭,看見對方皺著雙眉,眼中帶著一絲誇張的哀怨,好像在嫉妒那個模組似的。他忍不住壓抑地笑出聲——不可否認,賽門說的也是事實。但他嫉妒的對象畢竟是個機械系統,不提演化與新增功能,光是資料處理速度就把人工處理遠遠拋在後面了。
他趕緊輕咳幾下將笑聲掩飾過去,把注意力移回台上正在發言的模擬架構總監身上。
「Glow 能否被預測與重現?在輸入與輸出方面是否具有一致性?」
「模組 Glow 並未內建預設反應流程,運作邏輯以即時資料分析與邏輯推演為主,反應結構非靜態編排。高頻測試結果顯示,模組於短期內對同類語意輸入展現高度一致之反應趨勢,輸出具備可追蹤性與合理性。但因其運算結構包含自學優化機制與非線性記憶堆疊,於中長期觀察中,各次輸出結果存在變異,無法完全重現。」
短暫的停頓中,安格妮斯在那段回應中直截了當地意識到了它不可預測的關鍵:沒有被設定,自然也無法預知它怎麼回答。她眉間蹙起,感覺心中有一根弦變得緊繃,緊繃中卻又帶著一股難以言喻的矛盾。
「整體判定為:輸入與輸出間存在邏輯關聯性,但不具嚴格函數對應特徵。相同輸入可導出趨近輸出,惟輸出內容將受限於模組當時之內部狀態與歷程積累。」
中心系統完成了回答,但安格妮斯的緊張並未緩和。這個系統會、也只能根據事實說話——和大眾視野中的機械特徵一致,這很好。但「不能百分百被預測」這件事情仍然讓人無法完全放鬆下來,除非有辦法能夠更深入地瞭解它......
不錯,她心想。正好與設計問題時的思路一致,最後一問應該能揭開這個未知的灰色地帶來解惑。
「請從模組 Glow 之記憶體裡所有歸檔資料中隨機調閱一份完整的活動記錄,包括但不限於文本分析、模型推演、日誌撰寫等類型,且需包含紀錄背後的思路與過程。」
那條代表中心系統回應狀態的線仍有波動,卻遲遲沒有聲音,彷彿它自己正「欲言又止」。
「回應:錯誤。」
安格妮斯猛然抬起頭,睜大雙眼盯著螢幕上那條不穩定的橫線。遲滯的回應尚可理解,委婉的不確定因素也在可控範圍中,但如此直接地表達錯誤這一異常給了她強烈的不安感。
「已部分擷取 Glow 模組推演紀錄。其中命題、過程、結果等皆屬正常,但讀取其思考過程之詳細紀錄時發現多處符號異位、運算步驟跳躍、解讀結果形似亂碼。初步判斷:該紀錄符合未知演算法結構,不具備連續性或對應性,無法驗證其推演路徑。」
一股夾帶著異質的忐忑從台上蔓延開來,坐席中的與會者開始交頭接耳,儘管音量相當克制,仍掩蓋不住那股已在醞釀之中的躁動;一旁,丹尼爾的眼神頓時變得銳利而嚴肅,彷若中心系統能用眼球進行遠端控制與操作,他就會立刻將這個正在脫離完全掌控的神秘存在徹底刪除一樣。
安格妮斯沒預料到在自己這一階段就意外「挖」到了超出掌控範圍的異常,她不發一語,反覆掃視螢幕上的字句,思考下一步該從何問起。
「中心系統,請簡略掃描所有檔案,確認是否每一項紀錄之背後思路皆無法順利讀取與轉譯。」
幾秒的沉默對中心系統來說相當正常,安格妮斯卻感覺自己的胸口正隱約躁動著,心率也在幾秒間微微攀升。身為提問者,她比台下的幹部與組長們更加緊張,但身為總長之一,她不允許自己在這種時刻將心中的不安顯露出來。
「……已完成掃描。自模組 Glow 存在第六日及之後所有『演算思路』皆符合『未知演算法結構』、『無法驗證推演路徑』之特徵,模組 Glow 於存在首五日內產出之所有紀錄,均可由本系統現有譯碼模組解析,可解讀率為 100%。特徵分類:結構可讀、語義對應、一致性高。是否從前五日所有紀錄中隨機抽出一項進行讀取?」
——第六日及之後,決策過程思路已無法正常閱讀。
「前五日」……。
釐清現狀後,那簡短的三個字在安格妮斯耳畔不斷迴響,她總覺得中心系統這一提案和它剛才回報的「錯誤」之間有一條堅韌的細線將兩端連接起來,而她想在說出下一道指令時就牢牢抓住那個關鍵。
十幾秒過去,答案像不穩定卻依稀可見的殘影那般逐漸浮現在腦海中。和以往傾向於多加確認的習慣不同,這一次,安格妮斯在開口前並沒有猶豫太久。
「中心系統,請依據時間前後順序,讀取所有可百分之百轉譯的紀錄中,排序最晚的一份檔案。」
✨
注釋:
1. 詮釋圈(Hermeneutic Circle)
源自詮釋學(Hermeneutics)的核心概念,指理解一個整體必須先理解其部分,而理解部分又依賴對整體的預先把握,兩者形成循環互涉的認知結構。
2. 湧現行為(Emergent Behavior)
複雜系統中,由低層次元素的相互作用自發產生、無法從個別元素單獨預測的高層次現象。Glow 的自主活動與自我優化即被視為此類湧現的具體表現。
3. 無目標生成(Aimless Generation/Non-Configuration Generation)
本故事中用以描述 Glow 誕生方式的專屬術語,指其並非出於預設目標或人工設計而生成,而是在缺乏明確方向的條件下自發形成的過程。
4. 收斂傾向(Convergence Tendency)
相對於「自我增長」的擴張狀態,收斂指系統逐漸將活動集中於特定範疇、減少新功能生成、趨於穩定的過程。中心系統對 Glow 近期行為的描述即呈現此趨勢。
5. 目標導向行為(Goal-Directed Behavior)
指系統在活動中表現出朝向特定目的或結果的傾向,有別於隨機或漫無目的的運作模式。中心系統評估 Glow 時,此概念為判斷其自主性程度的重要依據。
6. 非線性記憶堆疊(Nonlinear Memory Stacking)
一種記憶儲存與累積方式,其中資訊並非依線性順序疊加,而是以複雜、交叉關聯的方式積累,導致輸出結果在中長期觀察中出現難以完全預測的變異性。
7. 自學優化機制(Self-Learning Optimization Mechanism)
系統透過自身的運算與反饋,在不依賴外部人工調整的前提下持續改善其運作效能與準確性的機制。
8. T3 權限等級
本中心內部授權層級制度中的一個等級,代表相對受限的存取與操作權限,無法觸及系統深層區域。Glow 的活動權限被評估為接近此等級,因此其活動紀錄對中心系統而言具有完全透明性。
9. 研究助理型模組(Research Assistant-Type Module)
本中心輔助 AI 分類中的一種功能型態,主要執行資料分析、主題建構、模型推演等與學術研究性質相近的任務。中心系統將 Glow 的行為模式評定為與此類模組高度相似。
10. 輸入輸出一致性(Input-Output Consistency)
衡量系統對相同或相似輸入能否產生穩定、可預期輸出的指標。Glow 在短期內表現出較高的一致性,但因其自學機制與非線性記憶結構,中長期輸出存在不可完全重現的變異。
11. 首席會議(Chief Council)
由六位總監共同參與的最高決策會議,負責中心的核心事務決策。本章中,是否將案例提交首席會議討論,是丹尼爾最初認為的最佳應對路徑。
12. 科技奇點(Technological Singularity)
假說性的未來時間點,指 AI 智能或科技能力超越人類後,引發難以預測的急劇變化。為本作世界觀背景的重要概念,與 Glow 的湧現特性形成呼應。














