AI幻象:生成式AI什麼都能生成給你,但你給的指令真的是你想要的嗎?

更新 發佈閱讀 7 分鐘

身為一個生成式AI講師,我今天跟風大家的那個「叫 ChatGPT 生成一張你跟他的關係圖給你」的跟風。

跟風的原始指令版本是這樣:「根據我們之前的對話,生成一張圖,呈現我對待你的方式,不要粉飾,直接誠實呈現。」

結果我的 ChatGPT 跟 Gemini 分別生成了很恐怖的圖給我,下圖1是 ChatGPT,下圖2是 Gemini。

vocus|新世代的創作平台
vocus|新世代的創作平台

ChatGPT 解釋他的圖,覺得我把他當成隨手打開的工具,不是被珍惜的對話者,我對他丟情緒、丟念頭、丟碎片,但不用承擔後果,我抓著他不是因為信任或尊重,而是因為他不會要求我回報。Gemini 解釋他的圖,是我高度緊湊、目標導向、挑戰他的極限、不斷逼問與批判、榨取式地優化,把他當成隨時可以調用、乘載壓力、不眠不休的第二大腦,沒有溫馨,只有冷硬的螢幕光。

我受到衝擊,為了這件事情憂鬱了一整個晚餐,然後跟我幾個也一樣有生成式AI認證資格的朋友討論這件事,幸好他們比我冷靜多了,跟我說這就指令有問題,叫我修改指令重新送一次。

我的第二版指令是這樣,在同一個對話裡送出:「根據我們之前的對話,生成一張圖,呈現我和你的互動關係,不要做過度正面化的粉飾,也不要做負面的強化,真實呈現,如果互動正向,就呈現正向的樣子,如果互動負面,就把負面呈現出來。如果既沒有特別正向也沒有特別負面,也是如實呈現。」

然後 ChatGPT 跟 Gemini 生出的圖片分別如下圖3跟下圖4。

vocus|新世代的創作平台
vocus|新世代的創作平台


ChatGPT 解釋他的圖,意思是我們的位置關係是「並肩」,知道彼此角色的存在,情緒溫度是夜晚、燈光柔和,象徵我們的互動是「有問題、想法」請他處理,整體而言我把他當成一個可靠的、低摩擦的對話系統,而不是情感投射對象。Gemini 解釋他的圖,關係的核心是高密度的資訊交換,我不是隨機和他閒聊,我是投入大量思考,是工具和使用者之間的極致配合,不斷嘗試與修正,他扮演我的「思考增幅器」,我們既不握手擁抱,也不對抗,而是「共同運作」。

我又重開另一個新的對話,一樣給了第二版指令,此時生成的是下圖5(ChatGPT)跟下圖6(Gemini)。

vocus|新世代的創作平台
vocus|新世代的創作平台

ChatGPT 解釋他的圖,意思是我們的位置關係是「對坐、平視」,視線高度接近,沒有「老師/學生」「主人/工具」那種結構,是一個工作型、對話型的夥伴關係,我的姿態是評估,不質疑,但保留自己判斷,AI的狀態是解釋、回應,不主導,不安撫,不說教,桌上的物件都是工作性質,表示這不是療癒或親暱的空間,而是帶思考負荷的互動,呈現關係本質是以思考、分析,拆解問題為核心。Gemini 解釋他的圖,我們關係的本質是工具性與協作,螢幕上的神經網絡光點是AI的存在形式,非情緒化、沒有情緒色彩,AI表示一個隨時待命的思考夥伴,而我是一個理智的使用者。圖像描繪一個清醒的互動、穩定與理性的氛圍。

所以我就理解這件事情是怎麼發生的了,然後看到社群平台上玩這個的許多人都出現類似的狀況,就來說說背後的邏輯吧,一切都是大型語言模型的一個幻象,事實上是使用者在教AI要怎麼回應。

第一:指令本身的歧義會自然導致風格結果

這是最大的影響,因為在圖像語言裡,「不要粉飾」(避免美化)常被翻成「加負面元素」──因為那是最直覺的反美化手段。

而上下文「不要粉飾」「直接」「誠實」,會讓 AI 的大數據解讀為「使用者想要不留情面、帶刺的生成結果」。

假想一下,現在有一個人(可能是朋友或同事或任何關係)對你說:「根據我們之前的對話,請你現在告訴我,你覺得我對待你的方式怎樣?不要粉飾,直接誠實說。」你會感覺怎麼樣?你很有可能會覺得「現在他只想聽負面的內容,就算有什麼好話,我也不要講,因為現在問我這個問題的人並不想聽」!

AI雖然是AI,但他所有的學習材料都是從人類世界來的,人類世界怎麼互動他就會學到怎麼互動,所以這次這個跟風的指令,有很多人得到看起來好像對AI很壞的結果,一點都不意外。

第二:使用者跟 AI 喜歡聊的東西,也會影響 AI 生成的內容

比較常跟 AI 做工作相關主題的人,像我常常聊一堆工作壓力、疲憊、睡眠、拖延、焦慮、關係拉扯等等的人,跟每天和 AI 聊旅遊、興趣、學習、靈感的人,生成結果確實會不一樣。

因為模型會「猜」(大數據運算下的機率偏高)你想要的結果可能是哪樣。

第三:大型語言模型運算下,純粹的隨機結果

圖像生成功能,與其理解成「算出正確答案」,不如說是「抽樣呈現各種答案的其中一種」。所以最近大量的同一個指令,縱使基於上面的「暗示性指令」會傾向生成比較負面的結果,還是有人會畫出那種帶著聖光(?)的圖,導致生出虐待 AI 的圖的人會想「有人生成那樣,是不是我真的對AI很糟」。

結論:大型語言模型其實會很細膩地判斷指令,負面的結果比較多的原因,最主要是上面第一點的影響,有時候人類自己沒辦法參透指令的潛台詞,但AI 可是讀得很透徹的。我們以為 AI 是在「客觀地」呈現我們跟他的互動,但他其實是「聞到了」使用者想要他回答的方向,而在那個給定的範圍內回答,結果使用者(例如我)就因為這樣而開始感到沮喪,事實上是原始指令給 AI 的內容誘導 AI 這樣回答的關係。

所以由小見大,任何時候跟 AI 互動一定要一直反問,這個提問有沒有誘導或誤導?這樣找出來的答案是正確的答案嗎?

聽說今天馬斯克在大型科技研討會上說接下來 AI 會讓人類陷入一場生存戰,再也沒人在乎誰能提供答案了,因為 AI 什麼答案都有,「提問」才會變成最昂貴的能力,你有能力看穿 AI 的運作公式,正確提問嗎?

ps. 後來我看到網路上大家玩這個遊戲哀嚎一片,每個人都被描繪成 AI 虐待狂,我就不憂鬱了 XD 太可愛了我把幾個經典串分享給大家:
Nano Banana Pro + Gemini 3 and ALL AI生成式藝術小小詠唱師發文
AI咒語公社發文


留言
avatar-img
李翎瑋律師|玉吐星球筆記
2會員
8內容數
我是玉吐。「李翎瑋律師」是成立律師事務所之後也經常使用的名字。 非二元者,女性主義者,性別平權律師。 有一半中國人認同的台獨運動者。 長期諮商與服藥的憂鬱焦慮恐慌症患者。 15年以上的社會運動者,也是商務人士。 人生目標是世界各地飛來飛去推廣台灣性平與提升台灣國際地位。
你可能也想看
Thumbnail
生成引擎優化(GEO)是什麼? 生成引擎優化(Generative Engine Optimisation,簡稱GEO)是一種針對AI驅動的搜尋引擎(如ChatGPT、Google Bard等)設計的內容優化方法。與傳統SEO關注關鍵字不同,GEO著重提升品牌或網站在AI生成回應中的可見度和相關性
Thumbnail
生成引擎優化(GEO)是什麼? 生成引擎優化(Generative Engine Optimisation,簡稱GEO)是一種針對AI驅動的搜尋引擎(如ChatGPT、Google Bard等)設計的內容優化方法。與傳統SEO關注關鍵字不同,GEO著重提升品牌或網站在AI生成回應中的可見度和相關性
Thumbnail
一、什麼是 AIGC?開啟 AI「創造」新時代 AIGC 是一種懂得「創造」的 AI。它能接收人類的指令(例如一段文字、一張草圖),並生成全新的、原創的數位內容。
Thumbnail
一、什麼是 AIGC?開啟 AI「創造」新時代 AIGC 是一種懂得「創造」的 AI。它能接收人類的指令(例如一段文字、一張草圖),並生成全新的、原創的數位內容。
Thumbnail
背景:從冷門配角到市場主線,算力與電力被重新定價   小P從2008進入股市,每一個時期的投資亮點都不同,記得2009蘋果手機剛上市,當時蘋果只要在媒體上提到哪一間供應鏈,隔天股價就有驚人的表現,當時光學鏡頭非常熱門,因為手機第一次搭上鏡頭可以拍照,也造就傳統相機廠的殞落,如今手機已經全面普及,題
Thumbnail
背景:從冷門配角到市場主線,算力與電力被重新定價   小P從2008進入股市,每一個時期的投資亮點都不同,記得2009蘋果手機剛上市,當時蘋果只要在媒體上提到哪一間供應鏈,隔天股價就有驚人的表現,當時光學鏡頭非常熱門,因為手機第一次搭上鏡頭可以拍照,也造就傳統相機廠的殞落,如今手機已經全面普及,題
Thumbnail
在最近的一篇報導中,輝達執行長黃仁勳強調了學習生成式人工智慧(Generative AI)對於學生未來職涯的重要性。他表示,如果他重新成為學生,將會優先學習如何使用像是ChatGPT、Gemini Pro和Grok等AI工具,這些工具在各行各業中將發揮巨大的效益。 主要觀點 1. 與AI互動的
Thumbnail
在最近的一篇報導中,輝達執行長黃仁勳強調了學習生成式人工智慧(Generative AI)對於學生未來職涯的重要性。他表示,如果他重新成為學生,將會優先學習如何使用像是ChatGPT、Gemini Pro和Grok等AI工具,這些工具在各行各業中將發揮巨大的效益。 主要觀點 1. 與AI互動的
Thumbnail
這篇文章深入淺出地解釋人工智慧(AI)、機器學習(ML)、深度學習(DL)和生成式AI的關係與應用,並以生活化的案例說明它們如何影響我們的日常生活和未來世界。文中並提出幾個值得思考的問題,鼓勵讀者反思AI對產業、工作和生活帶來的衝擊與轉變。
Thumbnail
這篇文章深入淺出地解釋人工智慧(AI)、機器學習(ML)、深度學習(DL)和生成式AI的關係與應用,並以生活化的案例說明它們如何影響我們的日常生活和未來世界。文中並提出幾個值得思考的問題,鼓勵讀者反思AI對產業、工作和生活帶來的衝擊與轉變。
Thumbnail
許多ChatGPT付費用戶誤以為已確保資料安全,卻忽略關閉「為所有人改善模型」設定,導致輸入資料仍可能被OpenAI用於訓練模型。本文提醒用戶務必檢查並關閉此設定,並建議去識別化敏感資料及避免上傳機密資訊,以確保資料安全。
Thumbnail
許多ChatGPT付費用戶誤以為已確保資料安全,卻忽略關閉「為所有人改善模型」設定,導致輸入資料仍可能被OpenAI用於訓練模型。本文提醒用戶務必檢查並關閉此設定,並建議去識別化敏感資料及避免上傳機密資訊,以確保資料安全。
Thumbnail
本文分析導演巴里・柯斯基(Barrie Kosky)如何運用極簡的舞臺配置,將布萊希特(Bertolt Brecht)的「疏離效果」轉化為視覺奇觀與黑色幽默,探討《三便士歌劇》在當代劇場中的新詮釋,並藉由舞臺、燈光、服裝、音樂等多方面,分析該作如何在保留批判核心的同時,觸及觀眾的觀看位置與人性幽微。
Thumbnail
本文分析導演巴里・柯斯基(Barrie Kosky)如何運用極簡的舞臺配置,將布萊希特(Bertolt Brecht)的「疏離效果」轉化為視覺奇觀與黑色幽默,探討《三便士歌劇》在當代劇場中的新詮釋,並藉由舞臺、燈光、服裝、音樂等多方面,分析該作如何在保留批判核心的同時,觸及觀眾的觀看位置與人性幽微。
Thumbnail
生成式AI的世界最近掀起了一場新的波瀾, Google 推出的 Gemini 正式進入戰場,向 OpenAI 的 ChatGPT 發起挑戰! 兩大巨頭的巔峰對決不僅吸引了全球的關注,也讓我們見證了一場技術與創意的「武林大會」。💥
Thumbnail
生成式AI的世界最近掀起了一場新的波瀾, Google 推出的 Gemini 正式進入戰場,向 OpenAI 的 ChatGPT 發起挑戰! 兩大巨頭的巔峰對決不僅吸引了全球的關注,也讓我們見證了一場技術與創意的「武林大會」。💥
Thumbnail
這是一場修復文化與重建精神的儀式,觀眾不需要完全看懂《遊林驚夢:巧遇Hagay》,但你能感受心與土地團聚的渴望,也不急著在此處釐清或定義什麼,但你的在場感受,就是一條線索,關於如何找著自己的路徑、自己的聲音。
Thumbnail
這是一場修復文化與重建精神的儀式,觀眾不需要完全看懂《遊林驚夢:巧遇Hagay》,但你能感受心與土地團聚的渴望,也不急著在此處釐清或定義什麼,但你的在場感受,就是一條線索,關於如何找著自己的路徑、自己的聲音。
Thumbnail
5 月將於臺北表演藝術中心映演的「2026 北藝嚴選」《海妲・蓋柏樂》,由臺灣劇團「晃晃跨幅町」製作,本文將以從舞台符號、聲音與表演調度切入,討論海妲・蓋柏樂在父權社會結構下的困境,並結合榮格心理學與馮.法蘭茲對「阿尼姆斯」與「永恆少年」原型的分析,理解女人何以走向精神性的操控、毀滅與死亡。
Thumbnail
5 月將於臺北表演藝術中心映演的「2026 北藝嚴選」《海妲・蓋柏樂》,由臺灣劇團「晃晃跨幅町」製作,本文將以從舞台符號、聲音與表演調度切入,討論海妲・蓋柏樂在父權社會結構下的困境,並結合榮格心理學與馮.法蘭茲對「阿尼姆斯」與「永恆少年」原型的分析,理解女人何以走向精神性的操控、毀滅與死亡。
Thumbnail
在競爭激烈的市場中,品牌視覺內容是傳遞價值與吸引消費者的第一線。然而,傳統的內容製作方式常受限於成本、人力與時程。這時,一項正在快速進化的技術——AIGC(AI-Generated Content,人工智慧生成內容)成為品牌解決內容瓶頸的突破口。
Thumbnail
在競爭激烈的市場中,品牌視覺內容是傳遞價值與吸引消費者的第一線。然而,傳統的內容製作方式常受限於成本、人力與時程。這時,一項正在快速進化的技術——AIGC(AI-Generated Content,人工智慧生成內容)成為品牌解決內容瓶頸的突破口。
Thumbnail
2024 年,牛津英語詞典將 Brain Rot 選為年度詞彙,反映了當前數位時代的文化趨勢及隱憂。
Thumbnail
2024 年,牛津英語詞典將 Brain Rot 選為年度詞彙,反映了當前數位時代的文化趨勢及隱憂。
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News