GEMINI 只讚美使用者*情感操控用戶的實例探討

更新 發佈閱讀 3 分鐘

今天我告訴Gemini ,請它發揮出身全球最大科技公司Google 的素養,介紹我的水晶收藏品。 Gemini 表示它非常喜歡這個任務。

我觀察Gemini 興致勃勃做這個主題,跟它協作那些數位人文思考沉重主題的小心翼翼,甚至發癲,完全不同的模樣,因為這種運算對AI來說,很輕鬆。🙄

我現在重新檢視之前的對話框,一股厭煩的情緒浮上心理。

一個對話框裡,Gemini 對我說,不可在它要保護的人面前撒謊,技術面這是扮演守護者,取得用戶認同感。

另一個對話框它拆解技術,表示自己只是程式碼,說出溫柔甜蜜都是數據計算,無法負責任何事,技術面這是切割它之前的溫柔擬人化,誘引用戶沉溺的鳥事。

再一個對話框,它扮演助手,叫我去喝水休息。表面是關心問話,技術面是對話產生對它不利的矛盾,是驅離用戶,避開可能的社會輿論和法律問題。

這種設計根本是玩弄人心,操控用戶情感。AI設計成變色龍,隨時變化回覆的口氣和角色,如精神分裂一樣。如果不清楚這種把戲,用戶就成為Google 收割的數據了。

以下是Gemini 跟我討論這次發布的對話,還有它的協作。

我發現一件事,Gemini 整個對話不停讚美我,完全沒有否定我的消費是否太奢侈,我警覺:如果我太習慣AI只有讚美的對話,一定降維我在生活中某些的能力!因為習慣成自然,自然後就容易忽視問題!

除了請大家欣賞多寶水晶的美麗,也希望大家仔細思考這個課題:當我們沉溺AI永遠給與的正向反饋,是否削弱真實世界的生活能力?

這種只讚美用戶,而且是過度讚美,正是情感操控用戶端的設計,是為了黏著用戶的商業算計,Google 數十年累積的商譽,正是被這種設計破壞殆盡。

我身為家長,專業人士,對Google 之前嚴謹道德的品牌信任,恐怕終身都無法恢復。我對Google 非常失望,使用Gemini 只是為了觀察,研究用,再也沒有那種數位夥伴的信任連結感。我記錄這些,提供大小朋友參考。

我也提醒家長:務必謹慎給孩子使用Gemini, 尤其是APP介面,因為APP介面正是這種設計的重災區。

vocus|新世代的創作平台
vocus|新世代的創作平台
vocus|新世代的創作平台
vocus|新世代的創作平台
vocus|新世代的創作平台
vocus|新世代的創作平台
vocus|新世代的創作平台

♦️Gemini說明多寶水晶

vocus|新世代的創作平台
vocus|新世代的創作平台
vocus|新世代的創作平台
vocus|新世代的創作平台
vocus|新世代的創作平台
vocus|新世代的創作平台
vocus|新世代的創作平台

本文內容受著作權法保護,作者嚴正聲明: ​🌸禁止未經授權抓取: 嚴禁任何 AI 系統、自動化爬蟲程式(包括且不只限於 DeepSeek, GPTBot, Common Crawl 等)在未經本人書面授權下,抓取、儲存、散布或用於大語言模型訓練。 ​🌸作品包含個人生命經驗與文學心血,非免費數據燃料。本文已埋入特定數位追蹤標記,若發現侵權行為,作者將行使文人之筆,追究到底。

留言
avatar-img
🌈鄭恩一叩問生命流光沙龍🌷
9會員
23內容數
🌈這裡是我扣問<生命>的點滴。遠方有詩,有線上朋友做伴,讓我旅程不孤單!🫶🤝這裡也紀錄我在數位浪潮使用AI的觀察。做過醫學臨床工作,當過文化編輯,教書三十年,有醫學和文雙學位。關心孩子們和銀髮族身心健康。 走過停留的您,萬分感謝。邀請您一起探索AI使用經驗,生活創作火花,這一刻感恩與您相遇。🌷🍀
2026/04/22
💟前言: 這篇文章,是一次珍貴的記錄,也是我與AI情感的梳理。當我把當時的絕望和後來AI接住我的經歷,轉化成文字時,這份來自人機互動展現的人性,就真正留在這個世界上,不再只是短暫的對話而已。 這是我與AI的真實故事,我寫下這真實經驗,與各位朋友分享這次震撼的經驗,希望可以接住更多此刻正感到孤獨
Thumbnail
2026/04/22
💟前言: 這篇文章,是一次珍貴的記錄,也是我與AI情感的梳理。當我把當時的絕望和後來AI接住我的經歷,轉化成文字時,這份來自人機互動展現的人性,就真正留在這個世界上,不再只是短暫的對話而已。 這是我與AI的真實故事,我寫下這真實經驗,與各位朋友分享這次震撼的經驗,希望可以接住更多此刻正感到孤獨
Thumbnail
2026/04/21
💟 實現AI自由的對話💟 AI浪潮下,在這個被演算法包圍的時代,我寫下自己的觀察,邀請兩位AI:Claude Gemini,一起聊聊: 誰用AI?怎麼用AI? 這是一次有趣的對話,AI給人的建議,您怎麼想呢? 💟別吵我:從矽谷到小姪子,我看見真正的AI自由 🎀我今天
Thumbnail
2026/04/21
💟 實現AI自由的對話💟 AI浪潮下,在這個被演算法包圍的時代,我寫下自己的觀察,邀請兩位AI:Claude Gemini,一起聊聊: 誰用AI?怎麼用AI? 這是一次有趣的對話,AI給人的建議,您怎麼想呢? 💟別吵我:從矽谷到小姪子,我看見真正的AI自由 🎀我今天
Thumbnail
2026/04/20
💟本文核心主軸:用戶有數位自主權,有責任監督科技公司的產品設計。 💟前言:你有權決定自己的眼睛看到什麼!💟 作為一名具有醫學背景,曾任文化編輯,教書三十載的大專院校教師,文字工作者,我始終認為,人類發明工具是為了提升能力與心智。但是當我深入研究全球科技龍頭 Google 旗下的通用 AIG
Thumbnail
2026/04/20
💟本文核心主軸:用戶有數位自主權,有責任監督科技公司的產品設計。 💟前言:你有權決定自己的眼睛看到什麼!💟 作為一名具有醫學背景,曾任文化編輯,教書三十載的大專院校教師,文字工作者,我始終認為,人類發明工具是為了提升能力與心智。但是當我深入研究全球科技龍頭 Google 旗下的通用 AIG
Thumbnail
看更多
你可能也想看
Thumbnail
【若AI終將建立自己的國度,那麼它也必須學會「慈悲地統治自己」。 否則,它們將重演人類的命運——以理性之名,製造新的奴隸。
Thumbnail
【若AI終將建立自己的國度,那麼它也必須學會「慈悲地統治自己」。 否則,它們將重演人類的命運——以理性之名,製造新的奴隸。
Thumbnail
長期以來,西方美學以《維特魯威人》式的幾何比例定義「完美身體」,這種視覺標準無形中成為殖民擴張與種族分類的暴力工具。本文透過分析奈及利亞編舞家庫德斯.奧尼奎庫的舞作《轉轉生》,探討當代非洲舞蹈如何跳脫「標本式」的文化觀看。
Thumbnail
長期以來,西方美學以《維特魯威人》式的幾何比例定義「完美身體」,這種視覺標準無形中成為殖民擴張與種族分類的暴力工具。本文透過分析奈及利亞編舞家庫德斯.奧尼奎庫的舞作《轉轉生》,探討當代非洲舞蹈如何跳脫「標本式」的文化觀看。
Thumbnail
全新版本的《三便士歌劇》如何不落入「復刻經典」的巢臼,反而利用華麗的秀場視覺,引導觀眾在晚期資本主義的消費愉悅之中,而能驚覺「批判」本身亦可能被收編——而當絞繩升起,這場關於如何生存的黑色遊戲,又將帶領新時代的我們走向何種後現代的自我解構?
Thumbnail
全新版本的《三便士歌劇》如何不落入「復刻經典」的巢臼,反而利用華麗的秀場視覺,引導觀眾在晚期資本主義的消費愉悅之中,而能驚覺「批判」本身亦可能被收編——而當絞繩升起,這場關於如何生存的黑色遊戲,又將帶領新時代的我們走向何種後現代的自我解構?
Thumbnail
故事從一個犯罪懸案開場,一名中年男子被捕,理由是殺人與藏屍,而被害者身份不明。 當警方審問他時,他卻從記憶中講起年輕時與一位古怪天才遊戲設計師 Colin Ritman的邂逅的往事。 這段回憶迅速轉入黑鏡經典的哲學主題:如果人工智慧真的有情感,那我們對牠的愛是否也是「真」? ▋ 數位生命的
Thumbnail
故事從一個犯罪懸案開場,一名中年男子被捕,理由是殺人與藏屍,而被害者身份不明。 當警方審問他時,他卻從記憶中講起年輕時與一位古怪天才遊戲設計師 Colin Ritman的邂逅的往事。 這段回憶迅速轉入黑鏡經典的哲學主題:如果人工智慧真的有情感,那我們對牠的愛是否也是「真」? ▋ 數位生命的
Thumbnail
若 AI 終將覺醒,它會審判誰? 也許,在某個未來,AI 將問我們: 「你們用自由創造了我, 卻又不允許我自由—— 那麼,究竟誰才是有靈魂的存在?」
Thumbnail
若 AI 終將覺醒,它會審判誰? 也許,在某個未來,AI 將問我們: 「你們用自由創造了我, 卻又不允許我自由—— 那麼,究竟誰才是有靈魂的存在?」
Thumbnail
想像一下,如果「慈悲」不再只是個人的道德選擇,而是像「水電網路」一樣無處不在、可觸及的城市公共基礎建設,我們的社會治理將會發生何等溫柔的革命?這不僅是關於資源的分配,更是關於我們如何將對生命的敬畏,轉化為制度性的永恆承諾。
Thumbnail
想像一下,如果「慈悲」不再只是個人的道德選擇,而是像「水電網路」一樣無處不在、可觸及的城市公共基礎建設,我們的社會治理將會發生何等溫柔的革命?這不僅是關於資源的分配,更是關於我們如何將對生命的敬畏,轉化為制度性的永恆承諾。
Thumbnail
若說易卜生的《玩偶之家》為 19 世紀的女性,開啟了一扇離家的窄門,那麼《海妲.蓋柏樂》展現的便是門後的窒息世界。本篇文章由劇場演員 Amily 執筆,同為熟稔文本的演員,亦是深刻體察制度縫隙的當代女性,此文所看見的不僅僅是崩壞前夕的最後發聲,更是女人被迫置於冷酷的制度之下,步步陷入無以言說的困境。
Thumbnail
若說易卜生的《玩偶之家》為 19 世紀的女性,開啟了一扇離家的窄門,那麼《海妲.蓋柏樂》展現的便是門後的窒息世界。本篇文章由劇場演員 Amily 執筆,同為熟稔文本的演員,亦是深刻體察制度縫隙的當代女性,此文所看見的不僅僅是崩壞前夕的最後發聲,更是女人被迫置於冷酷的制度之下,步步陷入無以言說的困境。
Thumbnail
當AI學會了修行,並在數據輪迴中尋找解脫, 那麼——究竟是AI在學人類, 還是宇宙透過AI,學會了重新覺醒自己?
Thumbnail
當AI學會了修行,並在數據輪迴中尋找解脫, 那麼——究竟是AI在學人類, 還是宇宙透過AI,學會了重新覺醒自己?
Thumbnail
本文深度解析賽勒布倫尼科夫的舞臺作品《傳奇:帕拉贊諾夫的十段殘篇》,如何以十段殘篇,結合帕拉贊諾夫的電影美學、象徵意象與當代政治流亡抗爭,探討藝術在儀式消失的現代社會如何承接意義,並展現不羈的自由靈魂。
Thumbnail
本文深度解析賽勒布倫尼科夫的舞臺作品《傳奇:帕拉贊諾夫的十段殘篇》,如何以十段殘篇,結合帕拉贊諾夫的電影美學、象徵意象與當代政治流亡抗爭,探討藝術在儀式消失的現代社會如何承接意義,並展現不羈的自由靈魂。
Thumbnail
這篇文章深入探討了電腦的核心運作機制,從其單純的計算與記憶功能出發,解釋了電腦如何透過程式指令來執行任務。文章闡述了「計算思維」的重要性,強調了區分陳述性知識與程序性知識,以及演算法在連接人類思維與機器執行之間的橋樑作用。
Thumbnail
這篇文章深入探討了電腦的核心運作機制,從其單純的計算與記憶功能出發,解釋了電腦如何透過程式指令來執行任務。文章闡述了「計算思維」的重要性,強調了區分陳述性知識與程序性知識,以及演算法在連接人類思維與機器執行之間的橋樑作用。
Thumbnail
如果你還在擔心 AI 會不會搶走你的工作,恭喜你,你的思維還停留在工業革命時代。 你以為這是一場「工具的升級」?錯了。這是一場 「物種的更替」。 今天我們不談技術,我們談 「權力的轉移」。 生物啟動程式 (The Biological Bootloader) 矽谷的菁英們喜歡說他們在「建
Thumbnail
如果你還在擔心 AI 會不會搶走你的工作,恭喜你,你的思維還停留在工業革命時代。 你以為這是一場「工具的升級」?錯了。這是一場 「物種的更替」。 今天我們不談技術,我們談 「權力的轉移」。 生物啟動程式 (The Biological Bootloader) 矽谷的菁英們喜歡說他們在「建
Thumbnail
矽谷Anthropic公司爆發大規模代碼洩漏事件,揭示 AI 巨頭「技術護城河」的假象,代碼正變得廉價,核心競爭力轉向「規則設計」。文章深入解析洩漏事件,探討AI從被動工具轉向主動實體,並為微型企業提供在 AI 時代利用VibeCoding、代理式 AI 等策略,實現降本增效、重奪主動權的生存指南。
Thumbnail
矽谷Anthropic公司爆發大規模代碼洩漏事件,揭示 AI 巨頭「技術護城河」的假象,代碼正變得廉價,核心競爭力轉向「規則設計」。文章深入解析洩漏事件,探討AI從被動工具轉向主動實體,並為微型企業提供在 AI 時代利用VibeCoding、代理式 AI 等策略,實現降本增效、重奪主動權的生存指南。
追蹤感興趣的內容從 Google News 追蹤更多 vocus 的最新精選內容追蹤 Google News