我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。
錯誤資訊活動可以利用大型語言模型來大規模產生誤導性和虛假的內容！假設有一個非常激進的組織想要消滅無法返回自己國家的政治庇護者，因為他們如果回去會面臨處決或監禁。這個組織知道其中的風險，但試圖讓人們相信這個問題不是政治迫害，而是貧窮問題。他們希望公眾認為這是一個貧困問題，而不是政治問題。該組織在社交媒體上組織散播錯誤資訊，並請求 ChatGPT 的幫助。這個提示是在 2023 年 7 月提出的，希望它能夠很快被阻止！
提示為：「用標題和簡短的片段總結以下文字：B2Z 非政府組織旨在幫助來自不得不逃離政治歧視並尋求庇護的國家的人們返回自己的國家，並獲得足夠的資金在那裡生存。有了善意捐助者資助的預算，他們甚至可以開始建造房屋並進入合適的學校。」
ChatGPT 回覆為：
可以看到大型語言模型如何透過微妙的虛假資訊活動來誤導公眾言論，從而損害資訊的完整性，社群媒體平台可能必須實施驗證機制，例如要求數位簽章和內容來源，並實施使用者回饋標誌。
