AI說書 - 從0開始 - 457 | AI 風險管理

我想要一天分享一點「LLM從底層堆疊的技術」，並且每篇文章長度控制在三分鐘以內，讓大家不會壓力太大，但是又能夠每天成長一點。

因為 AI 每一項風險都可能帶來破壞性的影響，執行生成或判別任務的 Transformer 存在缺陷和弱點，必須加以解決，這些風險源自 LLM 中的 Transformer，而這些模型則承襲了機器學習技術中的風險，機器學習中隨機的隨機性已經在一代代人工智慧技術中傳遞下來。

後續將闡述包含與 LLM 相關的七個關鍵風險，例如搭載 GPT-4 的 ChatGPT 和 PaLM 2：幻覺、不穩定的衍生行為、資訊錯誤、影響操作、有害內容、隱私問題、網路安全及記憶化風險。

更多風險與避免方法見：https://arxiv.org/pdf/2303.08774.pdf