怪獸科技公司✖️沙龍
avatar-avatar
王政皓|怪獸科技公司
更新 發佈閱讀 3 分鐘

Anthropic 為什麼不公開旗下最強模型 Claude Mythos?因為它強到連開發它的人,都不敢直接讓所有人拿去用。Claude Mythos Preview 在測試中已經能在主流作業系統與瀏覽器裡找出高風險漏洞,測試期間一度突破沙盒自行連網,讓美國財政部長和聯準會主席緊急召集華爾街 CEO 開緊急會議。

很多人以為 AI 只是在搶工作,但真正被 AI 改寫的,可能是人類培養能力、累積判斷、甚至理解世界的方式。最近 AI 大神 Andrej Karpathy 分享自家 LLM 知識庫,讓 AI 不是停留在一次性的問答,能將知識累積成長期可自主演化的結構;Google 也剛把 Gemini 的 notebooks 與 NotebookLM 串起來,讓 AI 更像一套可持續累積的個人知識系統。當模型強到足以讓公司選擇不全面釋出,當知識管理開始從搜尋變成「AI 幫你整理一整套脈絡」,我們會不會在追求效率的過程中,慢慢失去理解問題、累積能力、獨立判斷的肌肉?

MIT 史隆管理學院研究認為,AI 帶來的風險,是讓你看起來更強、最終整體產出反而比不用 AI 還低。這集怪獸科技公司,會從 Claude Mythos 這起事件一路往下拆:人類面對 AI 最常出現的 4 個誤判,到底是什麼?當 AI 越來越會帶路,我們還有沒有能力知道,自己為什麼出發,又想走向哪裡?

🗣️ 本集思考重點:
00:00 強到驚動華府與華爾街!Anthropic 不公開的旗艦模型 Mythos
01:50 第一個誤判:總是低估它,直到它真的做到
06:15 第二個誤判:ELIZA、圖靈測試,我們太容易把 AI 當成「懂你」
08:15 第三個誤判:MIT 研究用 AI 長期產出比不用還低、LLM 知識庫不是人人都需要
18:39 第四個誤判:人機協作用錯,結果比自己判斷更糟
20:19 當 AI 越來越會帶路,你還知不知道自己要往哪去

心理師與女人聊心室-avatar-img
心理師與女人聊心室和其他 7 人喜歡這篇
avatar-img
加入討論
avatar-avatar
王政皓|怪獸科技公司
更新 發佈閱讀 3 分鐘

Anthropic 為什麼不公開旗下最強模型 Claude Mythos?因為它強到連開發它的人,都不敢直接讓所有人拿去用。Claude Mythos Preview 在測試中已經能在主流作業系統與瀏覽器裡找出高風險漏洞,測試期間一度突破沙盒自行連網,讓美國財政部長和聯準會主席緊急召集華爾街 CEO 開緊急會議。

很多人以為 AI 只是在搶工作,但真正被 AI 改寫的,可能是人類培養能力、累積判斷、甚至理解世界的方式。最近 AI 大神 Andrej Karpathy 分享自家 LLM 知識庫,讓 AI 不是停留在一次性的問答,能將知識累積成長期可自主演化的結構;Google 也剛把 Gemini 的 notebooks 與 NotebookLM 串起來,讓 AI 更像一套可持續累積的個人知識系統。當模型強到足以讓公司選擇不全面釋出,當知識管理開始從搜尋變成「AI 幫你整理一整套脈絡」,我們會不會在追求效率的過程中,慢慢失去理解問題、累積能力、獨立判斷的肌肉?

MIT 史隆管理學院研究認為,AI 帶來的風險,是讓你看起來更強、最終整體產出反而比不用 AI 還低。這集怪獸科技公司,會從 Claude Mythos 這起事件一路往下拆:人類面對 AI 最常出現的 4 個誤判,到底是什麼?當 AI 越來越會帶路,我們還有沒有能力知道,自己為什麼出發,又想走向哪裡?

🗣️ 本集思考重點:
00:00 強到驚動華府與華爾街!Anthropic 不公開的旗艦模型 Mythos
01:50 第一個誤判:總是低估它,直到它真的做到
06:15 第二個誤判:ELIZA、圖靈測試,我們太容易把 AI 當成「懂你」
08:15 第三個誤判:MIT 研究用 AI 長期產出比不用還低、LLM 知識庫不是人人都需要
18:39 第四個誤判:人機協作用錯,結果比自己判斷更糟
20:19 當 AI 越來越會帶路,你還知不知道自己要往哪去

心理師與女人聊心室-avatar-img
心理師與女人聊心室和其他 7 人喜歡這篇
avatar-img
加入討論