建佑律師_NoMoreLaw的沙龍
avatar-avatar
建佑律師_NoMoreLaw
更新 發佈閱讀 1 分鐘
src

從風險管理角度,這案子比較明確的教訓是:#重點還是在人啦🤖⚖️😏

• 再好的 AI 工具(不管是 Harvey、AIDA 還是一般 LLM),都可能產生「看起來很合理但完全假的」法律引文。這是語言模型的結構性問題,而不是單一品牌才會發生。

• S&C 自己的內規其實已經要求「任何 AI 產出都要嚴格人工驗證」,出包的關鍵是流程沒有被遵守(核對程序失靈),而不是工具本身多先進。


與其追究「是哪一款 AI」,更實務的做法是把這個案例當作警示,強化事務所/公司內部的:

• 工具選擇與分級(哪些場景可以用 GenAI,哪些只能用專門的檢索式工具)。

• 強制 double-check / partner review 的流程設計和稽核。

• 在對外文件中揭露 AI 使用範圍與核查責任的制度。

移幣-avatar-img
移幣喜歡這篇
avatar-img
加入討論
avatar-avatar
建佑律師_NoMoreLaw
更新 發佈閱讀 1 分鐘
src

從風險管理角度,這案子比較明確的教訓是:#重點還是在人啦🤖⚖️😏

• 再好的 AI 工具(不管是 Harvey、AIDA 還是一般 LLM),都可能產生「看起來很合理但完全假的」法律引文。這是語言模型的結構性問題,而不是單一品牌才會發生。

• S&C 自己的內規其實已經要求「任何 AI 產出都要嚴格人工驗證」,出包的關鍵是流程沒有被遵守(核對程序失靈),而不是工具本身多先進。


與其追究「是哪一款 AI」,更實務的做法是把這個案例當作警示,強化事務所/公司內部的:

• 工具選擇與分級(哪些場景可以用 GenAI,哪些只能用專門的檢索式工具)。

• 強制 double-check / partner review 的流程設計和稽核。

• 在對外文件中揭露 AI 使用範圍與核查責任的制度。

移幣-avatar-img
移幣喜歡這篇
avatar-img
加入討論