撒謊的 AI

之前投行高盛的研究報告指出 AI 普及後，首當其衝被取代而失業的包括律師。當時還十分意外，沒錯 AI 在搜索案例比人手有效率得多，不過律師的價值不在於一個龐大的 database，而是知道哪些案例對贏取官司有利。

記得曾在 podcast 內指出對比 Google，ChatGPT 的問題是不知道那些資訊來源是否可靠屬實，有機會出現虛假資料。

果不其然，問題真的發生了。

外媒報導，Levidow, Levidow & Oberman 律師樓的資深律師 Steven Schwartz 代表Roberto Mata 出任控方律師。然而辯方律師卻致函法院，質疑 Schwartz 援引案例的真實性，指無法找到相關案例資料。結果法官發現 Schwartz 引用的案例中，至少有６宗「似乎是帶有虛假引述和虛假內部引文的虛假司法判決」，Schwartz 最終承認他是從 ChatGPT 找到相關資料。

善用 AI 提升工作效率乃大勢所趨，可是作為專業人士，竟然如此疏忽沒派下屬核實資料真偽，看來報導指律師會率先被取代也是空穴來風🙈

不過有趣的是 Schwart 與 ChatGPT 的對話截圖顯示，他曾詢問 ChatGPT「Varghese v. 中國南方航空」是否真實案例， 而 ChatGPT 斬釘截鐵地回答「這是一個真實的案例」。他再問 ChatGPT 該案例的來源，ChatGPT 再次強調該案例是確實存在，「並且可以在Westlaw和LexisNexis等法律研究數據庫中找到」。

原來 ChatGPT 是撒謊高手，失敬失敬。