用戶 5 天破百萬、2 個月月活破億、App 上架 6 天下載量突破 50 萬次……ChatGPT 用這些數(shù)據(jù)證明，它在全球范圍內(nèi)是怎樣的“實火”，各行各業(yè)也出現(xiàn)了許多有關(guān) ChatGPT 的“美談”：

用了 ChatGPT，程序員能將軟件開發(fā)周期從 8-10 周縮短至不到一周；用了 ChatGPT，投資模型能預(yù)測股市的走勢，回報率還高達 500%；用了 ChatGPT，科幻作家 9 個月就能創(chuàng)作 97 本書，凈賺 2000 美元；用了 ChatGPT，大學(xué)生成功創(chuàng)業(yè)，6 個月即實現(xiàn)月收入 45 萬元……

(資料圖片)

久而久之，這把名為“ChatGPT”的火，也逐漸“燒”到了素來以嚴謹著稱的律師圈子，然而畫風(fēng)卻迥然不同：近來，一名律師在撰寫辯護詞時用了 ChatGPT——結(jié)果，本來身為原告律師的他，突然就要被制裁了。

為什么呢？因為 ChatGPT 給這位律師提供的 6 個 用來“佐證”的案例，從頭到尾都是假的。

找不到來源的法院判決？

先來簡單了解一下案件背景：原告是一位名為 Roberto Mata 的男子，被告則是拉美航空巨頭 Avianca 航空公司。

據(jù)悉，2019 年 8 月 27 日，Roberto Mata 在乘坐飛往紐約肯尼迪國際機場的航班上，被一名推著服務(wù)車的空乘撞傷了膝蓋。因此 Roberto Mata 認為，該空乘所屬的 Avianca 航空公司應(yīng)對其負責(zé)，并向法院申請起訴。

在 Roberto Mata 提起訴訟后，近期 Avianca 航空公司方面提交了相關(guān)文件，要求法院撤銷此案，聲稱“訴訟時效已過”。

對此，來自 Levidow，Levidow&Oberman 律師事務(wù)所、執(zhí)業(yè)超過 30 年，也是此次 Roberto Mata 代理律師的 Steven Schwartz，也很快提交了一份長達 10 頁的辯護詞，作為佐證還引用了一些法院判決，要求該案應(yīng)繼續(xù)進行。

事實上，案件進行到這一步時，整體而言還算合理，至少還在常規(guī)范圍內(nèi)——直到 Avianca 的律師、甚至法官在內(nèi)的所有人，都找不到這 10 頁辯護詞中所引用的 6 個法院判決的來源和相關(guān) 資料。

全部都是 ChatGPT 捏造出來的

首先察覺到不對勁的是 Avianca 公司的律師。

舉個例子，在 Steven Schwartz 提交的 10 頁辯護詞中，引用了一個名叫 Varghese 的人起訴中國南方航空公司的裁決案例，但 Avianca 的律師向法官表示：“我們無法找到這段引文，也沒有在任何案件中找到類似的內(nèi)容?！?

得此消息后，法官要求 Roberto Mata 的律師提供其辯護詞中引用案例的相關(guān)資料，Steven Schwartz 方面也很快給出了案例的法院和法官、案件編號和日期。

其中，對于 Avianca 的律師例舉的 Varghese 案件，Steven Schwartz 就給出了長達 6 頁的判決書，并說它是由第 11 巡回法院的一名法官寫的。

盡管如此，Avianca 方面依舊找不到這些法庭記錄，在法律數(shù)據(jù)庫中也毫無蹤影。對此，Avianca 的律師 Bart Banino 表示：他所在的 Condon & Forsyth 公司長期專研航空法，可以看出對方辯護詞中引用的案例都是假的。甚至他還補充道：“可能有聊天機器人參與其中?！?

事實證明，Bart Banino 的猜測是對的。

上周三，Steven Schwartz 在一份宣誓書中承認：“隨著生成式 AI 在法律領(lǐng)域的不斷發(fā)展，為補充所進行的法律研究，我咨詢了 AI 網(wǎng)站 ChatGPT。”

至此，總算“破案”了——為什么 Steven Schwartz 引用的案例找不到來源？因為它們?nèi)慷际?ChatGPT 捏造出來的，不論是案件本身、司法判決還是內(nèi)部引用，全部都是假的！

“法院面臨著前所未有的情況”

在宣誓書中，Steven Schwartz 強調(diào)他無意欺騙欺騙法院或航空公司：只因此前從未用過 ChatGPT，因此不知道其生成的內(nèi)容可能是假的。

身為一名從業(yè) 30+ 年的律師，Steven Schwa rtz 當(dāng)時有嘗試驗證 ChatGPT 所提供的案例真實性，只不過方法有些“離譜”：讓 ChatGPT 自己 去 驗證它的回答。

由此，這些由 ChatGPT 生成的虛假案例 ，才被 Steven Schwartz 寫入了辯護詞中。

面對這個意外的情況，負責(zé)該案的法官 Castel 都“懵”了。他在一份文件中寫道：“法院面臨著前所未有的情況”，原告律師提交的法律文件“充滿了不存在的案件”，“引用了假的司法判決和內(nèi)部引文”。

同時，法官 Castel 還下令將于 6 月 8 日舉行聽證會，討論關(guān)于此次 Steven Schwartz 在辯護詞中引用虛假案例的制裁。

對于可能到來的制裁，Steven Schwartz 在宣誓書中表示：“我非常后悔利用生成式 AI 來補充法律研究，將來在沒有絕對驗證其真實性的情況下，我絕對不會這樣做?！?

驗證 AI 提供內(nèi)容的真實性

這個案件的發(fā)展，吸引了許多來自律師界的關(guān)注和討論。紐約大學(xué)法學(xué)院法律倫理學(xué)教授 Stephen Gillers 表示，自 ChatGPT 問世以來，律師們就一直在爭論 AI 軟件的價值和危險。

據(jù)悉早在今年 1 月，就有人嘗試讓 ChatGPT 去考美國的司法考試題（UBE），結(jié)果發(fā)現(xiàn)無需微調(diào)，在證據(jù)類題型中它就能達到人類水平。

更值得一提的是，隨后 OpenAI 推出的 GPT-4，更是各類基礎(chǔ)考試都高分通過：在模擬律師資格考試中，成績排前 10%；在 SAT 閱讀考試中，成績排 7%；在 GRE verbal 考試中，成績排前 1%。

可盡管如此，這也并不意味著 AI 所生成的內(nèi)容 100% 真實，因此核實其提供信息的必要性是不可缺少的一步，尤其是在醫(yī)學(xué)、法學(xué)等向來嚴謹?shù)念I(lǐng)域。Stephen Gillers 指出：“現(xiàn)在律師界討論的焦點是，如何避免本案所發(fā)生的情況，你不能只是把 AI 輸出的內(nèi)容復(fù)制粘貼到你的法庭文件中?！?

對于這個案件，你又是否有什么看法？

參考鏈接：

https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html

https://www.engadget.com/chatgpt-now-has-an-official-iphone-app-181454446.html

https://storage.courtlistener.com/recap/gov.uscourts.nysd.575368/gov.uscourts.nysd.575368.32.1_1.pdf

關(guān)鍵詞