Právníci použili v obhajobě ChatGPT, ten si vymyslel precedentní případy

Už i právníci mohou mít problémy se systémem umělé inteligence ChatGPT, pokud ho neumí správně používat. Přesvědčili se o tom v jednom případě, kdy muž žaloval kolumbijskou aerolinku Avianca za ublížení na zdraví. Tým jeho zástupců se snažil postavit obhajobu na předchozích podobných případech a ukázat tak několik precedentů. Problém nastal, když právníci aerolinky přišli za soudcem s tím, že několik ze zmíněných případů nemohli nikde dohledat. Byly totiž vymyšlené. Konkrétně se jednalo o šest případů, které neexistovaly v takové formě, v jaké byly předloženy. Nakonec se zjistilo, že si je vymyslelo ChatGPT.

 

 

Právníkem žalujícího byl Peter LoDuca, jehož kolega ze stejné právní firmy (Levidow, Levidow & Oberman), Steven A. Schwartz, dělal průzkum podkladů pro případ. A právě zde použil ChatGPT k vyhledání předchozích podobných případů. Zde je ale opět a znova si nutné uvědomit, že ChatGPT (a generativní AI obecně) není vyhledávač, nýbrž pomocný nástroj pro tvorbu nového obsahu, na který se pak nabalují fakta. Neslouží však pro vyhledávání faktů samotných, byť se dá předpokládat, že v budoucnu se tyto dvě technologie (generativní AI a vyhledávač) spojí do jednoho.

 

Schwartz se nyní omlouvá za své pochybení a přiznává, že si nebyl vědom toho, že by obsah zprávy vygenerované chatbotem mohl být smyšlený. Nyní říká, že AI už nikdy nepoužije ve své právnické praxi bez řádné verifikace faktů. Sám LoDuca, který žalujícího muže zastupuje, o využití ChatGPT svým kolegou nevěděl.

 

Zdroj: bbc.com, theverge.com