Стівен Шварц, якому загрожує покарання за протокол, сьогодні звернувся до окружного судді США П. Кевіна Кастеля з проханням про поблажливість. Адвокат стверджує, що він не підозрював, що безплатний інструмент штучного інтелекту може створювати підроблені цитати у справах і судові висновки.

«Я мав зробити багато речей, щоб переконатися в правдивості цих справ», — сказав Шварц судді. «Я з тріском провалився».

Інструменти генеративного штучного інтелекту, такі як ChatGPT, обіцяють перевернути професії білих комірців, змінивши спосіб ведення бізнесу юридичними фірмами, фінансовими установами та іншими. Технологія також має ризики, зокрема надмірну залежність від неї.

ChatGPT, чат-бот, запущений некомерційною організацією OpenAI, може вести розмови, подібні до людей, і отримувати величезну кількість даних з Інтернету, хоча він визнає, що він схильний до галюцинацій і може надавати неточну інформацію.

Цього тижня Шварц зізнався, що ChatGPT вигадав шість випадків, на які він навів у короткій справі проти Avianca Airlines.

«Я просто ніколи не міг уявити, що ChatGPT буде створювати сфабриковані справи», — сказав Шварц судді федерального суду Манхеттена.

Суть справи

Клієнт Шварца стверджував, що співробітник Avianca вдарив його в ліве коліно металевим візком для сервірування під час рейсу з Сальвадора до Нью-Йорка в 2019 році, спричинивши йому «тяжкі тілесні ушкодження».

Авіакомпанія намагалася відхилити позов, стверджуючи, що він був поданий занадто пізно. Досліджуючи питання строку давності, Шварц визнав, що використовував ChatGPT.

Після того, як юристи Avianca подали документи, в яких говорилося, що вони не можуть знайти справи, Шварц продовжував покладатися на інструмент ШІ.

Кастель сказав адвокатам, що справа залежить від дій Шварца та його колеги з його фірми Пітера Лодуки після того, як вони дізналися про фальшиві цитати.

«Я сумніваюся, що ми були б тут сьогодні, якби наратив на цьому закінчився», — сказав він.

«Юридична тарабарщина»

Кастель ознайомив Шварца з його помилковим описом, запитуючи, чи думав він перевірити справи в базах даних юридичних досліджень, у книгах в юридичній бібліотеці чи навіть у Google. Щоразу відповідь Шварца була «ні».

Суддя запитав Шварца, чи він підозрює одну з головних фальшивих справ, наведених у доповіді, неіснуючу справу «Варгезе проти China South Airlines Co.», яка, за словами судді, містить інформацію, яка не має сенсу.

«Чи можемо ми погодитися, що це юридична тарабарщина?» — запитав Кастель.

Шварц сказав, що він не міг уявити, що ChatGPT винайде футляр із цілої тканини, і що він ніколи не розглядав таку можливість до наказу Кастеля від 4 травня, щоб підтвердити причину.

«Мене продовжував обманювати ChatGPT», — сказав Шварц. «Це соромно».

«Неймовірно потужний»

Після виявлення проблем із запискою Шварца федеральні судді в Іллінойсі та Техасі видали постійні накази, які вимагали від юристів засвідчити, що їхні документи були створені без генеративного ШІ або що людина перевіряла точність будь-якої мови, створеної ШІ.

«Ці платформи неймовірно потужні та мають багато застосувань у законодавстві», — написав у своєму наказі суддя Північного округу Техасу Брантлі Старр. «Але юридичний брифінг не є одним із них».

У справі Avianca Кастель замовив слухання щодо санкцій щодо Шварца, його колеги ЛоДуки, який підписав протокол і подав його до суду, а також їхньої фірми, манхеттенської фірми Levidow, Levidow & Oberman, що складається з чотирьох юристів.

У своєму розпорядженні Кастель також підняв питання про можливість направлення Шварца до комітету з розгляду скарг державного прокурора, який може розслідувати професійну поведінку.