В судебных документах фигурируют непроверенные сведения от ChatGPT.

Федеральный судья reprimanded юристов престижной компании, которая представляет тюрьму штата Алабама, за применение ChatGPT для составления юридических документов с «вымышленными» ссылками на решения.

Американский судья Анна Манаско прилюдно наказала трёх юристов из юридической фирмы Butler Snow, работавшей с Алабамой и другими властями по делам о тюрьмах.

В постановлении о санкциях, опубликованном в среду, Манаско указала: фальсификация юридических полномочий – серьезное нарушение, за которое следует применение серьезных мер наказания.

Манаско исключила троих из участия в деле с ложными повестками, приказав им сообщить о постановлении о санкциях клиентам, юристам противостоящих сторон и судьям во всех остальных делах. Ей же передала дело Коллегии адвокатов штата Алабама для рассмотрения дисциплинарных мер.

Адвокаты фирмы Butler Snow на прошлом заседании у судьи Манаско неоднократно приносили извинения.
По их словам, адвокат использовал искусственный интеллект для изучения судебной практики, но не удостоверился в её достоверности перед добавлением в два документа поданных в федеральный суд. Эти цитаты оказались «галлюцинациями» — то есть искажениями — системы искусственного интеллекта.

Манаско заявила, что цитаты были полностью вымышлены, и назвала использование цитат без проверки их достоверности крайним проявом безалаберности.