Sztuczna inteligencja wprowadziła prawnika w kłopoty. Sąd wymierzył surową karę

Australijski prawnik stanie przed komisją dyscyplinarną po tym, jak sztuczna inteligencja “pomogła” mu przygotować dokumenty sądowe. Problem w tym, że AI wymyśliło cztery sprawy sądowe, które nigdy nie istniały. To kolejny przypadek, który pokazuje, jak ryzykowne może być ślepe zaufanie do nowych technologii w zawodach wymagających precyzji.

Sąd w Australii nie miał litości dla prawnika, który w sprawie imigracyjnej złożył dokumenty z fikcyjnymi cytatami orzeczeń. Jak ustalono, żadna z czterech cytowanych spraw nie istniała w rzeczywistości — podaje “The Guardian.

Za błąd prawnik zapłaci słoną cenę. Sędzia Arran Gerrard nakazał mu pokrycie kosztów w wysokości 8 tys. 371 dolarów australijskich i skierował sprawę do Rady Praktyki Prawniczej. To może oznaczać dalsze konsekwencje zawodowe.

To pokazuje niebezpieczeństwa związane z tym, że prawnicy polegają wyłącznie na sztucznej inteligencji przy przygotowywaniu dokumentów sądowych — ostrzegł sędzia Gerrard.

Prawnik w złożonym oświadczeniu przyznał się do błędu. Używał AI Claude firmy Anthropic “jako narzędzia badawczego” i Microsoft Copilot do weryfikacji. “Nabyłem nadmierną pewność siebie w poleganiu na narzędziach AI i nie sprawdziłem wystarczająco wygenerowanych wyników” — napisał.

Sztuczna inteligencja wprowadziła prawnika w kłopoty. Sąd wymierzył surową karę

Australia zmaga się z prawdziwą epidemią takich przypadków. Od 2023 r., gdy AI stało się powszechnie dostępne, odnotowano już ponad 20 spraw, gdzie sztuczna inteligencja wprowadziła sądy w błąd fikcyjnymi cytatami lub błędnymi informacjami.

Problem dotyczy nie tylko prawników. W tym miesiącu przed Sądem Najwyższym Nowej Południowej Walii osoba reprezentująca siebie przyznała, że użyła AI do przygotowania przemówienia na rozprawie apelacyjnej.

Prezes Rady Prawniczej Australii Juliana Warner podkreśla, że choć AI oferuje unikalne możliwości wsparcia prawników, “musi być używane z najwyższą ostrożnością”. Całkowity zakaz byłby niepraktyczny, ale prawnicy nie mogą zapominać o swoich obowiązkach wobec klientów i sądu — cytuje “The Guardian