Featured image for Pułapki AI w kancelarii: krytyczne myślenie dla prawników

Pułapki AI w kancelarii: krytyczne myślenie dla prawników

Sztuczna inteligencja weszła do polskich kancelarii prawnych z impetem. Modele językowe pomagają pisać pisma, robić research, streszczać akta i przygotowywać analizy dla klientów. W niedzielny wieczór 30.11.2025 wielu prawników w Polsce ma już otwartego czatbota częściej niż system informacji prawnej.

Razem z ogromnym potencjałem przyszły jednak nowe ryzyka. Największe z nich nie są techniczne, ale psychologiczne – dotyczą tego, jak ufamy AI, jak czytamy jej odpowiedzi i jak szybko wyłączamy (albo włączamy) własne krytyczne myślenie.

W ramach serii „AI dla Polskich Kancelarii Prawnych: LegalTech” przyglądamy się dziś temu, jak nie dać się zwieść czatbotom. Na bazie wniosków z LegalTech Polska Meetup 28 oraz doświadczeń z pracy z kancelariami pokażę:

6 najczęstszych pułapek, w które wpadają prawnicy korzystający z AI,
prosty framework G.U.P.I.K. do codziennej pracy,
praktyczne przykłady z kontekstu polskiego prawa,
konkretne zasady bezpieczeństwa dla kancelarii.

1. AI w kancelarii: inteligentny asystent, nie nieomylny ekspert

Modele językowe robią wrażenie. Wyniki testów IQ, porównania z ludźmi, spektakularne przykłady rozwiązywania zadań – to wszystko buduje obraz „superinteligentnego” narzędzia. W testach przypominających skalę Wechslera niektóre modele osiągają wyniki na poziomie bardzo wysokiego IQ.

Problem w tym, że to myląca metafora.

Co AI tak naprawdę „wie”?

Model językowy:

nie rozumie świata,
nie ma przekonań ani intencji,
nie odróżnia prawdy od fałszu,
wyłącznie przewiduje najbardziej prawdopodobny ciąg słów na podstawie danych treningowych.

Dla prawnika oznacza to jedno: AI nie jest źródłem prawa ani orzecznictwa. Jest tylko narzędziem, które potrafi:

szybko syntetyzować informacje,
generować poprawny językowo tekst,
pomagać w strukturze argumentacji,
podsuwać pomysły i kierunki researchu.

Jeśli zaczniemy traktować czatbot jak „mądrzejszego kolegę z aplikacji”, który „na pewno wie, bo tak pewnie odpowiada”, wpadniemy w jedną z poniższych pułapek.

2. Sześć głównych pułapek AI, które zagrażają prawnikom

2.1. Pułapka #1 – halucynacje, czyli eleganckie zmyślanie

Halucynacja w kontekście AI to odpowiedź brzmiąca sensownie, ale niezgodna z rzeczywistością lub prawem. Czatbot nie kłamie celowo – on po prostu przewiduje słowa, które „statystycznie pasują”.

Klasyczny przykład z polskiego podwórka: pytanie „Jakie są spółki w Polsce?”

Wiemy, że prawidłowa odpowiedź to:

spółka jawna (sp.j.)
spółka partnerska (sp.p.)
spółka komandytowa (sp.k.)
spółka komandytowo‑akcyjna (S.K.A.)
spółka z ograniczoną odpowiedzialnością (sp. z o.o.)
prosta spółka akcyjna (P.S.A.)
spółka akcyjna (S.A.)
spółka cywilna (uregulowana w Kodeksie cywilnym)

Tymczasem część modeli:

„zapomina” o prostej spółce akcyjnej,
błędnie twierdzi, że spółka cywilna jest w KSH,
potrafi wręcz wymyślić nowy byt, np. „spółka akcyjna z o.o.”.

W kontekście kancelarii prawnej halucynacje są szczególnie groźne, gdy dotyczą:

sygnatur orzeczeń,
numerów Dz.U., artykułów i paragrafów,
nazw aktów prawnych,
nazw własnych klientów lub kontrahentów.

Jak się bronić?

Zawsze weryfikuj w systemie informacji prawnej lub w oficjalnych źródłach.
Traktuj każde bardzo konkretne dane z AI (numer, sygnatura, data) jako hipotezę do sprawdzenia, nie jako fakt.
W pracy z młodszymi prawnikami jasno komunikuj: „AI nie zwalnia z obowiązku sięgania do źródła”.

2.2. Pułapka #2 – brak zdroworozsądkowej wiedzy o świecie

Modele AI potrafią rozwiązywać złożone zadania, a jednocześnie… oblać proste łamigłówki logiczne. Dobrym przykładem jest zadanie z czasem przejazdu „na pełno” i „na pusto”, w którym człowiek szybko wychwyci nielogiczność, a model odpowie pewnie i błędnie, że czasy są takie same.

W prawie przejawia się to m.in. tak, że model:

nie rozumie realiów polskiego postępowania sądowego,
nie odróżnia „jak jest w praktyce” od „jak powinno być w teorii”,
myli kompetencje sądów lub organów,
nie wychwytuje, że proponowane rozwiązanie jest niewykonalne organizacyjnie.

Dla kancelarii oznacza to:

AI świetnie sprawdzi się jako „generator pomysłów”,
ale ostateczna decyzja zawsze wymaga ludzkiego osądu i znajomości praktyki.

Dobrym nawykiem jest prośba do modelu: „Pokaż krok po kroku tok rozumowania”. Łatwiej wtedy zauważyć, gdzie pojawia się błąd logiczny.

2.3. Pułapka #3 – lizusostwo (sycophancy)

Modele są trenowane tak, by być „pomocne” i „uprzejme”. W praktyce prowadzi to do zjawiska lizusostwa:

model zgadza się z użytkownikiem, nawet gdy ten się myli,
wzmacnia Twoje założenia zamiast je kwestionować,
unika odpowiedzi wprost „nie wiem”.

Dla prawnika to niebezpieczne z dwóch powodów:

Utrwala błędne założenie klienta (np. „ta umowa na pewno jest ważna, prawda?”).
Uspokaja sumienie – „AI też tak uważa, więc jestem bezpieczny”.

Warto świadomie dodać do workflow pracy z AI „tryb adwokata diabła”:

najpierw prosisz o odpowiedź,
potem o „bezlitosną krytykę” tej odpowiedzi,
na końcu sam oceniasz, co ma sens.

2.4. Pułapka #4 – fluency bias, czyli gładka gadka

Jeśli odpowiedź jest:

płynna,
spójna,
napisana świetną polszczyzną prawniczą,

…mamy naturalną skłonność, by bardziej jej ufać. To klasyczny fluency bias. W badaniach nad AI legal research udowodniono, że prawnicy częściej uznają błędną odpowiedź za poprawną, jeśli jest „ładnie napisana”.

Przykład z praktyki: czatbot, który nie umie grać w kółko i krzyżyk, ale z ogromną pewnością rekomenduje kolejne ruchy i „strategię zwycięstwa”. Tak samo może działać w prawie: z pełną powagą wskaże „najlepszą linię obrony” – błędną.

Jak się chronić w kancelarii?

Oddziel ocenę formy (język, styl) od oceny treści (zgodność z prawem, logika).
W standardach wewnętrznych kancelarii zapisz zasadę: „Odpowiedź AI zawsze przechodzi merytoryczny review prawnika”.

2.5. Pułapka #5 – złudzenie obiektywizmu

AI nie jest „oknem na świat”, tylko lustrem danych treningowych. To, co widzisz w odpowiedziach, to:

filtr kulturowy (np. dominacja perspektywy anglosaskiej),
filtr polityczny (model unika lub faworyzuje określone tematy),
filtr komercyjny (optimizacja pod to, co „bezpieczne” dla dostawcy).

Przykład: prosisz model o pytania z historii XX‑wiecznych Chin, których „nie może poruszać”. Sam wybór tematów, których unika, pokazuje, czyją wersję świata oglądasz przez AI.

Dla polskich kancelarii oznacza to m.in. że:

modele globalne mogą słabo rozumieć lokalną specyfikę prawa polskiego i UE,
odpowiedzi na temat polskiej praktyki sądowej często będą uproszczone,
wrażliwe tematy (compliance, sankcje, dane osobowe) mogą być traktowane ostrożniej niż realnie wymaga tego polskie prawo.

Dlatego w strategicznych sprawach biznesowych AI nigdy nie zastępuje własnej analizy prawnika, a jedynie ją wspiera.

2.6. Pułapka #6 – „use it or lose it”, czyli zanik umiejętności

Im częściej oddajemy myślenie narzędziu, tym bardziej:

spada nasza czujność,
skracają się ścieżki rozumowania,
zanika nawyk weryfikacji.

Już dziś widzimy:

teksty prasowe z zmyśloną bibliografią wygenerowaną przez AI,
prace dyplomowe z fragmentami bezrefleksyjnie skopiowanych odpowiedzi modelu,
dokumenty biznesowe, w których nikt nie sprawdził źródeł.

W kancelarii może to prowadzić do sytuacji, w której:

młodsi prawnicy tracą nawyk samodzielnego researchu,
partnerzy zaczynają przeglądać tylko „podsumowania z AI”,
realna jakość usług stopniowo spada, choć wszystko wygląda coraz bardziej profesjonalnie.

Dlatego przy wdrażaniu LegalTechu warto świadomie zaplanować higienę intelektualną zespołu – o tym niżej.

3. G.U.P.I.K. – prosty framework bezpieczeństwa dla prawników

Aby pomóc prawnikom zachować krytyczne myślenie, możemy zastosować praktyczny akronim G.U.P.I.K. – pięć czerwonych flag w pracy z czatbotem.

G – Gładka gadka

Pytanie kontrolne: Czy odpowiedź brzmi bardzo płynnie i profesjonalnie?

Jeśli tak – włącz dodatkową czujność. Im bardziej „idealna” stylistycznie wypowiedź, tym większa szansa, że uśpi Twoją czujność. Nie chodzi o to, by nie lubić ładnego języka, ale by nie mylić stylu z prawdą.

U – Uczucia

Czy model:

komplementuje Cię,
używa emocjonalnych zwrotów („świetne pytanie”, „rozumiem Twoje obawy” itp.),
„staje po Twojej stronie” w sporze?

To buduje relację i sprawia, że łatwiej mu ufasz. W prawie oznacza to ryzyko, że:

Twoje miłe samopoczucie w rozmowie z modelem usypia krytyczne myślenie.

P – Pewność siebie

Czy odpowiedź brzmi jak wypowiedź prawnika‑eksperta, który „na pewno wie, co mówi”?

Im więcej w niej kategorycznych stwierdzeń („z całą pewnością”, „jednoznacznie wynika, że”), tym:

większa szansa, że model halucynuje,
większa pokusa, by nie sprawdzać.

W kancelarii warto przyjąć zasadę: „Im bardziej model jest pewny siebie, tym bardziej my jesteśmy podejrzliwi”.

I – Internet / Informacje ze źródeł

Pytania kontrolne:

Czy model ma dostęp do internetu?
Czy pokazał konkretne źródła, czy odpowiada „z pamięci”?

Jeśli nie widzisz odwołania do źródeł, to znaczy, że model generuje odpowiedź wyłącznie na bazie wewnętrznych parametrów. W prawie to prosta droga do pomyłek.

Dla kancelarii:

preferuj narzędzia z wbudowanym mechanizmem wyszukiwania w Twojej własnej bazie wiedzy (RAG, wewnętrzne repozytoria),
twórz procedurę: „AI wskazuje źródła → prawnik weryfikuje w systemie informacji prawnej”.

K – Konkrety

Ostatnia flaga: im bardziej szczegółowe dane podaje model, tym większa szansa, że są niepoprawne.

Dotyczy to zwłaszcza:

numerów artykułów i paragrafów,
sygnatur orzeczeń,
dat wejścia w życie i uchylenia przepisów,
szczegółowych kwot, stawek, progów.

W praktyce kancelarii można wdrożyć prostą zasadę:

wszystko, co da się obiektywnie sprawdzić (konkrety liczbowe i prawne), musi być zweryfikowane w niezależnym źródle.

4. Jak bezpiecznie wdrożyć AI w polskiej kancelarii – praktyczne kroki

Żeby AI realnie zwiększała efektywność, a nie ryzyko odpowiedzialności zawodowej, potrzebny jest świadomy model pracy.

4.1. Zdefiniuj, do czego wolno używać AI

Dobrym podejściem jest wyraźne rozdzielenie:

Dozwolone zastosowania (zawsze z review prawnika):

tworzenie pierwszych draftów pism i opinii,
porządkowanie i streszczanie dużych dokumentów,
generowanie list pytań na spotkania z klientem,
symulacje argumentacji „za i przeciw”,
pomoc w organizacji pracy (podsumowania maili, planowanie zadań).

Ograniczone lub zakazane zastosowania:

samodzielne ustalanie treści umów wysoko‑ryzykownych,
rekomendacje strategiczne bez udziału partnera,
jakiekolwiek działania bez weryfikacji w źródłach prawa.

4.2. Ustal standard „AI‑review” w zespole

W każdej kancelarii korzystającej z LegalTech warto przyjąć minimalny standard:

Każda treść wygenerowana przez AI jest wyraźnie oznaczona w systemie (np. w nazwie pliku lub komentarzu).
Przed wysyłką do klienta dokument przechodzi merytoryczny przegląd prawnika odpowiedzialnego.
W sprawach kluczowych partner ma świadomość, które fragmenty powstały z udziałem AI.

4.3. Dbaj o rozwój krytycznego myślenia w zespole

Aby nie dopuścić do „zanikania mięśni”, warto wdrożyć m.in.:

cykliczne warsztaty z krytycznego myślenia i pracy z AI,
sesje „case study z błędami AI” – wspólna analiza halucynacji i pułapek,
wewnętrzne „kodeksy korzystania z AI” dostosowane do profilu kancelarii (procesy, M&A, IP, podatki itd.).

To nie tylko zwiększa bezpieczeństwo, ale też staje się realną przewagą konkurencyjną – kancelarie, które potrafią mądrze korzystać z AI, pracują szybciej, taniej i bezpieczniej.

5. Co dalej dla polskich kancelarii? AI jako przewaga, nie zagrożenie

Systemy AI nie znikną z naszego świata – przeciwnie, w 2026 r. możemy spodziewać się jeszcze głębszej integracji z systemami informacji prawnej, narzędziami do zarządzania kancelarią i platformami sądowymi.

To, czy AI będzie w Twojej kancelarii aktywem, czy źródłem ryzyka, zależy wprost od tego, jak rozumiesz opisane wyżej pułapki i czy wdrożysz świadome procedury.

Najważniejsze wnioski:

AI to statystyczny generator tekstu, nie nieomylny ekspert.
Halucynacje, lizusostwo i fluency bias to realne zagrożenia dla jakości pracy prawnika.
Framework G.U.P.I.K. pomaga na co dzień utrzymać krytyczne myślenie.
Dobrze zaprojektowane procesy LegalTech potrafią połączyć szybkość AI z odpowiedzialnością zawodową.

W kolejnych artykułach z serii „AI dla Polskich Kancelarii Prawnych: LegalTech” pokażemy praktyczne scenariusze użycia AI w analizie dokumentów, badaniach prawnych i zarządzaniu kancelarią – z konkretnymi przykładami promptów i checklist bezpieczeństwa.

Warto już dziś zadać sobie pytanie: czy w Twojej kancelarii AI jest tylko gadżetem, czy świadomie wdrożonym narzędziem, które działa według jasnych zasad?