Jak działa AI generatywna — i dlaczego bywa pewna siebie, a myli się

Najważniejsza rzecz, którą warto zapamiętać z całego kursu: model językowy przewiduje kolejne fragmenty tekstu. Na podstawie wzorców z danych, na których go uczono, „zgaduje”, jakie słowo lub fragment słowa najlepiej pasuje jako następny — i tak, kawałek po kawałku, buduje odpowiedź.

Robi to bardzo dobrze, dlatego odpowiedzi brzmią płynnie i rozsądnie. Ale z tego sposobu działania wynikają cztery ważne ograniczenia:

• model nie „wie”, co jest prawdą — tworzy tekst, który pasuje do pytania; to, czy jest zgodny z faktami, nie jest przez niego sprawdzane tak, jak sprawdziłby to człowiek w źródle,
• ma datę graniczną wiedzy — uczono go na tekstach do pewnego momentu; o tym, co zdarzyło się później (nowe przepisy, ceny, zmiany w firmach), może nic nie wiedzieć albo podać stare dane jako aktualne; niektóre narzędzia potrafią przeszukać internet, ale wtedy i tak musisz sprawdzić, skąd pochodzi informacja,
• nie ma dostępu do danych Twojej firmy — nie zna Twoich klientów, cennika, umów ani procedur, chyba że sam mu je podasz (wkleisz tekst, dodasz plik) albo firma połączy narzędzie ze swoimi systemami,
• pamięta tylko to, co jest w rozmowie — w ramach jednej rozmowy bierze pod uwagę wcześniejsze wiadomości, ale nie „pamięta” Cię tak jak współpracownik; to, co pamięta między rozmowami, zależy od narzędzia i jego ustawień.

Słabe:  Ile kosztuje bilet do Gdańska?

Lepsze: Piszę informację dla klienta o dojeździe z Ornety do Gdańska.
        Nie podawaj cen ani godzin — sprawdzę je u przewoźnika.
        Zaproponuj układ informacji: jakie rodzaje połączeń warto opisać
        i o co zapytać klienta (data, liczba osób, bagaż).

Gdy model językowy podaje nieprawdziwe informacje, które brzmią wiarygodnie, mówimy, że halucynuje. To nie jest rzadka usterka, tylko naturalny skutek sposobu działania: model zawsze stara się dać odpowiedź, która pasuje, nawet gdy nie ma podstaw, by ją znać. Komisja Europejska w materiałach do art. 4 AI Act wymienia halucynacje jako ryzyko, o którym pracownicy korzystający z czatów AI powinni wiedzieć.

Najczęstsze postacie halucynacji w pracy biurowej:

• zmyślone przepisy — numer artykułu, paragrafu albo rozporządzenia, który nie istnieje lub mówi o czymś innym,
• zmyślone źródła i cytaty — tytuł raportu, link, wypowiedź znanej osoby, których nigdy nie było,
• wymyślone liczby — statystyki, kwoty, terminy, procenty „z powietrza”,
• pomylone fakty o firmach i ludziach — błędny adres, NIP, stanowisko, data założenia,
• błędy w obliczeniach — szczególnie przy dłuższych wyliczeniach w tekście.

Co jest najbardziej zdradliwe: ton się nie zmienia. Model pisze zmyślony przepis tym samym pewnym stylem co prawdziwy. Często nie dopowie sam z siebie „nie wiem”. Gdy zapytasz „czy jesteś pewien?”, może przeprosić i podać… inną, równie zmyśloną odpowiedź.

Słabe:  Jaki przepis reguluje termin odpowiedzi na pismo mieszkańca?
        Podaj artykuł.

Lepsze: Pomóż mi przygotować szkic odpowiedzi na pismo mieszkańca
        w sprawie [ogólny opis sprawy, bez danych osobowych].
        Nie podawaj numerów przepisów — wstawię je sama po sprawdzeniu.
        W miejscach, gdzie potrzebna jest podstawa prawna, wstaw [PRZEPIS].
        Jeśli czegoś nie wiesz, napisz to wprost.

AI generatywna świetnie radzi sobie z zadaniami, w których chodzi o formę: pisanie, przeredagowanie, porządkowanie, streszczanie, wymyślanie wariantów. Słabiej — tam, gdzie liczy się pewna, aktualna wiedza o faktach, liczbach i przepisach albo znajomość spraw Twojej firmy.

Zwykle dobrze się sprawdza: pierwsza wersja maila lub pisma, poprawa stylu i pisowni, streszczenie długiego tekstu, który sam wkleisz, zamiana notatek w tabelę lub listę, plan spotkania, pomysły na post, wyjaśnienie lub zaproponowanie formuły Excela.

Wymaga szczególnej ostrożności: przepisy i interpretacje prawne, wyliczenia (wynagrodzenia, podatki, odsetki), aktualne ceny i terminy, dane o konkretnych firmach i osobach, decyzje o ludziach (np. ocena kandydata).

Różnicę robi też samo polecenie. Kilka przykładów „słabe → lepsze”:

Słabe:  Napisz maila do klienta o opóźnieniu.

Lepsze: Napisz krótki, uprzejmy mail do stałego klienta firmy
        hurtowej. Dostawa zamówionych palet opóźni się o 2 dni
        robocze z powodu awarii samochodu. Przeproś, podaj nowy
        termin jako [DATA], zaproponuj kontakt telefoniczny.
        Ton: rzeczowy, bez przesadnych przeprosin. Do 8 zdań.

Słabe:  Streść to.

Lepsze: Poniżej jest regulamin konkursu dla uczniów (bez danych
        osobowych). Streść go dla rodziców w 5 punktach: kto może
        wziąć udział, terminy, co trzeba złożyć, nagrody, kontakt.
        Jeśli czegoś w tekście nie ma, napisz „brak w regulaminie”.
        [wklejony tekst regulaminu]

Słabe:  Jaka formuła do faktur?

Lepsze: W Excelu mam w kolumnie B kwoty netto, a w kolumnie C
        stawkę VAT zapisaną jako procent (np. 23%). Zaproponuj
        formułę do kolumny D, która policzy kwotę brutto.
        Wyjaśnij krótko, jak działa.

Słabe:  Popraw.

Lepsze: Popraw błędy ortograficzne, interpunkcyjne i literówki
        w tekście ogłoszenia poniżej. Nie zmieniaj treści ani stylu.
        Na końcu wypisz listę zmian, które wprowadziłeś.

Wspólny wzór lepszych poleceń: kto jest odbiorcą, jaki jest cel, jakie są fakty, jaki ma być format wyniku — i wyraźna informacja, czego AI ma nie wymyślać. Budowie polecenia poświęcona jest cała lekcja 2.

Gdy wpisujesz polecenie do czatu AI, tekst trafia na zewnętrzne serwery dostawcy, często poza Unią Europejską. Dostawca może przechowywać historię rozmów, a w niektórych usługach — zależnie od ustawień — używać jej do dalszego uczenia modeli. To, co wkleisz, przestaje być wyłącznie w Twoim komputerze.

Dlatego ważne jest, z jakiego konta korzystasz:

• konto prywatne (często darmowe) — zakładasz je sam, na własny adres; firma nie ma nad nim kontroli, nie ma umowy z dostawcą o ochronie danych, nie wie, co tam trafiło,
• konto lub narzędzie firmowe — udostępnia je pracodawca; zwykle ma umowę z dostawcą (w tym umowę powierzenia przetwarzania danych osobowych), ustalone ustawienia i zasady, kto i do czego może z niego korzystać.

Nie podajemy tu, jakie ustawienia ma konkretna usługa — to się często zmienia. Zawsze sprawdź ustawienia historii i uczenia na danych w swoim narzędziu oraz zasady w firmie. Jeśli ich nie znasz, zapytaj przełożonego, dział IT albo inspektora ochrony danych.

Bez względu na rodzaj konta, bez zgody i zasad firmy nie wklejaj:

• danych osobowych klientów, pracowników, uczniów, mieszkańców (imię i nazwisko, PESEL, adres, telefon, dane o zdrowiu, wynagrodzeniu),
• tajemnic firmy — cenników dla klientów, marż, planów, danych technicznych, ofert,
• treści umów, haseł, kodów dostępu, danych logowania,
• wewnętrznych dokumentów i informacji o zabezpieczeniach.

AI pomaga, gdy przyspiesza pracę, którą i tak potrafisz ocenić: piszesz szybciej pierwszą wersję, porządkujesz notatki, dostajesz kilka wariantów do wyboru, rozumiesz trudny tekst. Wtedy Ty jesteś redaktorem, a AI — szybkim pomocnikiem.

AI szkodzi, gdy:

• wynik idzie dalej bez przeczytania i sprawdzenia — do klienta, do urzędu, do rodziców, do szefa,
• w poleceniu lądują dane osobowe lub tajemnice firmy wbrew zasadom,
• pytasz o coś, czego nie umiesz sprawdzić, i przyjmujesz odpowiedź na wiarę,
• AI ma decydować o ludziach zamiast człowieka.

Odpowiedzialność za tekst ponosi człowiek, który go podpisuje lub wysyła. „Tak napisał czat” nie jest wytłumaczeniem ani dla klienta, ani dla przełożonego.

Dlaczego firma w ogóle o tym uczy? Od 2 lutego 2025 r. obowiązuje art. 4 AI Act. W aktualnym brzmieniu (od 27 lipca 2026 r.) wymaga on, by firmy korzystające z AI podejmowały środki wspierające rozwój kompetencji w zakresie AI swoich pracowników. Nie musi to być konkretne szkolenie ani certyfikat — może to być kurs, instrukcja, polityka korzystania z AI. Ten kurs jest jednym z takich środków.

Najważniejsze wnioski z tej lekcji:

• model językowy przewiduje tekst — nie sprawdza prawdy i nie „wie”, co jest prawdą,
• może halucynować: zmyślać przepisy, źródła, liczby — tym samym pewnym tonem,
• ma datę graniczną wiedzy i nie zna danych Twojej firmy, dopóki mu ich nie podasz,
• to, co wpisujesz, trafia do dostawcy — liczy się rodzaj konta i zasady firmy,
• dobre polecenie mówi o odbiorcy, celu, faktach i formacie i zostawia miejsca na dane, które sprawdzisz sam,
• wynik AI to szkic — za to, co wyślesz, odpowiadasz Ty.