Jak działa AI w rodzaju ChatGPT i Claude: wyjaśnienie dla właściciela firmy

Większość rozmów o AI w firmach zaczyna się od jednego z dwóch zdań: „AI zrobi to za nas” albo „AI się myli, więc się nie nadaje”. Oba są prawdą w połowie. Żeby wiedzieć, gdzie AI pomoże, a gdzie zaszkodzi, wystarczy zrozumieć, co właściwie robi model językowy. Bez matematyki.

Model językowy przewiduje tekst

ChatGPT, Claude czy Copilot to programy oparte na tak zwanych dużych modelach językowych. Model uczy się na ogromnej ilości tekstu: książkach, stronach internetowych, kodzie, dokumentacji. Z tej nauki wynosi jedną umiejętność: przewidywać, jaki fragment tekstu powinien pojawić się dalej, żeby odpowiedź była sensowna.

Brzmi skromnie, ale przy odpowiednio dużym modelu z tej umiejętności wynika bardzo dużo: model streszcza, tłumaczy, pisze maile, wyjaśnia przepisy, porównuje oferty, pisze kod. Robi to, bo w tekstach, na których się uczył, takie rzeczy występowały miliony razy.

Czego model nie wie

Z tego, jak model powstaje, wynikają trzy ograniczenia ważne dla firmy:

1. Nie zna Twoich danych. Model uczył się na publicznych tekstach. Nie widział Twojego Subiekta, cennika, umów ani maili. Zapytany o stan magazynu, odpowie ogólnikiem albo poprosi o dane.
2. Ma wiedzę do pewnej daty. Wszystko, co wydarzyło się po zakończeniu nauki, model zna tylko wtedy, gdy ktoś mu to poda w rozmowie albo gdy asystent może przeszukać internet.
3. Nie sprawdza faktów sam z siebie. Model nie zagląda do bazy danych, żeby upewnić się, czy coś jest prawdą. Pisze to, co najbardziej pasuje do pytania. Zwykle jest to prawda, ale nie zawsze.

Okno kontekstu, czyli to, co model widzi w rozmowie

Model nie pamięta Twojej firmy między rozmowami. Pracuje na tym, co ma w tak zwanym oknie kontekstu: Twoje pytanie, wcześniejsza część rozmowy i wszystko, co do niej dołączysz (dokument, tabela, wynik zapytania do ERP). Współczesne modele mają bardzo duże okna, więc mogą przeczytać całą umowę czy raport naraz.

Dla firmy to kluczowa informacja: jakość odpowiedzi zależy od tego, co model dostanie w kontekście. Jeśli dostanie właściwe dane z Twojego systemu, odpowie konkretnie. Jeśli nie dostanie, będzie zgadywał.

Skąd się biorą „zmyślenia”

Gdy model nie ma danych, a pytanie wymaga konkretu, potrafi wygenerować odpowiedź, która brzmi pewnie, ale jest nieprawdziwa. Nazywa się to halucynacją. To nie jest złośliwość ani awaria, tylko skutek tego, że model zawsze stara się odpowiedzieć tekstem, który pasuje do pytania.

Jak firmy się przed tym chronią, opisujemy osobno w tekście halucynacje AI w firmie. W skrócie: dajemy modelowi źródła i każemy je wskazywać.

Co z tego wynika dla firmy

• Do pisania, streszczania i tłumaczenia AI nadaje się od razu, bez wdrożenia. Wystarczy firmowe konto i kilka zasad (np. nie wklejamy danych klientów do darmowych narzędzi).
• Do pytań o dane firmy (stany, ceny, należności, zamówienia) model musi dostać dostęp do tych danych. Służy do tego np. standard MCP, który podłącza asystenta do ERP tylko do odczytu.
• Do odpowiedzi z dokumentów firmy (procedury, katalogi, umowy) model musi umieć je przeszukać, zanim odpowie. To tak zwana baza wiedzy.
• Do działań w systemach (wystawienie zamówienia, zmiana statusu) model może przygotować operację, ale zatwierdza ją człowiek. Przynajmniej na początku.

Najczęstszy błąd przy wdrożeniu

Firmy zaczynają od pytania „który model jest najlepszy?”. Różnice między czołowymi modelami są dziś mniejsze niż różnica między modelem z dostępem do Twoich danych a modelem bez niego. Ważniejsze pytanie brzmi: jakie dane i jakie źródła dostanie model, i kto sprawdza jego odpowiedzi?

Kolejne kroki wdrożenia, od pierwszego konta do automatyzacji procesu, opisujemy w tekście AI w firmie krok po kroku. Jeśli chcesz sprawdzić, od czego zacząć u siebie, zobacz wdrożenie AI na danych z ERP.