humai.pl← Poradnik

· 9 min czytania

Normalizacja tekstu: co to znaczy i jak ją zrobić po polsku

Jedno hasło, trzy różne czynności: normalizacja w przetwarzaniu języka (NLP), normalizacja typograficzna i normalizacja stylu tekstu pisanego z AI. Wyjaśniamy każdą z nich po polsku, z przykładem wejście/wyjście i krótką listą kontrolną.

Najczęstsze pytania

Co to jest normalizacja tekstu w NLP?

To etap wstępnego przygotowania tekstu dla programu: ujednolicenie wielkości liter, normalizacja Unicode, tokenizacja, lematyzacja oraz sprowadzenie dat, liczb i skrótów do jednego formatu. Celem jest to, żeby algorytm liczył słowa, a nie warianty ich zapisu. Zestaw kroków zależy od zadania, bo część z nich (na przykład usuwanie polskich znaków) jest stratna.

Czym różni się normalizacja NFC od NFKC?

NFC składa znaki zapisane jako litera plus osobny znak diakrytyczny w jeden kod, więc „ę” zawsze wygląda dla programu tak samo. NFKC dodatkowo zamienia znaki „zgodnościowe” na zwykłe, na przykład ligaturę „fi” na „fi” albo cyfry pełnej szerokości na standardowe. NFC jest bezpiecznym domyślnym wyborem, NFKC stosuje się, gdy chcemy agresywniej ujednolicić dane.

Na czym polega normalizacja typograficzna po polsku?

Na ujednoliceniu zapisu w całym dokumencie zgodnie z polskimi zwyczajami: cudzysłowy „ ”, dywiz do łączenia słów, półpauza do zakresów, pauza tylko tam, gdzie jest potrzebna, twarde spacje po jednoliterowych spójnikach i między liczbą a jednostką. Do tego porządki w białych znakach, czyli podwójnych spacjach, tabulatorach i pustych liniach. Większość da się zrobić przez „znajdź i zamień”.

Co oznacza normalizacja stylu tekstu napisanego z AI?

Teksty z modeli językowych są wyrównane aż do przesady: podobna długość zdań, ten sam schemat akapitu, wtrącenia w pauzach, średniki i wypełniacze. Normalizacja stylu to zwykła redakcja, która przywraca tekstowi naturalną, ludzką nierówność. Nie służy do ukrywania faktu korzystania z AI ani do oszukiwania detektorów, które zresztą mylą się w obie strony.

Czy humai wykonuje normalizację tekstu?

Tak, ale tylko tę trzecią, stylistyczną. humai przepisuje Twój tekst, usuwając wtrącenia w pauzach, średniki między zdaniami, wypełniacze, resztki markdownu i monotonny rytm, a potem pokazuje wskaźnik stylu AI przed i po. Nie lematyzuje ani nie tokenizuje tekstu i nie zastępuje pełnej korekty typograficznej.