Przejdź do treści
Robert Marczyński

Jak przygotować dane firmowe do wdrożenia AI?

Krótka odpowiedź

Model językowy odpowiada z tego, co dostanie w zapytaniu, więc jakość wdrożenia zależy od tego, czy da się w firmowych zasobach znaleźć właściwy fragment, a nie od wyboru modelu. Przygotowanie danych do wdrożenia sprowadza się do pięciu sprawdzeń w obrębie jednego procesu: gdzie dane fizycznie są, czy są aktualne, czy da się je odczytać maszynowo, czy mają jednoznaczne identyfikatory i czy wolno ich użyć w tym celu. Żadne z nich nie wymaga hurtowni danych ani porządkowania całej firmy.

Robert Marczyński6 min czytania1 źródło

Skąd bierze się odpowiedź modelu

Model językowy nie zna waszej firmy. Kiedy odpowiada na pytanie o umowę z klientem, korzysta z tego, co zostało mu podane razem z pytaniem. Jeżeli w firmowych zasobach da się odnaleźć właściwy fragment umowy, odpowiedź będzie z niego. Jeżeli się nie da, odpowiedź i tak powstanie, tylko z czegoś innego.

To jest cała mechanika i z niej wynika kolejność prac. Wybór modelu jest decyzją odwracalną w tydzień. Stan danych decyduje o tym, czy wdrożenie ma z czego odpowiadać, i jest jedyną rzeczą, której nowszy model nie naprawi.

Najczęstszy przebieg nieudanego pilotażu wygląda u mnie tak samo od lat. Narzędzie działa na przygotowanej próbce, robi wrażenie, wchodzi na produkcję i zaczyna odpowiadać obok tematu. Przyczyną prawie nigdy nie jest model. Przyczyną jest to, że właściwy dokument leżał w skanie, w skrzynce jednej osoby albo w wersji sprzed dwóch lat.

Zakres: jeden proces, nie cała firma

Zanim przejdziemy do sprawdzeń, jedna rzecz, która oszczędza miesiące. Przygotowanie danych do wdrożenia nie jest projektem uporządkowania firmy.

Zakres wyznacza proces, który wdrażacie. Jeżeli chodzi o odpowiadanie na pytania serwisowe, liczy się dokumentacja techniczna i historia zgłoszeń, a nie kadry, księgowość i archiwum ofert. Rozszerzanie zakresu „przy okazji” jest najskuteczniejszym sposobem, żeby wdrożenie nie ruszyło, i widzę je w co drugiej firmie, która wcześniej próbowała sama.

Wybór tego jednego procesu jest osobną decyzją i opisuję ją w tekście o tym, od czego zacząć wdrożenie.

Pięć sprawdzeń

To lista, którą przechodzę z klientem w ramach audytu gotowości. Każde sprawdzenie kończy się odpowiedzią tak albo nie, a nie oceną w skali.

Gdzie dane fizycznie są. Nie „w systemie X”, tylko w którym systemie, w jakiej tabeli albo w jakim katalogu, i czy istnieje sposób sięgnięcia po nie inny niż ręczne otwarcie przez człowieka. Dane rozsypane po skrzynkach pocztowych i dyskach osobistych formalnie istnieją, a praktycznie nie.

Czy są aktualne. Zbiór, który przestał być uzupełniany, jest gorszy od braku zbioru, bo generuje odpowiedzi wyglądające na poprawne. Warto ustalić datę ostatniej realnej aktualizacji, a nie datę ostatniej modyfikacji pliku.

Czy da się je odczytać maszynowo. Skan bez warstwy tekstowej to obraz. Tabela w pliku arkusza z połączonymi komórkami i przypisami w kolorze to dla systemu zagadka. Rozpoznawanie tekstu i przepisanie struktury da się zrobić, tylko trzeba to policzyć, zanim wejdzie do zakresu.

Czy mają jednoznaczne identyfikatory. Ten sam klient jako „Kowalski sp. z o.o.”, „Kowalski Sp. z o. o.” i „KOWALSKI SPZOO” to trzy różne byty dla każdego automatu. Bez identyfikatora, który łączy rekordy między systemami, wdrożenie będzie zgadywać i czasem zgadnie źle.

Czy wolno ich użyć w tym celu. Podstawa prawna, umowa powierzenia z dostawcą i zakres danych, który realnie jest potrzebny do zadania. To warstwa, która najczęściej zatrzymuje projekt na etapie odbioru, gdy nikt nie zajął się nią na starcie. Szczegóły w tekście o RODO przy korzystaniu z modeli.

Czego nie trzeba robić

Równie ważne, bo tu firmy tracą najwięcej czasu i pieniędzy.

Nie trzeba czyścić wszystkich danych historycznych. Do większości procesów wystarczy okres, w którym dokumenty są nadal obowiązujące, a stare wersje umów bywają wręcz szkodliwe, bo model nie wie, że przestały obowiązywać.

Nie trzeba przepisywać dokumentów do jednego formatu. Trzeba umieć je odczytać, a to nie to samo.

Nie trzeba kupować nowego systemu. Prawie zawsze dane są tam, gdzie były; brakuje sposobu sięgnięcia po nie i decyzji, które z nich są wersją obowiązującą.

Rachunek, o którym się nie mówi

Stan danych przekłada się bezpośrednio na koszt utrzymania, bo płaci się za ilość przetworzonego tekstu. Wdrożenie, które przy każdym pytaniu podaje modelowi dwadzieścia dokumentów, bo nie potrafi wybrać właściwego, kosztuje wielokrotnie więcej od tego, które podaje dwa.

To jest ta część, która rzadko trafia do wyceny, a najmocniej rośnie po uruchomieniu. Mechanikę rachunku rozpisuję przy kosztach utrzymania AI, tutaj wystarczy jedno zdanie: uporządkowanie danych jest kosztem ponoszonym przed wdrożeniem, ale jedynym, który wraca potem w niższym rachunku za przetworzony tekst. Ile ten koszt potrafi ważyć w budżecie pierwszego projektu, rozpisuję przy koszcie wdrożenia.

Kiedy dane są tak złe, że nie warto

Zdarza się i uważam, że powiedzenie tego na czas jest częścią roboty. Jeżeli w danym procesie nie ma zapisu tego, co się wydarzyło, albo zapis powstaje ręcznie i niekonsekwentnie, to nie ma z czego zbudować odpowiedzi.

Wtedy sensowną kolejnością jest najpierw uporządkowanie samego procesu, a wdrożenie AI dopiero potem. To nie jest odmowa wykonania pracy, tylko odmowa wykonania jej w kolejności, w której nie zadziała.

Najczęstsze pytania

Czy trzeba mieć hurtownię danych, żeby wdrożyć AI?
Nie. Hurtownia porządkuje dane całej firmy, a wdrożenie dotyczy jednego procesu i potrzebuje danych tylko z niego. Projekt hurtowni trwa zwykle dłużej niż cały pilotaż, więc uzależnienie wdrożenia od niego jest najprostszym sposobem, żeby nie wdrożyć nic. Zakres porządkowania wyznacza proces, nie ambicja.
Co jest najczęstszą przyczyną nieudanych pilotaży AI?
Z mojej praktyki: dane, do których model nie miał jak dotrzeć albo które okazały się nieaktualne. Model odpowiada z tego, co dostanie, więc gdy właściwy dokument leży w skanie bez warstwy tekstowej albo w skrzynce jednej osoby, odpowiedź powstaje z tego, co było dostępne. Wygląda przy tym równie pewnie jak odpowiedź poprawna i to jest właśnie kłopot.
Czy skany dokumentów nadają się do wdrożenia AI?
Nie w postaci samych obrazów. Skan bez warstwy tekstowej to dla systemu obraz, w którym nie da się wyszukać frazy. Rozpoznawanie tekstu rozwiązuje to technicznie, ale kosztuje i wprowadza własny błąd odczytu, więc trzeba policzyć, czy dla danego procesu się opłaca. Przy dokumentach, które i tak powstają cyfrowo, tańsze bywa zmienienie sposobu ich zapisywania na przyszłość.
Ile trwa przygotowanie danych przed wdrożeniem?
Zależy od stanu wyjściowego i od tego, jak wąsko wytyczono proces, więc podanie jednej liczby byłoby zgadywaniem. Sensowniej patrzeć na to inaczej: przygotowanie danych to część zakresu wdrożenia, nie osobny projekt przed nim, a jego rozmiar wychodzi w audycie gotowości.
Czy dane trzeba anonimizować przed podaniem modelowi?
Skuteczna anonimizacja wyprowadza dane spod RODO, bo zanonimizowane dane nie są danymi osobowymi (motyw 26 RODO). Przy dokumentach firmowych rzadko się to udaje: sam kontekst sprawy zwykle wystarcza do rozpoznania osoby, a wtedy mamy pseudonimizację, przy której dane pozostają danymi osobowymi. Dlatego w praktyce skuteczniejsze bywa ograniczenie zakresu, czyli wysyłanie modelowi wyłącznie tego fragmentu, który jest potrzebny do zadania. Dopóki dane pozostają osobowe, podstawę prawną i umowę powierzenia trzeba mieć niezależnie od tego, jak wyglądają.

Źródła

Dane zewnętrzne przywołane w tekście mają tu swoje źródła.

  1. EUR-Lex — RODO (rozporządzenie 2016/679), motyw 26: dane zanonimizowane poza zakresem rozporządzenia

Udostępnij

Powiązane

Masz konkretny proces do omówienia?

Napisz, jaki to proces i ile razy w miesiącu się powtarza. Odpowiem, czy nadaje się do automatyzacji, również wtedy, gdy odpowiedź brzmi „nie warto”.

Albo prosto na adres: not-a-bot@ekspertodsztucznejinteligencji.pl