TL;DR
Bezpieczeństwo AI w firmie sprowadza się do jednego pytania. Co się stanie, gdy to przestanie działać. Autonomiczna firma jest potężna dopóty, dopóki działa prąd, internet i dostawca modelu.
Ten wpis jest dla przedsiębiorcy, który oparł część firmy na zewnętrznych usługach i nigdy nie sprawdził, co się dzieje po ich awarii. Plan ma cztery poziomy: technologia, pieniądze, ludzie i ćwiczenia.
Ile kosztuje godzina przestoju
Przestój w firmie opartej na AI to nie jest przerwa techniczna. To paraliż operacyjny.
Mała firma handlowa traci średnio 25 000 dolarów za każdą godzinę przestoju w szczycie sprzedaży, na przykład w Czarny Piątek. W dużej firmie ta sama godzina kosztuje ponad 300 000 dolarów.
Druga liczba dotyczy ryzyka platformy. 73 procent startupów opartych o jedno zewnętrzne API upadło w ciągu 6 miesięcy po drastycznej zmianie cennika. Nie było awarii. Wystarczyła zmiana warunków.
Jest jeszcze ryzyko samego modelu. Badania Vectara z 2025 roku pokazują, że zaawansowane modele rozumujące zmyślają w 14,3 procent przypadków, a starsze w 3,9 procent. Mądrzejszy model potrafi kłamać bardziej przekonująco. Sprawa Air Canada z 2024 roku pokazała, że za obietnicę chatbota odpowiada prawnie firma.
Poziom 1: nie zależ od jednego dostawcy
Pierwsza zasada jest prosta. Żadna firma nie może stać na jednym zewnętrznym dostawcy modelu.
- Dwóch dostawców zamiast jednego: warstwa pośrednia przełącza ruch na drugiego dostawcę w ułamku sekundy, gdy pierwszy przestaje odpowiadać.
- Model lokalny na czarną godzinę: model o otwartych wagach na własnym serwerze do zadań, które muszą działać zawsze, także bez internetu.
- Zasady zapisane w kodzie: reguły bezpieczeństwa siedzą w kodzie jako walidacja, a nie wyłącznie w prompcie, który model może zignorować.
Poziom 2: biznes i pieniądze
Pieniądze mają płynąć nawet wtedy, gdy system stoi.
- Dwie bramki płatności: zawsze aktywne co najmniej dwie. Awaria jednej z nich to codzienność, nie czarny scenariusz.
- Kopia danych poza systemem: baza klientów i zamówień zgrywana na bieżąco do niezależnego miejsca, poza głównym CRM.
- Rezerwa gotówki: od 3 do 6 miesięcy działania bez przychodów. To czas na spokojne naprawienie sytuacji.
Poziom 3: człowiek jako ostatnia linia
Ostatnia linia obrony to człowiek. Zgodnie z AI Act, artykuł 14, nadzór ludzki jest obowiązkowy dla systemów wysokiego ryzyka.
- Wielki czerwony przycisk: procedura zatrzymania wszystkich asystentów AI jednym kliknięciem.
- Tryb ręczny: instrukcja dla ludzi, jak obsłużyć zamówienia i klientów, gdy automat leży.
- Ryzyko jednej osoby: każdy proces, także ten prowadzony przez właściciela, ma nagraną procedurę. Wtedy przejmie go AI albo inny człowiek.
Poziom 4: ćwiczenia
Teoria to nie praktyka. Plan, którego nie przetestowałeś, jest planem tylko na papierze.
- Próbny alarm: raz na kwartał wyłącz główne narzędzie na godzinę i sprawdź, czy tryb ręczny działa.
- Próba zepsucia: świadomie spróbuj oszukać własnych asystentów, żeby znaleźć luki w ich logice.
Podsumowanie i lista kontrolna
Prawdziwa autonomia to nie samo działanie bez człowieka. To także przetrwanie awarii bez człowieka albo z jego minimalnym udziałem.
- Czy mam drugiego dostawcy modelu i przełączenie, które zadziała samo.
- Czy mam dwie bramki płatności.
- Czy baza klientów istnieje w drugim, niezależnym miejscu.
- Czy mam rezerwę gotówki na 3 do 6 miesięcy.
- Czy istnieje jeden przycisk, który zatrzymuje wszystkich asystentów.
- Czy ktoś poza mną potrafi obsłużyć zamówienia ręcznie.
- Czy przetestowałem to w ostatnim kwartale.
Następny krok: wpisz w kalendarz godzinny test awarii na najbliższy miesiąc. Jeśli nie masz jeszcze trybu ręcznego, ten test go dla Ciebie napisze.
