AI w firmie – czy ta historia zawsze kończy się dobrze?

Czy każde wdrożenie AI kończy się sukcesem?

Krótka odpowiedź brzmi: nie. Dłuższa – tylko wtedy, gdy technologia jest rozumiana, kontrolowana i osadzona w realnych procesach biznesowych.

Kilka lat temu szeroko komentowany był przypadek Amazon, która testowała system AI do wstępnej selekcji CV. Algorytm, trenowany na historycznych danych rekrutacyjnych, zaczął preferować kandydatów o profilu podobnym do tych, którzy wcześniej byli zatrudniani – co w praktyce oznaczało dyskryminację części aplikujących. Projekt został wycofany. Technologia działała zgodnie z danymi, które otrzymała. Problem polegał na tym, że dane odzwierciedlały wcześniejsze uprzedzenia organizacyjne.

To klasyczny przykład sytuacji, w której AI nie zawiodła technicznie – zawiodło zrozumienie jej mechanizmów i brak odpowiednich zabezpieczeń.

Z raportu McKinsey & Company „The State of AI 2025” wynika, że choć odsetek firm wdrażających AI rośnie, znaczna część projektów nie osiąga zakładanych efektów biznesowych. Jednym z głównych powodów jest brak odpowiedniego zarządzania ryzykiem, jakości danych oraz niedoszacowanie wpływu organizacyjnego.

Z kolei raport Gartner z 2025 roku wskazuje, że duża część projektów AI nie przechodzi z fazy pilota do pełnej skali operacyjnej właśnie z powodu problemów z jakością danych, brakiem nadzoru oraz niedopasowaniem do realnych procesów.

Case study: automatyzacja obsługi klienta

W 2024 roku jedna z dużych firm telekomunikacyjnych w Europie (nazwa nie została publicznie ujawniona w raportach branżowych) wdrożyła generatywną AI do obsługi zapytań klientów. Celem było skrócenie czasu odpowiedzi i redukcja kosztów call center. Początkowo wskaźniki efektywności wyglądały obiecująco – czas odpowiedzi spadł, a liczba obsłużonych zapytań wzrosła.

Po kilku miesiącach pojawił się jednak problem. AI zaczęła udzielać odpowiedzi formalnie poprawnych, ale nieuwzględniających specyficznych warunków umów i lokalnych regulacji. W efekcie liczba reklamacji wzrosła, a część klientów zgłosiła sprawy do regulatora rynku. Firma musiała ograniczyć zakres autonomii systemu i wprowadzić dodatkowe warstwy kontroli.

Co poszło nie tak?

Technologia została wdrożona szybciej niż zdefiniowano zasady jej działania. Brakowało precyzyjnych reguł dotyczących zakresu odpowiedzialności systemu oraz jasnego nadzoru nad treścią odpowiedzi.

Raport IBM „Global AI Adoption Index 2025” podkreśla, że organizacje, które wdrażają formalne mechanizmy AI governance (nadzór, monitoring, testy etyczne), osiągają wyższy poziom zaufania do systemów i niższy odsetek incydentów operacyjnych. Jednocześnie firmy, które traktują AI jako „plug and play”, częściej doświadczają nieprzewidzianych skutków ubocznych.

Wniosek jest prosty: AI to narzędzie, nie magia.

Algorytm działa na podstawie danych i reguł, które mu dostarczymy. Jeśli dane są obciążone błędami lub uprzedzeniami – system je powieli. Jeśli zakres odpowiedzialności nie jest jasno określony – pojawią się luki. Jeśli nie prowadzimy testów i audytów – ryzyko rośnie.

Dlatego w każdej implementacji kluczowe są:
– jakość i reprezentatywność danych,
– jasne zdefiniowanie ról i odpowiedzialności,
– mechanizmy nadzoru i korekty,
– testowanie w warunkach zbliżonych do realnych,
– gotowość do wycofania lub modyfikacji rozwiązania.

AI może przynieść ogromną wartość. Raporty pokazują, że firmy, które wdrażają ją odpowiedzialnie, osiągają realne korzyści finansowe i operacyjne. Ale ta wartość nie pojawia się automatycznie.

Największym błędem jest przekonanie, że skoro system „jest inteligentny”, to sam rozwiąże problemy organizacyjne.

Technologia nie zastąpi refleksji, etyki i zarządzania.

Czy znacie inne przykłady, w których wdrożenie AI zakończyło się fiaskiem? A może przypadki, w których odpowiednie podejście do testów i governance pozwoliło uniknąć kryzysu?

Dyskusja o AI nie powinna koncentrować się wyłącznie na możliwościach. Równie ważne są granice, odpowiedzialność i gotowość do uczenia się na błędach.