AI Governance – co to takiego?

Im dłużej pracujemy nad projektem askee | Organisational Intelligence System, tym bardziej widzę, że w AI Governance jeden z największych problemów nie leży w samych zasadach.

Leży w tym, że zasady bardzo często istnieją obok systemu. Co mam na myśl? To, że firma może mieć świetnie opisaną politykę gdzie będzie określone kto może korzystać z określonych danych, jakie rekomendacje wymagają zatwierdzenia, czy fakt kiedy człowiek musi podjąć ostateczną decyzję, a czego AI nie może zrobić samodzielnie to jeszcze nie wszystko. Jeśli aplikacja tylko „wie”, że taka zasada istnieje, a nie potrafi jej technicznie wyegzekwować, to mamy dokument, ale to nie jest governance.

Dlatego przy budowie Askee coraz częściej patrzymy na governance jak na część architektury produktu, który jest jego kluczowym elementem. Podam Wam przykłady:
1. Jeżeli określona rekomendacja wymaga akceptacji przełożonego, system powinien zatrzymać proces.Jeżeli użytkownik nie ma dostępu do danych źródłowych, AI również nie powinno móc ich wykorzystać w odpowiedzi.
2. Jeżeli agent może wykonać działanie w systemie, powinno być jednoznacznie wiadomo kto je uruchomił, na podstawie jakich danych, z jakimi uprawnieniami i jaki był rezultat.

To zmienia sposób myślenia o AI w organizacji, bowiem nie wystarczy już odpowiedzieć na pytanie jakie mamy zasady korzystania z AI, ale trzeba także odpowiedzieć na drugie pytanie które z tych zasad są faktycznie egzekwowane przez system? I według mnie właśnie tutaj zaczyna się prawdziwe AI Governance. W Askee właśnie w tym kierunku rozwijamy warstwę Organizational Intelligence: rekomendacja AI ma działać w ramach rzeczywistych procesów, uprawnień i zasad organizacji.