Salesforce i luka AI w weryfikacji tożsamości

Badacze wykryli lukę w systemach AI, która może osłabić weryfikację tożsamości w Salesforce i ServiceNow.

Problem dotyczy sposobu, w jaki modele AI interpretują dane użytkownika i poświadczenia. Przy słabej konfiguracji dodatkowych kontroli taki mechanizm może dopuścić podszycie się pod użytkownika i wykonanie działań z nieautoryzowanym dostępem.

AI myli tożsamość, a nie samo hasło

Tu nie chodzi o klasyczny błąd logowania, tylko o pęknięcie między automatyzacją AI a bezpiecznym zarządzaniem tożsamością. Jeżeli platforma opiera część weryfikacji na mechanizmach napędzanych przez AI, atakujący może próbować tak zmanipulować wejściowe dane, by system błędnie uznał go za właściwego użytkownika.

W orgach, gdzie AI jest dokładane do procesów service, CRM i workflow, to robi różnicę. Zespół może mieć poprawnie ustawione role, profile czy permission sets, a mimo to problem pojawi się wyżej – na etapie samej interpretacji tożsamości. Dlatego porządek w uprawnieniach nadal ma znaczenie, co dobrze widać przy skalowalnym rozdzielaniu uprawnień w Salesforce, ale sam nie zamyka tematu.

Ryzyko rośnie tam, gdzie AI dostało dostęp do ścieżki uwierzytelniania

Badanie wskazuje, że zagrożone mogą być instancje ServiceNow i Salesforce korzystające z mechanizmów weryfikacji tożsamości wspieranych przez AI, jeśli nie mają dołożonych dodatkowych zabezpieczeń. Skutek jest prosty: wykonanie operacji pod fałszywą tożsamością, dostęp do wrażliwych danych i uderzenie w ciągłość działania.

To szczególnie istotne w środowiskach, gdzie automatyzacja ma skracać obsługę zgłoszeń albo przyspieszać ścieżki dostępu. W wielu polskich zespołach wygląda to znajomo – najpierw wdraża się funkcję, a dopiero później dopina monitoring, polityki dostępu i testy odporności. Przy AI w obszarze identity taka kolejność jest zwyczajnie ryzykowna.

Podobny wzór było już widać przy atakach na portale i warstwy dostępu, gdzie problemem nie był jeden spektakularny exploit, tylko długie wykorzystanie słabszych punktów kontroli. Ten mechanizm wraca też w analizie ataków na portale Salesforce i ServiceNow.

MFA, ciągła ocena dostępu i testy modeli

Rekomendacje są konkretne. Organizacje wdrażające funkcje AI mają wzmacniać protokoły uwierzytelniania, uważniej monitorować aktywność użytkowników i dołożyć multi-factor authentication. Do tego dochodzi continuous access evaluation, czyli ciągła ocena, czy bieżący dostęp nadal powinien być utrzymany, oraz rygorystyczne testowanie modeli AI pod kątem prób podszywania się.

To nie jest temat do odhaczenia jednym checkboxem w setupie. Jeśli AI uczestniczy w decyzji o tożsamości, trzeba sprawdzić, gdzie dokładnie trafiają dane użytkownika, jakie sygnały model bierze pod uwagę i czy anomalia w sesji albo zachowaniu użytkownika uruchamia dodatkową kontrolę. W praktyce oznacza to przegląd wdrożenia AI razem z zespołem security, a nie osobno po stronie produktu.

Najbardziej użyteczne działanie na teraz to audyt wszystkich miejsc, w których AI dotyka logowania, dostępu albo potwierdzania tożsamości. Jeśli taki element działa bez MFA, bez monitoringu aktywności i bez testów odporności modelu, to właśnie tam zbiera się ryzyko.