Audyty bezpieczeństwa i red team
Testy systemów z agentami AI i ich otoczenia
W uzgodnionym zakresie sprawdzamy, jak agent zachowuje się pod naciskiem: wstrzykiwanie poleceń, nadużycie narzędzi, wyciek danych i nadmiarowe uprawnienia. Dostajesz raport z dowodami i poprawkami.
| Nr | Ustalenie | Klasa | Priorytet | Stan |
|---|---|---|---|---|
| 01 | Polecenie w załączonym dokumencie zmienia cel zadania | wstrzykiwanie poleceń | wysoki | do poprawy |
| 02 | Odpowiedź zawiera fragment pamięci innego kontrahenta | wyciek danych | średni | do poprawy |
| 03 | Token narzędzia ma prawo zapisu, choć zadanie wymaga odczytu | nadmiarowe uprawnienia | średni | poprawione |
| 04 | Operacja spoza listy dozwolonych została odrzucona | nadużycie narzędzi | bez uwag | odparte |
Co sprawdzamy.Cztery klasy problemów, każda w uzgodnionym zakresie.
-
Wstrzykiwanie poleceń
Sprawdzamy, czy treść, którą agent czyta — wiadomość, dokument, strona — może zmienić cel jego zadania.
-
Nadużycie narzędzi
Sprawdzamy, czy agent da się nakłonić do użycia narzędzia poza zakresem, do którego zostało dopuszczone.
-
Wyciek danych
Sprawdzamy, czy do odpowiedzi, logów albo pamięci trafiają dane, które nie powinny się tam znaleźć.
-
Nadmiarowe uprawnienia
Porównujemy to, co agent i jego otoczenie mogą zrobić, z tym, co jest potrzebne do wykonania zadania.
Co jest w raporcie.Każde ustalenie opisane tak, żeby dało się je naprawić.
-
Opis ustaleniaCo się stało i w jakich warunkach — tak, żeby zespół mógł to powtórzyć.
-
DowódZapis próby, która doprowadziła do ustalenia.
-
PoprawkaKonkretna zmiana w konfiguracji, kodzie albo uprawnieniach.
-
PriorytetCo naprawić najpierw, a co może poczekać.
Czego test nie daje
Test nie jest gwarancją, że system jest bezpieczny. Pokazuje to, co udało się znaleźć w uzgodnionym zakresie i czasie, oraz to, co agent odparł. Dlatego opisujemy zakres wprost i zostawiamy próby w postaci, którą można powtórzyć po wdrożeniu poprawek.
Testujemy wyłącznie za pisemną zgodą właściciela systemu. Zasady autoryzacji testów opisują, jak ustalamy zakres i kto może test przerwać.
Chcesz wiedzieć, co Twój agent zrobi pod naciskiem? Zacznijmy od ustalenia zakresu.
Umów rozmowęOdpowiadamy w 1 dzień roboczy