Monitoring¶
A rendszergazdák a alatt ellenőrzik az AI-használatot.
Naplók¶
(ai.log)
Minden jelentős csevegés/eszköz esemény létrehozhat egy naplósort: felhasználó, vállalat, eszköz, modell, siker/kudarc, használt-e sudo-t (hamisnak kell lennie az üzleti műveleteknél), időzítés és opcionális hasznos terhelés.
A Csak metaadat naplózási szintet részesítse előnyben az éles környezetben.
A teljes hasznos adatnaplók tartalmazhatnak a felhasználók által beillesztett személyes adatokat és titkokat – ennek megfelelően korlátozza a hozzáférést és a megőrzést.
A naplókat ellenőrzés céljából vezetjük; run steps külön megőrzési beállítással rendelkezik.
Szabálysértések¶
A biztonsággal kapcsolatos események (blokkolt minták, csatornamegtagadások, irányelvekkel való visszaélések stb.) szabálysértési rekordokat hoznak létre. A beállított ablakban felgyülemlett figyelmeztetések ideiglenes kitiltáshoz vezetnek.
A szabálysértések felülvizsgálata a következő címen:
pontos injektálási kísérletek;
rosszul konfigurált csatornaközönség keresése (megtagadások zaja);
érzékelje a felhasználókat, akik nem képesek törölni/írni.
Felhasználói tiltások¶
Átmenetileg felfüggeszti a mesterséges intelligencia használatát egy felhasználó számára. A kapu ellenőrzi a first kitiltásokat, mielőtt drága LLM vagy osztályozási munkát végezne – ez megszakítja az adaptív támadási iterációt.
Az időtartam a Beállításokból (AI tiltás (perc)) származik az automatikus kiadáskor.
Az adminisztrátorok manuálisan is kezelhetik a kitiltásokat.
Az AI-adminisztrátorok/beállítások a tervezés során tilalommentesnek minősülnek (ők maguk adminisztrálják a síneket) – egy másik ok, amiért az ügynökfelhasználók soha nem lehetnek mesterségesintelligencia-adminisztrátorok.
Ügynök feladatok és futtatások¶
Automatikus munkavégzéshez figyelje a következőket is:
Ellenőrizze a sikertelen lépéseket, a szerszámhibákat és a függőben lévő írási kapcsolatot. A lépésnaplók Futtatási lépések megőrzési ideje (nap) nap után törölhetők; tartson elegendő előzményt az incidensek kivizsgálásához.
Írási javaslatok sora¶
egyszerre felhasználói eszköz és vezérlőfelület: a függőben lévő ügynöki javaslatok lemaradása azt jelenti, hogy a felügyelőknek kapacitásra van szükségük, vagy az ügynök túl agresszív.
Üzemeltetési ritmusok¶
Daily (early production)
Nyílt jogsértések és kitiltások.
Számolja az egy munkanapnál régebbi, függőben lévő ügynöki ajánlatokat.
Weekly
Mint a teljes beszélgetésekből a minőségi és adatkezelési hibákért.
Tekintse át az új hozzáférési szabályokat és a képességváltozásokat (módosításvezérlés).
After any incident
Csak addig váltson naplózási szintet, ameddig szükséges.
Releváns naplók exportálása; majd térjen vissza a csak metaadatokhoz.
Forgassa a szolgáltató API kulcsait, ha szivárgás gyanúja merül fel.
Olvassa el újra a Biztonság ellenőrzőlistát a tulajdonos csapattal.