Monitoring¶
A rendszergazdák a alatt ellenőrzik az AI-használatot.
Naplók¶
(ai.log)
Minden jelentős csevegés/eszköz esemény létrehozhat egy naplósort: felhasználó, vállalat, eszköz, modell, siker/kudarc, használt-e sudo-t (hamisnak kell lennie az üzleti műveleteknél), időzítés és opcionális hasznos terhelés.
A Csak metaadat naplózási szintet részesítse előnyben az éles környezetben.
A teljes hasznos adatnaplók tartalmazhatnak a felhasználók által beillesztett személyes adatokat és titkokat – ennek megfelelően korlátozza a hozzáférést és a megőrzést.
A naplókat ellenőrzés céljából vezetjük; run steps külön megőrzési beállítással rendelkezik.
Szabálysértések¶
A biztonsággal kapcsolatos események (blokkolt minták, csatornamegtagadások, irányelvekkel való visszaélések stb.) szabálysértési rekordokat hoznak létre. A beállított ablakban felgyülemlett figyelmeztetések ideiglenes kitiltáshoz vezetnek.
A szabálysértések felülvizsgálata a következő címen:
pontos injektálási kísérletek;
rosszul konfigurált csatornaközönség keresése (megtagadások zaja);
érzékelje a felhasználókat, akik nem képesek törölni/írni.
Fontos
Nem minden elutasítás jelenik meg itt. A mezőszintű szerkezeti vezetősínek — egy másik modellbe is író mező, nem írható vagy nem tárolt mező — nem rögzítenek szabálysértést, és nem járnak figyelmeztetéssel, ezért az üres Szabálysértések lista nem bizonyítja, hogy semmit nem utasított el a rendszer. A kikapcsolt képesség más eset: az viszont valóban figyelmeztetést kiváltó határ, és itt is megjelenik. Arról, hogy mely határok járnak figyelmeztetéssel, a 9. alapelv szól a AI oldalon, a mezőszintű vezetősínekről pedig a Modellek közötti írás elleni védelem szakasz.
Az ilyen elutasítás nyomát három másik helyen keresse:
a műveletet végző felhasználó beszélgetésében, ahol az asszisztens jelzi az elutasítást, és megnevezi a modellt, valamint azokat a mezőket, amelyeket nem írhatott;
a futás Lépések fülén, ügynök esetén: az eszközhívást a rendszer denied Kapu döntés eredménye értékkel és az elutasítás üzenetével rögzíti;
az Odoo szervernaplójában, ha az elutasítás egy one2many vagy many2many adatcsomagon belül történt: a beágyazott modell és mező csak ott szerepel, a felületen sehol, ezért kérje meg a szerver üzemeltetőjét, hogy nézze meg őket — ezek megnevezik azt a mezőszintű szabályt, amely megnyitná.
A nem jeleníti meg: az ai.log a szolgáltatói hívásokat és a valóban alkalmazott írásokat rögzíti.
Felhasználói tiltások¶
Átmenetileg felfüggeszti a mesterséges intelligencia használatát egy felhasználó számára. A kapu ellenőrzi a first kitiltásokat, mielőtt drága LLM vagy osztályozási munkát végezne – ez megszakítja az adaptív támadási iterációt.
Az időtartam automatikus kiszabáskor a Beállításokból (AI tiltás (perc)) származik.
Az adminisztrátorok manuálisan is kezelhetik a kitiltásokat.
Az AI-adminisztrátorok/beállítások a tervezés során tilalommentesnek minősülnek (ők maguk adminisztrálják a síneket) – egy másik ok, amiért az ügynökfelhasználók soha nem lehetnek mesterségesintelligencia-adminisztrátorok.
Ügynök feladatok és futtatások¶
Automatikus munkavégzéshez figyelje a következőket is:
Vizsgálja meg a sikertelen lépéseket, az eszközhibákat és a függőben lévő írások kapcsolatait. A lépésnaplók a Futtatási lépések megőrzési ideje (nap) letelte után törölhetők; tartson meg annyi előzményt, amennyi az incidensek kivizsgálásához kell.
Meghiúsulás típusai¶
Nincs Visszavont és nincs Begyűjtött állapot. Az alábbi futások mindegyike egyszerűen Sikertelen a listában, és a futás űrlapján a Meghiúsulás típusa mező az, ami megkülönbözteti őket. Ez nem oszlop, és nem szállítunk hozzá szűrőt, ezért adjon hozzá egyéni szűrőt vagy egyéni csoportosítást a Meghiúsulás típusa szerint a menüben, mielőtt egy egész csoport alakulását próbálná figyelni. Az alábbi három mindegyike megjegyzést hagy a feladat üzenetfolyamán is.
reaped_stuck— egyetlen worker sem zárta le a futást (újraindítás, memóriahiány miatti leállítás, pod-kilakoltatás), ezért a begyűjtő zárta le. Ha ez rendszeresen előfordul, az szerver-újraindításokra vagy az időkorlátját túllépő feladatra utal. A begyűjtött futás szándékosan nem számít bele a feladat automatikus deaktiválásába, mert a begyűjtő az ütemezőn kívül fut — semmi nem fogja archiválni azt a feladatot, amelynek a workere folyamatosan leáll, így ez az egyetlen létező jelzés, és foglalkozni kell vele.cancelled— olyan futás, amely valóban végrehajtás alatt állt, amikor kérésre, a Megszakítás kérése gombbal leállították. A már végrehajtott lépések a futás Lépések fülén maradnak, de a válasza a megszakítást rögzíti, nem részleges választ, és a már megnyitott írási javaslatai is megszakadnak vele, így nem marad jóváhagyható elem. A megszakítás semleges a feladat hibasorozata szempontjából: nem számít bele, de nem is nullázza.triage_denied— a futás előtti utasításellenőrzés elutasította a feladat állandó utasítását, így az ügynök el sem indult. A másik kettővel szemben ez beleszámít az automatikus deaktiválásba: öt egymást követő hiba, amelyek közül az első egy hétnél régebbi, archiválja a feladatot. A hirtelen megszaporodás általában vagy rosszul megfogalmazott állandó utasítást jelent, vagy a triázs szolgáltatójának kiesését, amely biztonságos irányba, elutasítás felé dől el.
Két további érték a jóváhagyásra félretett futásokhoz tartozik: waiting_approval_expired (senki nem válaszolt időben) és waiting_approval_empty (a futás felszabadult, mert nem maradt javaslat, amelyre várni kellene, és egyiket sem alkalmazták — ezt látja akkor is, ha a felügyelő olyan futást szakít meg, amely jóváhagyásra várt, nem pedig végrehajtás alatt állt). A futáson belüli hétköznapi összeomlás ezzel szemben a kivétel osztálynevét rögzíti.
A mögöttes mechanizmusokról a Megszakadt kiszolgálófolyamatú futások és a Futás leállítása szakasz szól, az ezeket vezérlő paraméterekről és ütemezett műveletekről pedig a Konfiguráció.
Írási javaslatok sora¶
egyszerre felhasználói eszköz és vezérlőfelület: a függőben lévő ügynöki javaslatok lemaradása azt jelenti, hogy a felügyelőknek kapacitásra van szükségük, vagy az ügynök túl agresszív.
Fontos
Az Ügynök írási javaslat élettartama (perc) csak addig érvényes, amíg a javaslatot tevő futás nyitva van. Ha az a futás már véget ért — leggyakrabban olyan futás, amely túllépte az időkorlátját, és Időtúllépés állapotban zárult —, a függőben lévő javaslatait az AI: Függőben lévő írások lejáratása ütemezett művelet következő, 15 percenkénti futása lejáratja, mert nem marad senki, aki visszavigye az eredményt. Ez a takarítás az élettartam beállított értékétől függetlenül lefut, a 0 esetén is.
Ezért a sikertelen és időtúllépéssel zárult futások javaslatait haladéktalanul tekintse át; ne tervezze úgy, hogy majd másnap visszatér hozzájuk.
Üzemeltetési ritmusok¶
Daily (early production)
Nyílt jogsértések és kitiltások.
Vegye számba azokat a függőben lévő ügynöki javaslatokat, amelyek futása még nyitva van, és még ugyanazon a napon zárja le őket; ha egy futás véget ért, a javaslatait a rendszer nem várakoztatja, hanem kitakarítja.
Weekly
Mint a teljes beszélgetésekből a minőségi és adatkezelési hibákért.
Tekintse át az új hozzáférési szabályokat és a képességváltozásokat (módosításvezérlés).
After any incident
Csak addig váltson naplózási szintet, ameddig szükséges.
Releváns naplók exportálása; majd térjen vissza a csak metaadatokhoz.
Forgassa a szolgáltató API kulcsait, ha szivárgás gyanúja merül fel.
Olvassa el újra a Biztonság ellenőrzőlistát a tulajdonos csapattal.