Ütemezett futtatások
Kérd meg az asszisztenst, hogy futtasson le valamit később — egyszer, vagy visszatérően, ütemezés szerint —, és az általad megadott időpontban egy önálló, friss beszélgetésként indul el, a promptoddal mint első üzenettel. Nincs külön ütemezési képernyő: az ütemezett futtatásokat ugyanúgy hozod létre, tekinted meg és kezeled, mint bármi mást — a chatben kérve.
Ez a funkció nem biztos, hogy minden környezetben elérhető. Ha az asszisztens nem hajlandó ütemezni valamit, lehet, hogy az adminisztrátorod nem engedélyezte.
Ütemezett futtatás létrehozása
Írd le egyszerű nyelven, mit szeretnél és mikor:
"Minden hétköznap reggel 9-kor nézd meg a nyitott PR-eket ebben a repóban, és foglald össze, mi vár rám."
"Egy hét múlva emlékeztess a migrációs jegy továbbvitelére — indíts erről egy új beszélgetést."
A háttérben minden ütemezés pontosan az egyik:
- Egyszeri — egyszer fut le egy megadott időpontban.
- Visszatérő —
cronütemezés szerint fut (pl.0 9 1-5hétköznap reggel 9-kor), egy általad megadható időzónában értelmezve; az alapértelmezettUTC. - Eseményvezérelt — akkor fut le, ha valami történik a rendszeren belül (egy másik feladat befejeződik, egy háttérfolyamat lezárul), nem pedig órajel szerint. Ez egy szűkebb, technikaibb lehetőség, futtatások összeláncolására; kérdezz rá az asszisztensnél, ha azt szeretnéd, hogy egy futtatás közvetlenül egy másik után induljon el.
Létrehozás után az asszisztens visszaad egy azonosítót az ütemezéshez, és a későbbi üzeneteidben is hivatkozhatsz rá név vagy leírás alapján ("állítsd meg a PR-összefoglaló feladatot", "töröld azt az emlékeztetőt").
Mi történik, amikor egy ütemezett futtatás elindul
- Létrejön egy vadonatúj beszélgetés, amelynek első üzenete a tárolt promptod. Nincs emléke annak a beszélgetésnek, amelyben az ütemezést létrehoztad, ezért úgy fogalmazd meg a promptot, hogy önmagában is megálljon.
- Az új beszélgetés megjelenik a szálak listájában, mint bármelyik másik, automatikus futtatásként megjelölve.
- Megjelenik benne egy Scheduled run kártya, amely mutatja a kiváltó feltételt (a cron kifejezést vagy az egyszeri időpontot), a futtatás indulási idejét, majd — befejezéskor — hogy meddig tartott és hány tokent használt (lásd lent: Mennyit költhet egy futtatás).
- Mivel senki sem figyeli élőben, a futtatás automatikusan jóváhagyja a saját eszközhívásait, ahelyett hogy megállna és tőled kérdezné, ahogy egy interaktív beszélgetés tenné. Lásd az Engedélyek oldalt.
A felügyelet nélküli futtatások automatikusan jóváhagyják az eszközeiket. Egy ütemezett futtatást hozzáköthetsz egy adott hozzáférési profilhoz, hogy korlátozd, mit érhet el; egy megnevezett profil csak elvehet repókat vagy eszközöket a saját fiókod jogosultságaihoz képest, sosem adhat hozzá többet azoknál.
Ütemezett futtatás kezelése
Kérdezd az asszisztenst a chatben:
- "Milyen ütemezett futtatásaim vannak?" — felsorolja a feladataidat állapottal és a következő indulási idővel.
- "Állítsd meg a PR-összefoglaló feladatot." / "Indítsd újra."
- "Halaszd el az esti összefoglalót jövő szerdáig."
- "Állítsd át azt a feladatot 8 órára." / "Egészítsd ki a promptját a lezárt PR-ekkel is."
- "Töröld."
Csak a saját ütemezett futtatásaidat láthatod és kezelheted.
Mennyit költhet egy futtatás
Egy ütemezett futtatást senki sem figyel, így egy körbe-körbe járó futtatás rengeteg tokent elhasználhat, mielőtt az időkorlát leállítaná. Egy feladatnak megadhatsz tokenkeretet — legfeljebb ennyi tokent használhat egy futtatás — és időkorlátot, létrehozáskor vagy később is:
"Minden éjjel 2-kor nézd át a tegnapi commitokat — futtatásonként legfeljebb 200 000 token és 30 perc."
"Emeld az esti összefoglaló tokenkeretét 500k-ra." / "Vedd le a tokenkeretét."
- Mi számít bele. Minden token, amelyet a futtatás asszisztense a modellnek küld vagy tőle kap, a subagentjeit és az általa hívott külső kódoló ágenseket is beleértve. A szolgáltató gyorsítótárából kiszolgált prompt-tokenek teljes értékkel számítanak — a keret az elszabadult futtatások ellen véd, nem számla. A háttérben futó segédhívások (a beszélgetés címe, összefoglalók, memória-előhívás, biztonsági ellenőrzések, a kontextus tömörítése) nem számítanak bele.
- A legkisebb keret 1000 token. Ha nem adsz meg keretet, az adminisztrátor alapértéke érvényes, ami gyakran korlátlan. Az adminisztrátor egy maximumot is beállíthat, amely minden kért keretet felülről korlátoz.
- Hogyan áll le egy futtatás. A keretet a lépések között ellenőrzi a rendszer, ezért egy futtatás legfeljebb egy lépéssel (egy modellválasszal és az általa indított eszközökkel) lépheti túl. 80 %-nál az asszisztens utasítást kap, hogy mentse a munkáját és zárja le. Amikor a keret elfogy, a futtatás egy megjegyzéssel leáll a beszélgetésében, és sikertelenként rögzül (stopped at token budget). Az időtúllépéshez hasonlóan az ismételt hibák beleszámítanak abba, hogy a feladat automatikusan kikapcsol.
- A jóváhagyásra váró futtatások megtartják a keretüket: amikor a jóváhagyásra választ kapnak, a futtatás folytatódik, és a tokenjei ugyanabba a keretbe számítanak tovább. Ha várakozás közben a szerver újraindul, a futtatás sikertelenként zárul, és nem folytatódik.
Amikor egy futtatás befejeződik, a kártyája mutatja a felhasznált tokeneket — például Tokens: 84.2k (in 80.1k, cached 61k, out 4.1k) —, és ha volt kerete, Budget: 100k (84 %). A Cost sor unknown, ha a modellnek nincs ismert ára; sosem mutat kitalált $0-t.
Korábbi futtatások áttekintése
Kérdezd meg: "mutasd meg a PR-összefoglaló feladat utolsó néhány futtatását" vagy "mit írt ki legutóbb az esti összefoglaló?" Az asszisztens fel tudja sorolni egy feladat futtatási előzményeit — állapot, időzítés, tokenhasználat (a gyorsítótárazott tokenekkel együtt) és az egyes futtatások tokenkerete —, és vissza tudja hozni egy adott futtatás eredeti promptját és végső válaszát anélkül, hogy neked kellene megkeresned a hozzá tartozó beszélgetést.
Miben más ez, mint a webhookkal indított futtatások
Egy olyan felügyelet nélküli futtatás, amelyet valami a rendszeren kívül történő esemény indít el — egy push egy repóba, egy beérkező webhook —, nem valami, amit a chatből állítasz be. Ezeket az adminisztrátorod deklarálja a szerver konfigurációjában. Ugyanazon a motoron futnak keresztül, és ugyanolyan Scheduled run kártyaként jelennek meg, de saját ütemezett futtatásként nem tudod létrehozni, megtekinteni vagy kezelni őket.
Amit érdemes tudni a korlátokról
- Ha egy visszatérő futtatás még fut, amikor elérkezik a következő indulási ideje, az új indulás kimarad, nem sorba áll és nem fut párhuzamosan — egy lassú futtatás nem torlódik fel.
- A visszatérő ütemezések a megadott időzóna sima, falióra szerinti idejét használják: azon a napon, amikor az adott időzóna órája előre ugrik, a futtatás aznap egy órát késve indul; amikor visszaáll, akár kétszer is elindulhat.
- Azt a futtatást, amely nagyjából egy órán át nem halad előre, elakadtnak tekinti a rendszer, és sikertelenként jelöli meg.
- Egy futtatás leáll az időkorlátjánál (alapértelmezetten egy óra, legfeljebb hat óra) és a tokenkereténél, ha van neki. Mindkettő feladatonként módosítható.
- Az adminisztrátorod teljesen letilthatja a visszatérő (
cron) ütemezéseket, így csak az egyszeri futtatások maradnak elérhetők, vagy akár az ütemezett futtatásokat is kikapcsolhatja teljesen. - A fiókodhoz alapértelmezetten legfeljebb 1000 aktív ütemezett feladat tartozhat egyszerre; ezt a korlátot az adminisztrátorod módosíthatja.
- A befejezett futtatások előzményeit — és az egyes futtatások által létrehozott beszélgetéseket — alapértelmezetten egy évig őrzi meg a rendszer, mielőtt az adminisztrátor megőrzési beállítása törli őket.