Esszé a memóriarendszerről

Hogyan emlékszik a Codumentor

Az emlékezet nem egyetlen rendszer, sem az emberben, sem a Codumentorban. Mindegyik másfajta dolgot őriz, más ideig, és más úton hozza vissza. Ez az oldal bemutatja a Codumentor négy meglévő rétegét, azt, amelyik most béta állapotú és alapértelmezésben ki van kapcsolva, és megmutatja azt is, hol nem áll meg többé a hasonlat az emberi elmével.

Büszkék vagyunk erre a felépítésre, és óvatosan bánunk azzal, amit állítunk róla. Ha valami már elérhető, megmondjuk. Ha béta állapotú, vagy csak tervezzük, azt is.

A memória térképe A Codumentor memóriarétegei aszerint elrendezve, hogy meddig tartanak (balról jobbra, másodpercektől évekig), és kinek az emlékezetéről van szó (fentről lefelé: ez a beszélgetés, te, a csapatod). A munkamemória másodpercektől egy beszélgetésig terjed. Az epizodikus memória egy beszélgetéstől évekig tart. A készségek hetektől évekig élnek, neked és a csapatodnak is. A szervezeti memória hetektől évekig a csapatot szolgálja. A személyes ágensmemória, amely béta állapotú és alapértelmezésben ki van kapcsolva, szaggatott vonallal szerepel a te sorodban. Másodpercek Egy forduló Egy beszélgetés Hetek Évek Ez a beszélgetés ami szem előtt van Te egy ember előzményei A csapatod közös, gondozott Munkamemória · a kontextusablak és a tömörítése Epizodikus memória · a korábbi beszélgetéseid Készségek · a sajátjaid Személyes ágensmemória · béta Szervezeti memória Készségek · projekt és szervezet Szaggatott: béta, alapértelmezésben kikapcsolva. Minden más már ma is működik.

Meddig őriz meg valamit az egyes réteg, és kinek az emlékezete. A szaggatott sáv béta állapotú, és csak akkor működik, ha a rendszergazda bekapcsolja: amit a szervezeti kurátor egy csapatnak tesz, azt teszi egyetlen embernek.

Miért nem egy

Senki sem egyetlen tárból emlékszik

A pszichológia régóta tudja, hogy az „emlékezet” rendszerek egész családját jelöli. Larry Squire rendszerezése deklaratív memóriára osztja, amelyet ki tudunk mondani (tények, események), és nem deklaratív memóriára, amely a cselekvésben mutatkozik meg (készségek, szokások). Mindkettő mellett ott működik egy kicsi, gyors munkamemória, amely azt tartja fejben, amin éppen gondolkodunk. Mindegyik rendszer egy dologban jó, a többiben gyenge, és az elme attól ér el messzire, hogy együtt használja őket.

Egy asszisztens ugyanezzel a feladattal néz szembe. Amit a munka közben szem előtt kell tartania, ahogyan egy adott fajta feladatot elvégez, ami egy korábbi beszélgetésben történt, és amit egy szervezet évek alatt megtanult: ezek különböző fajta tudások. Más az élettartamuk, más a gazdájuk, és más úton térnek vissza. Egyetlen nagy tár mind a négyet rosszul kezelné, ezért a Codumentor külön rétegekben tartja őket.

Munkamemória

A kontextusablak, és az elengedés művészete

Az elmében

George Miller 1956-os tanulmánya a közvetlen emlékezet terjedelmét „hét, plusz-mínusz kettő” elemben határozta meg. Nelson Cowan későbbi munkái a valódi számot inkább négy egység körülire teszik. A lényeg, hogy a munkamemória kicsi, és azért boldogulunk mégis, mert folyamatosan tömörítünk: a lényeget őrizzük meg, nem az átiratot.

A Codumentorban

A modell kontextusablaka a munkamemóriája: minden, amit lát, miközben a következő lépésről dönt. Jóval nagyobb négy egységnél, de így is betelik, ezért a Codumentor automatikusan tömöríti, ahogy a beszélgetés hosszabbodik.

Kontextuskeret az alapértelmezett 262 000 tokenes ablakkal: a tömörítés 245 616 tokennél indul, és nagyjából 122 800-ra csökkenti a promptot. 0 ≈122 800 245 616 262 000 Tömörítés után: a küszöb fele Küszöb Ablak (ebből 16 384 tartalék)
Méretarányos rajz az alapértelmezett ablakra. Egy másik modellprofilnak más az ablaka, de az arányok ugyanezek.
Ahol a hasonlat sántítA nagyobb ablak nem jobb emlékezet. A modellek, akárcsak az emberek, egy hosszú kontextus közepére kevésbé megbízhatóan figyelnek, mint az elejére és a végére. A tömörítés azért létezik, mert a fókuszált prompt többet ér a telezsúfoltnál. Az összefoglaló rekonstrukció, és elveszhet belőle egy-egy részlet: ezért mutatjuk meg neked, ahelyett hogy elrejtenénk.
Procedurális memória

Készségek: tudni, hogyan

Az elmében

Azt, hogyan kell biciklizni, nem idézzük fel. A helyzet előhívja az eljárást, és tekerünk. A procedurális memóriát a környezet indítja be: a megfelelő jel az egész rutint visszahozza, anélkül hogy keresgélnünk kellene.

A Codumentorban

A készség (skill) leírt eljárás: egy SKILL.md fájl, amely elmondja, hogyan kell jól elvégezni egy adott fajta munkát, például egy kiadási ellenőrzőlistát, egy review-rutint vagy a házi stílust. Az asszisztens minden készségnek mindig látja az egysoros leírását, és amikor a feladatod illik valamelyikre, betölti a teljes eljárást.

<!-- minden fordulóban látható: nevek és egysoros jelek, sosem a teljes szöveg -->
<available_skills>
  release-checklist   Cut a release: version bump, notes, tag, verify build
  review-migration    Review a database migration for locking and rollback
  house-style         How this team writes commit messages and changelogs
</available_skills>

Ez a jegyzék előhívó jelként működik. A készség neve és leírása minden fordulóban az asszisztens szeme előtt van, így egy kiadásnak látszó feladat magától előhozza a kiadási ellenőrzőlistát, anélkül hogy bárki kérné. A teljes eljárás csak ekkor töltődik be, egyszerre legfeljebb öt, így a meglévő készségeid nem zsúfolják tele a fent leírt munkamemóriát. Közvetlenül is meghívhatsz egyet a /skill-name begépelésével.

A készségek négy helyről származnak, és a szűkebbek kiegészítik a tágabbakat:

Ki írja őket

Ma emberek. A Codumentor olvassa a készségeket, de nem írja őket. Minden készséget, amelyet használ, valaki megírt, és az alább leírt tanuló réteg sem tud ilyet létrehozni: egy elfogadott szabály csak egy feljegyzést tehet hozzá ahhoz, amit az asszisztens olvas.

Ezen változtatni tervezünk. A tapasztalat a procedurális memóriában térül meg a legjobban: ha egy munka néhányszor ugyanúgy jól sikerült, érdemes leírni, hogyan ment. Más ágensrendszerek már a saját munkájukból írnak készségtervezeteket, és ott ez a megközelítés bevált. Mi úgy tervezzük, ahogyan ez az oldal minden mást: a Codumentor észreveszi a többször bevált eljárást, SKILL.md tervezetet ír belőle, és felajánlja neked. Készség csak akkor lesz belőle, ha elolvastad és igent mondtál rá. Ez még nem készült el. Addig ez a réteg csak akkor bővül, ha valaki megír egy készséget.

Ahol a hasonlat sántítAz emberi procedurális memória implicit. A saját szokásainkat nem tudjuk elolvasni, és egy szokás megváltoztatása hónapokig tart. A készség viszont egyszerű szöveg: megnyithatod, pontosan láthatod, mit fog tenni az asszisztens, kijavíthatsz egy sort, és a változás már a következő fordulóban érvényes. Ebben a gépet könnyebb megváltoztatni, mint minket.
Epizodikus memória

Emlékezni arra, ami történt

Az elmében

Endel Tulving 1972-ben adta neki a nevét: a konkrét események emlékezete, mindegyik a maga idejével és helyével. Később „mentális időutazásnak” nevezte azt a képességet, hogy visszatérhetünk egy korábbi pillanathoz, és újra megnézhetjük. Asszociatív is: egyetlen jellegzetes szó egy egész délutánt visszahozhat.

A Codumentorban

A korábbi beszélgetéseid az epizódjaid. Ha azt mondod, „mint múltkor” vagy „ahogy megbeszéltük”, az asszisztens rákeres az előzményeidre, és újraolvassa, amit talál. Minden találat a beszélgetésre mutat, így látod, mit olvasott el.

A felidézés kérés nélkül is megtörténik. Minden forduló elején a Codumentor olyan szavakat keres az üzenetedben, amelyek a saját előzményeidben jellegzetesek. Egy szónak legalább egy beszélgetésedben szerepelnie kell, de legfeljebb nagyjából huszonötben; ami ennél gyakoribb, az számodra háttérzaj, bármit mondjon is róla a szótár. Ha két ilyen szó ugyanahhoz a régi beszélgetéshez vezet, az asszisztens felkínálja azt a beszélgetést. Egyetlen szó csak akkor elég, ha nagyon ritka: legfeljebb három beszélgetésben fordul elő.

A legtöbb fordulóban semmi sem kerül elő, és ez szándékos. Amikor mégis előkerül valami, rövid beszélgetéslistát kínál fel, nem a beszélgetések tartalmát. Az asszisztensnek még meg kell nyitnia valamelyiket, és azt is tudja, hogy a listát kulcsszavas keresés hozta, tehát tévedhet. Ez a réteg semmiről nem tárol másolatot, nem hív modellt, és csak a saját beszélgetéseidhez fér hozzá. Amit töröltél, az törölt is marad.

Egy felidézett beszélgetés frissességi súlya: 60 naponként feleződik, és sosem esik 0,4 alá, amit nagyjából 79 nap után ér el. 1,0 0,5 0,4 0 ma 60 nap 120 nap 180 nap fél súly 60 napnál alsó határ ~79 naptól: régi, de nem törlődik
Mennyit számít egy régebbi beszélgetés egyezése. Hermann Ebbinghaus 1885-ben mérte meg ennek emberi változatát: meredek kezdeti veszteség, utána hosszú, szinte lapos lecsengés. Ez a görbe ugyanilyen alakú, csak nyugodtabb órával, és az alsó határa miatt egy erős régi egyezés háttérbe szorul, de sosem merül feledésbe.

A Beállítások → Bővítmények alatt szabályozhatod: történjen-e automatikusan a felidézés, mennyire készségesen (Szűk, Kiegyensúlyozott vagy Bő), és csak az aktuális munkaterületen keressen-e, vagy az összesben.

Ahol a hasonlat sántítFrederic Bartlett 1932-ben megmutatta, hogy az emberek minden felidézéskor újraépítik az emléket, és minden újramesélésnél kicsit eltérnek tőle. A mai felidézés nem mesél újra: visszamegy az eredeti beszélgetéshez, és újra elolvassa. Az alább leírt, most béta állapotú tanuló réteg viszont újramesél, mert attól, ami történt, ahhoz, amit jelent, csak újramesélésen át lehet eljutni. Az emberi emlékezettől abban különbözik, hogy az eredeti soha nem vész el. Minden levont tanulság visszamutat azokra a beszélgetésekre és a te saját szavaidra, amelyekből készült, így minden újramesélés összevethető a forrásával, és abból újra megírható. Magától egyik sem felejt: azt, hogy mire emlékezhet, olvasható szabályok döntik el.
Béta · ágensmemória, neked

Attól, ami történt, ahhoz, amit jelent

Az ember nem őrzi meg örökre epizódként az epizódjait. Éjszakák és évek alatt az agy kivonja az általánosat a különösből. Elfelejted azt a negyven alkalmat, amikor megjavítottad azt a buildet, a tanulságot viszont megtartod. McClelland, McNaughton és O'Reilly 1995-ben két, egymás mellett tanuló rendszerként írta le ezt: az egyik gyorsan rögzíti az eseményeket, a másik lassan kiszűri, ami közös bennük. Ennek eredménye a szemantikus memória: olyan tudás, amelyről már nem emlékszel, mikor tanultad.

A Codumentorban ez a második rendszer már megvan. Ez az ágensmemória (agentic memory) kurátora, és egy szervezetnek dolgozik. Személyes párja, amely azt tanulja meg, hogyan szeretsz te dolgozni, most béta állapotban van.

Ami szervezeti szinten már létezik

Minden válasz után a háttérben elindul egy kurátor, és elolvassa a beszélgetésrészletet. Először egyetlen kérdést tesz fel: van itt bármi, amit érdemes megtartani? Legtöbbször az őszinte válasz nem, és a futás véget ér. Ha van valami, például egy elnevezési csapda, egy döntés és az oka, vagy egy kerülőút, amelyet senki sem írt le, a kurátor megnézi, mit mond már erről a tudásbázis. Aztán létrehoz egy jegyzetet, frissít egyet, vagy visszavon egyet, amely már nem igaz. Egy eldobható másolatban dolgozik, és az eredményt egyetlen git commitként teszi közzé, egyszerű Markdownban, így a kurátor minden változtatása elolvasható, összevethető és visszavonható.

Amikor később valaki rokon kérdést tesz fel, a legrelevánsabb jegyzetek elsőként, rövid Rapid Direction Cues (gyors irányjelzők) formájában érkeznek vissza, még mielőtt az asszisztens munkához látna. A tetszések és nem tetszések befolyásolják, mennyit számít egy-egy jelzés. A mindenütt felbukkanó kifejezések hátrébb sorolódnak: megtalálhatók, ha valaki rájuk kérdez, de kérés nélkül már nem kerülnek elő.

Ugyanaz a gondolat, egy ember hatókörében

A személyes változat ennek a kurátornak a testvére, nem a leváltása. Külön tanuló, saját, személyenkénti tárral, de a kurátor szokásait követi: amit megtart, az egyszerű Markdown, amelyet elolvashatsz és szerkeszthetsz, és minden tanulság visszamutat azokra a beszélgetésekre, amelyekből született. A terv neve tapasztalatdesztilláció (experience distillation). Azt tanulja meg, hogyan dolgozzon veled az asszisztens: mennyit ellenőrizzen, hogyan számoljon be, mikor kérdezzen, mennyit csináljon magától. A kódodra vonatkozó tények nem tartoznak rá. Ha van szervezeti memória, ezeket jelzésként annak a kurátorának adja tovább.

Béta állapotú, alapértelmezésben kikapcsolva. Még teszteljük. Működik, de még nem végleges: hogy mit javasol, milyen gyakran kérdez, és mit mutat a panel, az még változik, ahogy látjuk, hogyan használják. Telepítés után egyáltalán nem fut, a rendszergazdának kell bekapcsolnia a telepítésetekben. Ha igen, nálad alapértelmezés szerint be van kapcsolva, és a Beállítások → Bővítmények alatt, a Tanuljon a beszélgetéseimből kapcsolóval irányíthatod. Ha kikapcsolod, nem vesz észre semmi újat, és az elfogadott szabályaid is szünetelnek.

Kétféleképpen tanul

Tanulni akkor a legjobb, amikor valami épp félrement, és még figyelsz. Az a tanulság, amely csak órákkal később jelenik meg egy panelen, már azután érkezik, hogy másodszor is csalódtál. Ezért két út van, és mindkettő ugyanazokat a feljegyzéseket és szabályokat táplálja.

Amit látsz, és amit visszavonhatsz

Az Amit észrevettem panel előre teszi a legfontosabb feljegyzéseket: amelyeket te mondtál, és amelyek több beszélgetésben is előjöttek, aszerint rangsorolva, hány beszélgetésben és milyen régen. A többi az Egyszer vagy ritkábban láttam csoportba kerül, összecsukva. Minden feljegyzésre válaszolhatsz: Igen, így van, Nem igazán vagy Legyen belőle szabály. Az elvetett feljegyzés megmarad, hogy ne javasolja újra. A Szabályaid alatt minden szabályt szerkeszthetsz, megújthatsz vagy visszavonhatsz, és egy szabály 90 nap után lejár, ha nem újítod meg. Az „alkalmazva” számláló azt mutatja, hányszor került a szabály az asszisztens elé, nem azt, hányszor tartotta be. Mellette azt is látod, mi történt azokban a fordulókban: tetszett, nem tetszett, leállítottad vagy javítottad. Az egészet exportálhatod.

  1. A beszélgetéseid felidézése Elérhető

    A fent leírt epizodikus memória: keresés és újraolvasás kérésre, valamint a forduló eleji felkínálás.

  2. Epizódok Béta

    Minden elcsendesedett beszélgetésből epizódfeljegyzés lesz, amely az eredetire mutat vissza: mi történt benne (Leállítások, hüvelykujjak, sikertelen eszközhívások), és egysoros összefoglaló. A Codumentor azt is rögzíti, mely szabályaid voltak szem előtt az egyes fordulókban, hogy később meg tudja ítélni, segített-e egy szabály. Ha törölsz egy beszélgetést, az epizódok közül is eltűnik.

  3. Amit észrevettem Béta

    A reakcióidból és a beszélgetéseken át ismétlődő dolgokból javasolt tanulságok, egy „Amit észrevettem” panelen. Semmin nem változtatnak, amíg nem teszel velük valamit.

  4. Szabályok, amelyeket jóváhagysz Béta

    A jóváhagyott feljegyzésből állandó szabály lesz. Lejár, ha nem újítod meg, visszavonható, és minden alkalom naplózódik, amikor az asszisztens elé kerül.

  5. Több, mint egy feljegyzés Kutatás

    Ma egy szabály csak egy feljegyzést tehet hozzá ahhoz, amit az asszisztens olvas. Az annál többet tevő szabályok, például módváltás vagy kérdés cselekvés előtt, és minden, ami nélküled cselekedne, továbbra is kutatás tárgya.

Semmi sem változtat a viselkedésen, amíg egy ember igent nem mondott rá.A terv vezérelve

A bétában ez az elv szigorúan érvényes. Minden szabály a te kattintásoddal kezdődik. Az egyetlen kivétel egy beállítás, amelyet te magad kapcsolsz be: A kimondott szabályaimat kérdés nélkül vegye fel alapértelmezés szerint ki van kapcsolva, és ha bekapcsolod, a kimondott szabályt azonnal felveszi, és egy Visszavonás gombbal mutatja. Ez az elv a kiindulópont, nem változtathatatlan ígéret. Ha a funkció megmutatja az értékét, és abból, amit az emberek elfogadnak, átírnak és visszavonnak, kiderül, hogy a javaslataiban meg lehet bízni, szűk, mért esetekben megengedhetjük, hogy magától cselekedjen. Ha ez megtörténik, ez az oldal meg fogja mondani, és minden szabályt továbbra is elolvashatsz és visszavonhatsz.

Ez az elv egy másikkal jár együtt: a memória befecskendezési csatorna. Egy weboldal vagy egy eszköz kimenete szolgálhat bizonyítékként egy állításhoz, de szabályt soha nem írhat. Egy emléknek, amely irányítja az asszisztenst, magasabb mércét kell megütnie, mint annak, amely csak tájékoztatja, és a terv erre a különbségre épül.

Ahol a hasonlat sántítAz agy úgy konszolidál, hogy nem kérdez meg. Ez hatékony, és egyben ettől lesznek az embereknek magabiztos tanulságaik három balszerencsés napból. A Codumentor konszolidációja szándékosan lassabb, mint egy agyé. Egy tanulságnak két külön beszélgetésben kell előjönnie, mielőtt egyáltalán feljegyzésként eléd kerülne, és minden levont szabályt elolvasol és jóváhagysz.
Szervezeti memória

Amit egy csapat tud, de egyetlen tagja sem

Daniel Wegner 1985-ben írta le a transzaktív memóriát: a párok és a csapatok szétosztják tagjaik között az emlékezést, és a csoport tudja, ki mit tud. A szervezetek ezt folyton elveszítik: amikor távozik az, aki tudta, miért van a számlázási modulnak két neve, vagy amikor egy döntés túléli mindazokat, akik meghozták. A legacy munka veszélyeinek nagy része ebből a fajta tudásból fakad. Nincs benne a kódban, és soha senki nem írta le.

A Codumentor szervezeti memóriája éppen ez a tudás: munka közben rögzítve, és akkor visszaadva, amikor a munkának szüksége van rá. A jegyzetek rögzítik szerzőjük szerepkörét, és a nagyobb jogkörű ember jegyzete többet számít. Minden jegyzet egy Git-repóban él, amely a csapatodé, és amelyet bármely más dokumentációhoz hasonlóan olvashattok. Egy jegyzetre lehet szavazni, vagy felülvizsgálatra jelölni, a kurátor pedig visszavonhatja azt a jegyzetet, amely már nem igaz.

Az adminisztrátor dönti el, hogy a szervezeti memória be van-e kapcsolva a telepítésetekben. Ha igen, memóriakártyákat látsz a beszélgetéseidben. A Szervezeti memória oldal leírja, hogyan olvasd őket, és hogyan javítják a szavazataid mindenki számára a tudásbázist.

Egy jó kolléga fejben tartja a feladatot, tudja, hogyan kell a munkát elvégezni, emlékszik, mit csináltatok együtt a múlt hónapban, és tudja, mit tanult meg a csapat, mielőtt bármelyikőtök odakerült. A Codumentorban mindegyikhez tartozik egy réteg, és mindegyik réteg úgy épül, hogy lásd, mit őriz.

A neveket a pszichológiától kölcsönöztük, mert jól leírják a formát. Igyekeztünk pontosan megmondani, hol ér véget ez a forma, mert az az emlékezet, amelyet elolvashatsz, kijavíthatsz és visszautasíthatsz, többet ér annál, amely csak hasonlít a miénkre.

Források

  1. Miller, G. A. (1956). The magical number seven, plus or minus two. Psychological Review, 63(2).
  2. Cowan, N. (2001). The magical number 4 in short-term memory. Behavioral and Brain Sciences, 24(1).
  3. Squire, L. R. (2004). Memory systems of the brain: a brief history and current perspective. Neurobiology of Learning and Memory, 82(3).
  4. Tulving, E. (1972). Episodic and semantic memory. In Organization of Memory. Academic Press.
  5. Ebbinghaus, H. (1885). Über das Gedächtnis. Duncker & Humblot.
  6. Bartlett, F. C. (1932). Remembering. Cambridge University Press.
  7. McClelland, J. L., McNaughton, B. L., & O'Reilly, R. C. (1995). Why there are complementary learning systems in the hippocampus and neocortex. Psychological Review, 102(3).
  8. Wegner, D. M. (1985). Transactive memory: a contemporary analysis of the group mind. In Theories of Group Behavior. Springer.
  9. Liu, N. F., et al. (2023). Lost in the middle: how language models use long contexts. arXiv:2307.03172.