Szerző: Jeremy Arendt
Az adatokról folytatott beszédmód gyorsabban változik, mint maguk a megoldások: negyedévente felbukkan egy új megközelítés, egy új kifejezés, vagy egy beszállító átvéve mások megnevezését a saját termékéhez igazítja azt. Ez nem rosszindulatú jelenség: minden vállalat onnan írja le a tájat, ahol épp áll. A probléma akkor kezdődik, ha ugyanannak a szónak hat különböző értelmezését kell lefordítani a gyakorlati tervezés megkezdése előtt.
Másrészt a szemantikus korszak adatnyelvének egy része olyan akadémiai területekről érkezik, amelyekben kevesen dolgozó szakemberek nem töltöttek sok időt. A „data warehouse” azonnal érthető mindenki számára, míg az „ontology” filozófiából és tudásmérnökségből származik: Tom Gruber 1993-ban definiálta az ontológiát „a fogalmi leképezés explicit specifikációjaként”. Pontos, de kevéssé hasznos egy igazgató számára, aki azt próbálja eldönteni, mit finanszírozzon a következő negyedévben.
A következőkben egy gyakorlati munkaszótár szerepel azoknak, akik ténylegesen bevezetik ezeket a technológiákat, és azoknak, akik jóváhagyják a költségvetéseket. Minden kifejezésnél három kérdésre válaszolok: mi az valójában — szoftver, artefaktum vagy gyakorlat; milyen feladatot lát el; és milyen típusú kimenetre szolgál. Az utolsó kérdéshez először a kimenetek két alapvető típusát tisztázzuk.
Determinisztikus és valószínűségi (probabilitás alapú) kimenetek
Determininsztikus kimenet esetén ugyanarra a kérdésre mindig ugyanaz a válasz jön vissza. Például: "Mi volt az ARR az elmúlt tizenkét hónapban?" — függetlenül attól, hogy dashboardba, API-hívásba, Excel munkafüzetbe vagy AI ágenshez megy a kérdés, az eredménynek azonosnak kell lennie. Determinisztikus kimeneteknek nyomon követhető a származása: megmutatható a számítás, és végigvezethető valaki számára.
Probabilitás alapú kimenetet adnak azok a rendszerek, amelyek eredetileg nem-determinisztikusak. Ha a kérdést megváltoztatjuk (például "Hogyan tudjuk növelni az ARR-t a következő tizenkét hónapban?"), ugyanaz a modell két egymás utáni futtatásnál különböző válaszokat adhat. Ez nem hiba: a nagy nyelvi modellek milliárdoknyi paraméteren előrejelznek token-sorozatokat, és az output futásonként változik.
Egyik megközelítés sem jobb a másiknál; mindkettő szükséges. A tipikus hibamód az, amikor determinisztikus választ várunk egy probabilisztikus rendszertől úgy, hogy nem is tudjuk, mit kérünk. A területen sok fogalom pont ezt a problémát próbálja megoldani: hogyan építsünk elég szerkezetet probabilisztikus rendszerek köré, hogy determinisztikus eredményt adjanak, amikor erre szükség van.
Szemantikus réteg (semantic layer)
A szemantikus rétegről többször írtam korábban: röviden, olyan szoftverezésről van szó, amely az adataid és az azokat fogyasztó emberek/eszközök közé illeszkedik, és egyetlen, megbízható, szabályozott helyet nyújt a metrikákhoz.
Három fő dolgot tart fenn:
- definíciók: hogyan számoljuk ezt az üzleti metrikát;
- kontextus: mit tartalmaz egy modell vagy oszlop, és mire használjuk általában;
- kapcsolatok: hogyan illeszkednek össze az adatok.
A modern eszközök ennél többet is hoznak (pl. lekérdezés-motort, cache-t, központi hozzáférés-kezelést), de a definíciók, a kontextus és a kapcsolatok a lényeg. MI szempontjából azért fontos, mert lehetővé teszi, hogy egy ügynök "navigáljon" az adatok között ahelyett, hogy probabilisztikusan próbálna következtetni rájuk. Például ARR lekérdezésekor az ágens a szemantikus rétegből veszi a definíciót, és ugyanazt a számot adja vissza minden alkalommal — determinisztikus válasz probabilisztikus eszközön keresztül.
A Gartner előrejelzése szerint a "univerzális szemantikus rétegeket" 2030-ra kritikus infrastruktúrának tekintik majd, a data platformok és a kiberbiztonság mellett.
Ontológia (ontology)
Az "ontológia" kifejezés gyakran képes megbénítani egy megbeszélést. Palantir tette kereskedelmileg ismertté, miközben a mögöttes koncepció évtizedes akadémiai munkából származik arról, hogyan írjuk le formálisan a dolgokat és azok kapcsolatait.
A legegyszerűbb különbség a szemantikus réteghez képest: a szemantikus réteg arra válaszol, hogy "mit jelent ez a szám és hogyan számoljuk ki?"; az ontológia pedig arra, hogy "milyen dolgok léteznek ebben az üzletben és hogyan kapcsolódnak egymáshoz?"
A szemantikus réteg metrika-központú (mérések, dimenziók, logika), az ontológia entitás-központú (ügyfél, megrendelés, szállítmány, telephely, beszállító és azok viszonya, valamint a működésüket szabályozó szabályok). A metszet a kapcsolatokban él: mindkettő leírja, hogyan kapcsolódnak a dolgok, és egyre több beszállító szállítja mindkét képességet egy termékben, ezért a kifejezések elmosódnak.
Gyakorlatias szempontból: ha a feladat az, hogy következetes számokat biztosítsunk minden riportoló eszköz számára, a szemantikus réteg a kulcs. Ha az ágensnek üzleti objektumokról kell következtetnie és cselekednie (nem csak riportolni), az ontológia adja meg a világmodelljét.
Fontos tisztázás: az ontológia nem szoftver; egy modellezett artefaktum, amelyet egy szervezet ír és tart karban. A szoftver szolgáltatja, de az érték a modellezés munkájában van.
Tudásgráf (knowledge graph)
Ha az ontológia a sémád, a tudásgráf azt a sémát valós adatokkal feltöltve jelenti. Az ontológia kijelenti, hogy egy ügyfél lead egy megrendelést, a megrendelés tételsorokat tartalmaz. A tudásgráf a valós ügyfeleket, valós megrendeléseket és a köztük lévő éleket tárolja, csomópontokként és relációkként, nem sorokként és oszlopokként.
Mikor érdemes gráfot használni a szemantikus réteg helyett? A warehouse-ok és a szemantikus rétegek kiválóak aggregációra (mennyi, hány, mikor), a gráfok kiválóak kapcsolódásra (mi kapcsolódik mihez és milyen távolságra). Példák: "Mely beszállítók két lépésre vannak ettől a késedelmes szállítástól?", vagy "Mely fiókoknak közös tényleges tulajdonosa van?". Ezek gráf-kérdések; meg lehet válaszolni SQL-lel is, de nem lesz élvezetes.
A gráf-traverzálás determinisztikus: ugyanarra a gráfra és ugyanarra a lekérdezésre mindig ugyanaz az út adódik, ezért jó grounding egy ágens számára. A kapcsolatok modellezett tények, nem a futásidőben végzett következtetések.
A tudásgráf nem helyettesíti a szemantikus réteget; más kérdésekre ad választ, és érett architektúrákban egyre inkább mindkettő fut.
Kontextus
A "kontextus" jelenleg az egyik legtúlhasználtabb szó, ezért érdemes részekre bontani.
-
Determinisztikus kontextus: metaadatok, amelyek a szemantikus rétegben vagy ontológiában élnek — mezők leírása, metrika-definíciók, objektum kapcsolatok, üzleti szabályok, kizárási logika. Korábban ezek dokumentációk voltak, amelyek hamar elavultak, mert nem történt közvetlen következmény, ha nem frissítették őket. Most egy ágens lekérdezéskor használhatja őket, így funkcionális infrastruktúrává lépnek elő: verziózottak, felülvizsgáltak és következetesen olvashatók. Ez egy karbantartandó eszköz.
-
Futásidejű (runtime) kontextus: amit egy ágens az inferencia pillanatában összegyűjt — rendszerprompt, beszélgetési előzmények, visszakeresett dokumentumok, eszközök kimenetei. Ephemer jellegű, és közvetlenül befolyásolja a választ: ugyanaz a kérdés, más kontextusablak, más output.
Továbbá:
- Strukturált kontextus: szabályozott adatok — oszlopok, metrikák, entitások, kapcsolatok.
- Strukturálatlan kontextus: szabályzatok PDF-ekben, szerződések, támogatási jegyek, wiki-oldalak — ezek a számok mögötti gondolkodást tartalmazzák és általában hasonlóságkereséssel kerülnek elő, azaz probabilisztikus viselkedést hoznak magukkal.
Gyakorlati szabály: ha valaki azt mondja, az eszköze "context aware", kérdezd meg, melyik fajta kontextusról van szó. A determinisztikus kontextus teszi ismételhetővé a választ; a futásidejű kontextus teszi relevánssá. Ezek összekeverése ahhoz vezet, hogy egy csapat olyan válaszban bízik meg, amely csak egy adott prompt esetén volt igaz.
Observability (megfigyelhetőség)
Az observability az a telemetria, amely megmondja, hogy a rendszereid továbbra is azt csinálják-e, amit hiszel róluk. Nem ugyanaz, mint az adathatásosság (data quality), ami a szám helyességére vonatkozó ítélet, és nem ugyanaz, mint a tesztelés, ami előre megírt ellenőrzés egy előre látott hibamódra. Az observability olyan instrumentáció, amely lehetővé teszi a kérdést: "még mindig működik-e ez?", anélkül, hogy az adott módon eltörésre előre fel kellett volna készülni.
Determininsztikus oldalon ez ismerős: frissesség, sorok száma, sémaváltozások, null-arány, munkák hibái, és a lineage hatása. Ha az ARR-nek 6:00-kor kell frissülnie és ma nem tette, azt szeretnéd tudni, mielőtt a CFO értesül.
Probabilitás oldalról nehezebb: gyakran nincs észlelhető hiba; a rendszer folyékony, életszerű választ ad, ami mégis rossz. Itt a monitoring: időbeli értékelési készletek, eszköz-hívás sikerességi arányok, lekérés relevanciája, elutasítások és fallback-ek aránya, késleltetés, költség/lekerdezés és strukturált emberi visszajelzés.
Itt lép be a drift fogalma. Drift akkor történik, amikor a világ változik a rendszertől függetlenül: adatdrift — a bemenetek eltolódása (új üzleti egység, megrendelésvolumen megtriplázódása, nullok megjelenése egy mezőben); modeldrift — a viselkedés megváltozása (provider új modellt ad ki, vagy változik egy prompt sablon). Determinisztikus rendszerek általában hangosan hibáznak; probabilisztikus rendszerek csendben. Observability az, amellyel a csendes hibákat elkapod.
Összefoglaló munkaszótár
- Determinisztikus kimenet: ugyanaz a válasz ugyanarra a kérdésre minden alkalommal, nyomon követhető számítással.
- Probabilitás alapú kimenet: futásonként eltérő válasz, előrejelzésen alapuló eredmény.
- Szemantikus réteg: szoftver, amely tárolja a definíciókat, kontextust és kapcsolódásokat, és következetesen szolgáltatja azokat downstream eszközöknek.
- Ontológia: a vállalkozás objektumainak, kapcsolataiknak és szabályainak modellezése (artefaktum, nem maga a szoftver).
- Tudásgráf: ontológia valós adatokkal feltöltve, csomópontok és élek formájában, hogy a rendszerek követni tudják a kapcsolatokat.
- Kontextus: az információ, amely a helyes adatfelhasználáshoz kell, lehet szabályozott (szemantikus modell) vagy futásidejű (ágens által összegyűjtött).
- Observability: a telemetria, amely megmondja, hogy az adati és AI rendszerek továbbra is azt csinálják-e, amit feltételezel róluk.
Ha ezt a listát sorrendben olvassuk, nyilvánvalóvá válik: ezek nem versengő termékek, hanem rétegek. Az ontológia leírja, mi létezik; a tudásgráf tárolja az instanciákat; a szemantikus réteg definiálja a mértékeket; a kontextus az, ahogyan bármelyik modellhez eljut; és az observability megmutatja, mikor hagy fel a működés. A kifejezések összekeveredésének oka gyakran az, hogy a piacon helyettesítőként árulják őket, miközben a gyakorlatban egymásra épülnek.
A szókészlet tovább fog mozogni: két év múlva néhány szó terméknevekbe épülhet, és kissé más értelemmel bírhat majd. Ez rendben van, amíg a csapatod közösen válaszol két kérdésre bármely kifejezés kapcsán: mi az valójában — szoftver, artefaktum vagy gyakorlat? És milyen típusú kimenetet szolgál — determinisztikus vagy probabilisztikus? Ezek a kérdések sok zajt átvágnak. Egyetértés a kifejezésekben után az architektúra vitái gyorsabban rendeződnek.
