Az Ultrafast a Codex egy nagysebességű működési módja, amely az OpenAI mérnökei számára hamarosan alapértelmezett eszközzé vált incidensek kezelésénél. A technológia arra szolgál, hogy amikor valami elromlik, ne kelljen perceket várni egyetlen kérdés megválaszolására miközben a probléma súlyosbodik: Ultrafast segítségével egyszerre vizsgálhatók több lehetséges okok és források, és a válaszok valós időhöz közeli sebességgel érkeznek.
Hogyan használják a csapatok
Aaron Friel, Member of the Technical Staff, rendszerint ő koordinálja az incidenseket: létrehoz egy Slack csatornát, és a Codexre bízza a monitorozást, a vizsgálatot és a beérkező kérdések megválaszolását. „Egy incidens során általában sok lehetséges ugrás van, hogy mi ment rosszul, és a csatornán dolgozók fő feladata megtalálni a megfelelő tűt a szénakazalban” — mondja. Ultrafast használatával egyszerre lehet átnézni ezeket a 'szénakazlakat', és gyorsabban válaszolni.
AJ Trbojevic, Member of the Technical Staff és Datacenter Security Architect, arról számolt be, hogy a biztonsági vizsgálatok korábban egy-két órát vettek igénybe az strukturált és strukturálatlan adatok összegyűjtéséhez, normalizálásához és kontextusba helyezéséhez. „Most ez 10–15 perc alatt történik meg” — mondja —, és időnként a válaszadás közel valós idejű.
Adam Perry és Sayan Sisodiya, a Core Agent csapat tagjai, akik a Codex parancsvégrehajtó és eszközhasználati képességeit fejlesztik, szintén tapasztalták a változást. Adam korábban gyakran párhuzamosan nézett rá egy problémára és maga is elindította a vizsgálatot, mivel nem volt elég gyors a rendszer. Ultrafast nyomán most már elég gyors a Codex ahhoz, hogy ne kelljen megosztani a figyelmét.
Sayan kiemeli, hogy az Ultrafastkal egyszerre kaphat azonnali válaszokat több adatforrásból: nemcsak naplókat böngész, hanem Slack-üzeneteket is átvizsgál, hogy talál-e utalást gyanús változásokra vagy más csatornákon felmerülő hasonló tünetekre.
Rövidebb várakozás, folyamatos fókusz
Jeff Niu, Member of the Technical Staff, azt mondja, ha több mint 30 másodpercbe telt megtalálni a választ AI segítségével, akkor inkább Slacket nézett vagy kollégával beszélt. Ultrafast miatt a munkája többségében az említett küszöb alá esik. Korábban kérdezett a Codextől, majd átváltott más feladatra, és mire visszatért, elvesztette a gondolatmenetét. A mostani, közel valós idejű párbeszéd megtartja a folyamatosságot.
Több refaktor, kevesebb ellenállás
Az Ultrafast hatása túlnyúlik az incidenskezelésen: Jeff szerint a gyorsabb kódgenerálás és ellenőrzés miatt bátrabban vállalnak nagyszabású refaktorokat. „A technikai adósság most sokkal könnyebben törleszthető” — fogalmazott. Amit korábban sok időbe és erőforrásba került, az most gyakorlatilag azonnal megtörténhet.
Adam egy folyamatos Codex-szálat tart fenn, amit 'chief of staff'-ként használ: reggelről összegzést kap a naptáráról és arról, mely üzenetekre felejtett válaszolni. Mivel a szál már előre átnézte az adatokat, a kiegészítő kérdések megválaszolása nem igényel további adatlekérést — így a beszélgetés folyamatos marad.
Sayan a böngészőben végzett monoton, manuális feladatokat is Codexre bízza (űrlapkitöltés, kattintások), amit korábban kerülni próbált azért, mert lassúnak érezte: a folyamat megállt néhány másodpercre minden lépésnél. A modellek számítógépes használatának javulása óta bízik abban, hogy a Codex gyorsan végrehajtja ezeket a lépéseket, és nem veszít időt azzal, hogy maga csinálja.
Milyen változást hoz ez a munkamódban?
Összességében az Ultrafast lehetővé teszi az OpenAI Technical Staff számára, hogy a kérdéseik sebességével dolgozzanak együtt a Codexszel: gyorsan kövessenek egy választ, kipróbáljanak más megközelítést, és ne veszítsék el a fonalat. A rövidebb várakozási idő megváltoztatja, mit vállalnak — legyen az egy régóta halogatott refaktor vagy egy rutinfeladat, amely most már megéri delegálni a Codexnek.
