Eszközök

Mesterséges intelligenciával generált szöveg

Automata ML-munkaerővel kis, olcsó képi és szövegmodelleket készítettek a Hugging Face eszközeivel

A főszereplő a HuggingChatben elérhető ML-intern ügynök, amely automatikusan tervezi, teszteli, tanítja és publikálja a modelleket a Hugging Face infrastruktúráján.

Automata ML-munkaerővel kis, olcsó képi és szövegmodelleket készítettek a Hugging Face eszközeivel

Egy felhasználó a HuggingChatben található ML‑intern ügynököt használva rövid idő alatt több kis és olcsó képi és szövegmodellt tervezett, betanított és közzétett a Hugging Face Hubon. A munkameneteket részletes promptokkal, költségkeretekkel, alapvonal‑mérésekkel és gyorsellenőrzésekkel irányította; a teljes projektcsomag számolt GPU/CPU költsége körülbelül 103 USD volt.

Mi történt és hogyan dolgozott az ML‑intern

A szerző kezdettől fogva a feladatot egy részletes, irányadó üzenettel indította a HuggingChat ML‑intern módjában. A promptok általában tartalmazták az ötletet, a pontos adatforrásokat, a kiinduló (base) modellt és a használandó tréning‑scriptet. A „Verified facts, do not re‑derive” (ellenőrzött tények, ne írja újra) című részgel elkerülte, hogy az ügynök pénzköltséget pazaroljon ismert információk újrafelfedezésére.

Két kitétel vált különösen fontossá a promptokban:

  • Alapalapmérés: a kiinduló modell nullamutatójának (zero‑shot) dokumentálása ugyanazon metrikán, hogy mérhető legyen a javulás.
  • Smoke test: egy rövid, olcsó próbarun és az ahhoz kapcsolódó ellenőrzés (például: 50 tréninglépés, majd ellenőrizni, hogy a súlyok változtak‑e) a teljes futtatás engedélyezése előtt.

A prompt végén szerepelt a várható deliverable‑lista és költséglimitek (például: „Cap total spend at USD 12 and ask me before exceeding it”). A ML‑intern minden feladatot nulla dolláros költségkerettel indít, és pénzes munkára csak engedély után költ, így a költségkorlátok szigorúan érvényesültek. A szerző minden promptot közzétett a GitHubon (yvrjsharma/ml‑intern‑prompts) az eredeti szöveg szerint.

Mit építettek: hat példa néhány nap alatt

Az alábbiakban a nyolc projekt importantabb részletei (modell, adat, számok és költségek) találhatók.

1) Citrus betegségfelismerő (citrus‑disease‑vlm‑instruct)

  • Adat: három Project‑AgML forrásból összefésült dataset, 3,017 annotált kép, 21 különböző kártevő/betegség/tápláltsági hiány és kezelési opció.
  • Kiinduló modell: Qwen3.5‑2B. Az ML‑intern előbb lemérte a kiinduló modell teljesítményét.
  • Eredmény: a kiinduló modell a 335 tesztképen 14.9%‑ban nevezte meg helyesen a problémát; finomhangolás után, két epoch után egy A10G‑n a finomhangolt modell 52.8%‑ot ért el.
  • Számítási költség: körülbelül USD 1.90.

2) Huggy karakterstílus LoRA

  • Adat: 84 feliratozott rajz a Chunte/huggy_for_training datasetből.
  • Kiinduló modell: FLUX.2 klein base 4B.
  • Módszer: a ML‑intern ellenőrizte több checkpoint viselkedését (stepenként mentve minden 100 lépésben) és kiválasztotta a legjobb checkpointot.
  • Eredmény: már 200 lépésnél „on‑model” Huggy, 500 lépéstől a stílus áttetszővé vált más promptokra is. A tréning LoRA működött a distillált klein modellen is.
  • Számítási költség: körülbelül USD 7.60.

3) Kamera‑nézőpont (camera‑angle) LoRA — Viewpoint Orbit

  • Adat: Google Scanned Objects‑ból 1,030 tárgy 24 kameranézetben, 24,722 átlátszó kép; végül 461 tárgyat választottak a tréninghez és 40‑et teszthez.
  • Kiinduló modell: Qwen‑Image 2.1.
  • Futtatás: 2,000 lépés ~90 perc egy A100‑on.
  • Projekt menedzsment: körülbelül fél nap, 48 munka (beleértve a hibás, újraindítandó jobokat).
  • Számítási költség: körülbelül USD 16.

Doodle‑in LoRA (kapcsolódó projekt)

  • Cél: magenta firka helyére egy objektum illesztése, megőrizve megvilágítást és kompozíciót.
  • Adatépítés: Open Images képeiből LaMa inpaintinggel eltávolított objektumok és kézzel létrehozott firkák; ML‑intern megírta és tesztelte a párosító scripteket, rögzítve minden forrás szerzőjét és licencét.
  • Méret: 6,042 tréningpár és 160 páros tesztkészlet (ebből 40 teszttétel 23 objektumosztályból, amelyek kimaradtak a tréningből).
  • Tréning: 2,000 lépés, 1 óra 38 perc egy A100‑on; kiválasztott checkpoint: step 500.
  • Teljesítmény: a Viggle turbo LoRA‑val párosítva 67.5%‑ban a tárgyak ott jelentek meg, ahol a firka volt, 4.7 másodperc/szerkesztés átlaggal. Az ismeretlen 23 osztály teljesítménye 65.0% volt (a többihez képest 64.2%).
  • Projektidő: kb. egy nap, 59 job.
  • Számítási költség: körülbelül USD 24.30.

4) Pocket Rewriter — kis, CPU‑barát átíró (0.8B és 2B student)

  • Kezdet: 8,797 rövid képleírást generáltak egy kis instruct modellel (Inference Providers), a Qwen9B hivatalos átíró tanármodell helyett. Egy A100‑on a 9B tanár átírta az összes példa‑kérést (2 óra 37 perc, ~USD 6.50).
  • Kiválasztás és tréning: minőségellenőrzés után 1,840 példát választottak, a 0.8B és 2B studenteket 12 illetve 18 perc alatt trenírozták egy A10G‑n (USD 0.75 mindkettőre). A 0.8B GGUF fájlmérete 812 MB – fut CPU‑n.
  • Idő és költség: a projekt ~11 óra, 24 job; számítási költség ~USD 16.05.

5) Agate Preview 002 — 4‑lépéses distilláció (Agate 4‑step)

  • Kiinduló modell: Logolabs' Agate Preview 002, 260M paraméter, böngészőben futtatható, de alapból 50 lépést igényel.
  • Cél: lépésszám csökkentése négyre, megtartva vagy javítva a minőséget.
  • Első futás: 155,000 képet cache‑ként latensekben, fokozatos lépéscsökkentés 16 → 8 → 4; a 4‑lépéses student jobban teljesített a teacher 4‑lépéses futásán GenEval és FID metrikákon; export ONNX‑ba a böngészőhöz. Ez ~13 óra, ~USD 22.
  • Második futás: további 24,000 kép párok készítése a 16‑lépéses tanárral és további finomhangolás ~1 óra; GenEval 0.509 → 0.536 (a tanár 0.563‑ával szemben 50 lépésen). Második futás ~8 óra. Összesen a két futás ~USD 37.

Összesített számítási költségek (szerző által jelzett job díjak)

  • Citrus Doctor (Qwen3.5‑2B): USD 1.90
  • Huggy LoRA (FLUX.2 klein base 4B): USD 7.60
  • Pocket rewriter (0.8B és 2B): USD 16.05
  • Viewpoint Orbit LoRA (Qwen‑Image 2.1): USD 16
  • Doodle‑in LoRA (Qwen‑Image 2.1): USD 24.30
  • Agate 4‑step (két futás, Agate Preview 002): USD 37
  • Teljesen: körülbelül USD 103

Ezek a számok a szerző által megadott GPU és CPU munkák díjai alapján szerepelnek.

Hogyan próbálhatod ki te is

Az ML‑intern elérhető a HuggingChatben: kapcsoljuk be az ML‑intern módot és illesszünk be egy promptot. A szerző példapromptjai szabadon másolhatók és kiindulási pontként használhatók. Ajánlott gyakorlatok:

  • Indulj egy létező modell ötletével és egy rendelkezésre álló, vagy leírható adathalmazzal.
  • Adj meg egy kis költségkeretet, kérj alapvonal‑mérést és smoke testet.
  • Olvasd át a válaszokat és csak ezután emeld a költségkeretet.

Ha valamit készítesz, a szerző arra biztat, hogy oszd meg X‑en és taggeld @Gradio és @HuggingFace fiókokat.

Záró megjegyzés

A példák azt mutatják, hogy részletes prompttervezéssel és egy automatizált ügynök használatával gyorsan, viszonylag kis költséggel lehet hasznos, kis méretű modelleket előállítani — legyen szó képi stílusokról, nézőpont‑váltásról, inpainting‑alapú szerkesztésről vagy modelldistillációról. A szerző minden részletet és promptot közzétett, így mások is lemásolhatják vagy továbbfejleszthetik a folyamatot.