Eszközök

Mesterséges intelligenciával generált szöveg

Gradio gr.Workflow: vizuális AI-pipeline-ok, REST-végpontok és egyszerű telepítés Hugging Face Spaces-re

A főszereplő a Gradio gr.Workflow modul, amely beépítve lehetővé teszi AI-pipeline-ok grafikus létrehozását és futtatását.

Gradio gr.Workflow: vizuális AI-pipeline-ok, REST-végpontok és egyszerű telepítés Hugging Face Spaces-re

A gr.Workflow a Gradio-ba beépítve a tipikus AI-alkalmazások központi elemét — a többlépéses pipeline-t — teszi magától értetődővé és interaktívvá. Ahelyett, hogy a lépéseket elszórtan Pythonban kötnénk össze és print-debugginggal keresnénk a hibát, a gr.Workflow a lépéseket típusos csomópontokból álló gráfként jeleníti meg, egy drag-and-drop vászonnal, ahol minden csomópont futtatható és minden köztes eredmény látható.

Mi történik a vásznon

A felhasználó egy grafot ír le: bemenetek (references), operátorok (operators) és kimenetek (subjects) kapcsolódnak egymáshoz típusos portokon keresztül. Egy operátor lehet saját Python-függvény (fn node), egy modell a Hugging Face Inference Providers-en, egy másik Gradio Space, vagy egy sor a Hugging Face Hub datasetből. A kapcsolatokat összekötve, a Run megnyomásakor minden eredmény a helyén jelenik meg.

Automatikus REST-végpontok és telepítés

Minden workflowból automatikusan REST API jön létre: a kimenetek címkéje alapján endpointok keletkeznek (például /sticker, /voiceover, /episode_title). Ezeket a végpontokat kódból is lehet hívni a Gradio klienssel, és a Space-ek egyparancsos deployolással felmehetnek a Hugging Face Spaces-re. Azok a végpontok, amelyek modellt vagy Space-et hívnak, Hugging Face tokent használnak, így a kliens létrehozásakor megadható a szükséges token.

Élő demók — mit lehet látni most

A beépített demók mind élő Hugging Face Spaces-ek, amelyeket meg lehet nyitni, futtatni és duplikálni.

  • Képszerkesztő: Feltöltesz egy képet és megadsz egy szerkesztést (például „téli jelenetté alakítsd”, „adj napszemüveget”, „tedd pirosra az autót”), a node pedig a Qwen-Image-Edit modellt hívja a Hugging Face Inference Providers-en, és visszaadja a szerkesztett képet.

  • AI Media Studio: Egy vásznon három párhuzamos pipeline: egy promptból FLUX-szal generált kép, amelyet egy háttéreltávolító Gradio Space-ből származó node matricává (sticker) alakít; ugyanarról a témáról egy text-to-speech Gradio Space készít voiceovert; és egy LLM node ír egy epizódcímet. A vásznon három külön output is létrejön (/sticker, /voiceover, /episode_title), amelyeket közvetlenül kódból is meghívhatsz.

  • Generative Art Lab: Egy ötletből egyszerre több kép generálódik: egy alapkép FLUX-szal, majd két újragondolás (akvarell jellegű és neon cyberpunk), valamint egy galériacím, amelyet LLM ír. Itt a fan-out minta látható: egy bemenet egyszerre több operátort táplál, amelyek párhuzamosan futnak.

  • Data Detective: Egy Hugging Face dataset ID (például stanfordnlp/imdb vagy mteb/tweet_sentiment_extraction) beírása után a bemenet négy operátorra ágazik szét, amelyek a Datasets Server API-t használva élő elemzést adnak: áttekintő kártya, első sorok előnézete, oszloponkénti statisztikák és eloszlásdiagram — mind független, párhuzamos számításként.

  • ZeroGPU Animator: Nem minden node hív külső szolgáltatást — egy fn node alapból Python, ezért lokálisan, a Space GPU-ján is futhat. Ha a bound függvényt @spaces.GPU dekorátorral látják el, akkor a ZeroGPU a hívás idejére lefoglalja a GPU-t, futtatja a modellt (például Lightricks/LTX-Video Diffusers-szal), majd felszabadítja. Ezen demo egy állóképet animál, és teljes egészében egy node-ból fut.

Hogyan néz ki a kódoldal

Minden workflow automatikusan API-végpontokat ad: az egyes outputok neve alapján lehet hívni őket a Gradio kliensből. A tokennel védett endpointok modellt vagy Space-et meghívó operátorok esetén igényelnek Hugging Face tokent a kliens létrehozásakor. Ha valaki gyorsan be szeretne ugrani, dupla a demó Space-eken a Duplicate gombra, majd át lehet építeni a gráfot. Pythonból a gr.Workflow kötésével és a launch() hívással néhány sor elég az induláshoz.

Összefoglalás

A gr.Workflow célja, hogy a többlépéses AI-alkalmazások pipeline-ját maga a felhasználói felület és az API legyen: vizuálisan szerkeszthető gráfok, futtatható köztes eredmények, automatikus REST-végpontok és egyszerű deploy Hugging Face Spaces-re. Mivel az operátorok lehetnek Python-függvények, Inference Providers modellek, más Gradio Space-ek vagy Hub dataset-sorok, a rendszer rugalmasan keveri a helyi és távoli erőforrásokat.

A Gradio ígérete szerint a következő posztban részletesen bemutatnak egy összetettebb példát (AUTOMATIC1111 újraépítése gr.Workflow-val).