Modellbevezetés

Mesterséges intelligenciával generált szöveg

Claude 3: háromfokozatú modellcsalád nagy kontextussal, gyors válaszadással és biztonsági hangsúllyal

Az Anthropic bejelentette a Claude 3 modellcsaládot, amely három tagból áll: Claude 3 Haiku, Claude 3 Sonnet és Claude 3 Opus, növekvő képességi sorrendben.

Claude 3: háromfokozatú modellcsalád nagy kontextussal, gyors válaszadással és biztonsági hangsúllyal
  1. március 4-én az Anthropic bejelentette a Claude 3 modellsorozatot, amely három, különböző képességű változatból áll: Claude 3 Haiku, Claude 3 Sonnet és Claude 3 Opus. A család tagjai eltérő egyensúlyt kínálnak intelligencia, sebesség és költség között, így a felhasználók az adott feladathoz leginkább megfelelőt választhatják.

Elérhetőség és felhasználási környezet

Claude 3 Opus és Claude 3 Sonnet már elérhető a claude.ai felületén és a Claude API-n keresztül; az API mostantól általánosan hozzáférhető 159 országban. Claude 3 Haiku a bejelentés szerint hamarosan lesz elérhető. Sonnet jelenleg hajtja a claude.ai ingyenes élményét, Opus a Claude Pro előfizetők számára áll rendelkezésre. Sonnet elérhető továbbá Amazon Bedrockon és privát előnézetben a Google Cloud Vertex AI Model Garden szolgáltatásában; Opus és Haiku később kerülnek be ezekbe az integrációkba.

Miben különböznek a modellek?

  • Claude 3 Opus: a legmagasabb kapacitású modell, amely a cég szerint a legtöbb standard AI értékelési mérőn jobban teljesít, beleértve az MMLU (egyetemi szintű tudás), GPQA (graduális szintű érvelés) és GSM8K (alap matematikai feladatok) teszteket. Az Opus célzott felhasználási területei közé tartozik a komplex feladatok automatizálása, kutatás és fejlesztés, stratégiai elemzés és előrejelzés. Költségei: input $15/millió token, output $75/millió token. Alap kontextusablak: 200K token; bizonyos esetekben 1M token elérhető.

  • Claude 3 Sonnet: a teljesítmény és a sebesség kiegyensúlyozott kombinációját nyújtja, különösen vállalati munkafolyamatokhoz. Költséghatékonyabb nagy léptékű alkalmazásokhoz. Költségei: input $3/millió token, output $15/millió token. Kontextusablak: 200K token. Javasolt felhasználások: nagy tudásbázisok feletti keresés és visszakeresés (RAG), értékesítés támogatása, kódgenerálás és képekből szöveg kinyerése.

  • Claude 3 Haiku: a leggyorsabb és legkisebb modell, amelyet azonnali válaszokat igénylő interakciókra optimalizáltak. Költségei: input $0.25/millió token, output $1.25/millió token. Kontextusablak: 200K token. Elsősorban ügyfélkommunikáció, gyors fordítások, moderáció és költségcsökkentő feladatok célszerűk számára.

Teljesítmény, pontosság és késleltetés

Az Anthropic azt állítja, hogy a Claude 3 modellek gyors, közel valós idejű válaszadást biztosítanak: Haiku a leggyorsabb a kategóriájában, és képes egy ~10k tokenes, ábrákat és táblázatokat tartalmazó arXiv kutatási cikk feldolgozására kevesebb mint három másodperc alatt. Sonnet átlagosan kétszer gyorsabb, mint a Claude 2 és Claude 2.1 ugyanazon munkaterhelések többségében, miközben magasabb intelligenciaszintet tart fenn; Opus hasonló sebességet nyújt, de lényegesen nagyobb teljesítménnyel.

A cég hangsúlyozza az általános pontosság javulását: egy összetett, tényalapú kérdéshalmazon Opus kétszer több helyes választ adott, mint a Claude 2.1 viszonylatában, miközben csökkent a helytelen válaszok aránya. Emellett bejelentették, hogy hamarosan lehetővé teszik a modellek számára a források konkrét mondatokra történő hivatkozását (citations) a válaszok ellenőrizhetősége érdekében.

Hosszú kontextus és visszaidézési képesség

A Claude 3 modellek a bevezetéskor 200K tokenes kontextusablakot kínálnak; mindhárom modell azonban képes egymilliónál is nagyobb bemenetek fogadására, és a cég jelezte, hogy ezt néhány kiválasztott ügyfél számára elérhetővé tehetik. A 'Needle In A Haystack' (NIAH) teszten Claude 3 Opus közel tökéletes visszaidézési pontosságot ért el (több mint 99%), és bizonyos esetekben felismerte a teszt korlátait is, például hogy egy mondat mesterségesen lett beszúrván a forrásanyagba.

Látás (vision) és többmodalitás

A Claude 3 modellek fejlett látásalapú képességekkel rendelkeznek: képesek képek, diagramok, táblázatok és technikai ábrák feldolgozására. Ez különösen fontos vállalati ügyfelek számára, ahol a tudásbázisok egy részét PDF-ek, folyamatábrák vagy prezentációs diafájlok formájában tárolják.

Válaszmegtagadások és elfogultságok kezelése

Az előző Claude-generációkhoz képest a Claude 3 modellek ritkábban utasítanak vissza olyan kéréseket, amelyek csak részben érintik a rendszer biztonsági korlátait; a cég szerint a modellek árnyaltabban különböztetik meg a valós kárt jelentő és ártalmatlan kéréseket. Ugyanakkor az Anthropic aktívan dolgozik a torzítások csökkentésén: a modellek a Bias Benchmark for Question Answering (BBQ) mérő szerint kevesebb elfogultságot mutatnak, mint korábbi változatok.

Felelős fejlesztés és biztonság

Anthropic részletes kockázatkövetési és enyhítési munkát végez olyan területeken, mint félretájékoztatás, CSAM, biológiai visszaélések, választási beavatkozás és autonóm replikációs képességek. A Claude 3 család jelenleg az Anthropic által meghatározott AI Safety Level 2 (ASL-2) kategóriába esik a Responsible Scaling Policy alapján, és a red teaming vizsgálatok — beleértve a vállalat White House-hoz fűződő kötelezettségvállalásaival és az amerikai 2023-as elnöki rendelettel összhangban végzett értékeléseket — jelenleg elhanyagolható kockázatot mutattak a katasztrofális következmények szempontjából. A cég ígérete szerint tovább figyelik, hogy a későbbi modellek mikor közelítik meg az ASL-3 küszöbét.

Használhatóság és fejlesztői funkciók

A Claude 3 modellek jobbak a többlépéses utasítások követésében, márkahang és válaszstílus tartásában, és népszerű strukturált kimeneti formátumokban (például JSON) történő válaszadásban. A közeljövőben a cég további funkciókat ígér, többek között Tool Use (function calling), interaktív kódolást (REPL) és fejlettebb agenti képességeket a vállalati és nagyszabású telepítések támogatására.

Összefoglalás

A Claude 3 család célja, hogy különböző felhasználási esetekre kínáljon skalázható megoldásokat: Haiku a leggyorsabb és legolcsóbb az azonnali válaszokra, Sonnet a költséghatékony skálázáshoz, Opus pedig a legmagasabb szintű intelligenciát kínálja. A bejelentés hangsúlyozza a hosszú kontextusú feldolgozás képességét, a gyors válaszidőket, a jobb pontosságot és a biztonsági intézkedések folyamatos fejlesztését.