Kutatás

Mesterséges intelligenciával generált szöveg

Az eszközhasználat nem pótolja a nagyobb nyelvi modelleket

A szerző azt érvel, hogy bár az eszközhasználat (webböngészés, kódvégrehajtás) lehetővé teszi kisebb modellek, például 1 milliárd paraméteres „kognitív mag” számára sok feladat megoldását, ez nem elegendő: a gyors, természetes és megbízható válaszadáshoz belső tudásra van szükség.

Az eszközhasználat nem pótolja a nagyobb nyelvi modelleket

A szerző azt érvel, hogy bár az eszközhasználat (webböngészés, kódvégrehajtás) lehetővé teszi kisebb modellek, például 1 milliárd paraméteres „kognitív mag” számára sok feladat megoldását, ez nem elegendő: a gyors, természetes és megbízható válaszadáshoz belső tudásra van szükség. Tapasztalati példaként a szerző a badmintontanulást hozza fel; szerinte még 1 billió paraméter (1T) sem biztos, hogy elég lesz, ezért hosszú távon a nagyobb modellek iránti igény fennmarad (hivatkozás: „Bitter lesson”).