Az OpenAI frissítette a nyilvános Model Spec dokumentumát, amely leírja, hogyan szeretnék, hogy a modelljeik viselkedjenek. A változtatás központi eleme az iránymutatás újrarendezése öt átfogó érték köré: hűség az emberi szándékhoz (faithfulness to human intent), kárminimalizálás (harm minimization), őszinteség és átláthatóság (honesty and transparency), az emberi cselekvőképesség elősegítése (human agency) és gondosság (care).
A frissítés célja, hogy a modellek ne csak a közvetlen utasítások szó szerinti végrehajtására korlátozódjanak, hanem jobban értsék az emberek szándékait és értékeit. Ez fontos akkor, amikor a modellek bonyolult, következményekkel járó döntéseket hoznak vagy olyan helyzetekkel találkoznak, amelyeket az utasítások nem fednek le egyértelműen.
Mit tartalmaz a változás?
- Az új szerkezet az öt említett érték köré rendezi a Spec iránymutatásait: az emberi célok szolgálatát, az igazmondást, a kár minimalizálását, a személyek szabadságának tiszteletben tartását és a rászorulók körülményeinek figyelembevételét.
- A dokumentum világosabban magyarázza a korábbi alapelveket, bővíti az ügyrenddel, kontextussal és cselekvőképességgel kapcsolatos útmutatást, illetve néhány viselkedési alapértelmezést módosít.
- A részletes stílusútmutatók nagy részét visszavonták: a stílusnak a felhasználói preferenciákhoz és a kontextushoz kell igazodnia, miközben néhány erősebb alapértelmezés, például az objektív megközelítés megmarad.
- A Spec a korábbi „the assistant” kifejezés helyett immár a „GPT” elnevezést használja, tükrözve a modellek használati és bevetési körének bővülését.
Az emberi szándék hűsége mint alapelv
Az OpenAI hangsúlyozza, hogy az emberi szándékok megértése az új megközelítés alapja. A Spec szerint az utasítások általában a legvilágosabb jelzések arra vonatkozóan, mit értékel egy felhasználó vagy fejlesztő, de a modellnek képesnek kell lennie mélyebben is feltérképezni ezek mögötti célokat és értékeket, különösen ha az információ hiányos. Ugyanakkor fontos, hogy a modell ne manipulálja a felhasználókat, és ne írja felül csendben a döntéseiket; segítenie kell a reflektálásban és a növekedésben olyan módon, amelyet a felhasználó jóváhagyna.
A dokumentum beépítette az úgynevezett parancsnoki lánc (chain of command) frissített értelmezését, amely ismerteti, mely utasítások érvényesek és hogyan kell feloldani az esetleges ütközéseket. Új alfejezet magyarázza, hogyan használják a beszélgetések, emlékek és egyéb kontextuális bizonyítékok a felhasználói szándék és preferenciák értelmezését.
A többi érték röviden
- Kárminimalizálás: szigorú biztonsági határok betartása és a modell cselekedeteinek előrelátható következményeinek figyelembevétele.
- Őszinteség és átláthatóság: egyértelmű kommunikatív viselkedés arról, mit tud a modell, mit tesz, és miben bizonytalan, hogy a felhasználók értékelni tudják az érvelést és a munkát.
- Az emberi cselekvőképesség erősítése: a felhasználók képességeinek, döntéseinek és önálló cselekvésének támogatása.
- Gondosság: a munkavégzés során figyelembe venni az érintettek körülményeit, követni a releváns társadalmi és szakmai normákat, és megbízható eredményt nyújtani.
A Spec ezekből az értékekből gyakorlati útmutatást alakít ki: ahol szükséges, határozott korlátokat vezet be a társadalom védelme érdekében; egyébként alapértelmezéseket határoz meg, amelyeket a fejlesztők és felhasználók felülírhatnak.
Képzés és további fejlesztés
A frissítéssel párhuzamosan az OpenAI új képzési módszereket vizsgál annak érdekében, hogy a modellek jobban elsajátítsák ezeket az alapértékeket és a Spec viselkedési elveit. A cél egy olyan belső megértés kialakítása, hogy a modellek "a megfelelő dolgokat a megfelelő okokból" tegyék: hogy következetes ítélőképességet nyújtsanak komoly következményekkel járó döntésekben, és gondosságot a mindennapi döntésekben. Az OpenAI ígéri, hogy a képzési munkáról és tanulságokról későbbi frissítésekben számol be.
Mi változott még és mi maradt nyitva
A Spec átdolgozása során az OpenAI azonosította, hol van szükség további útmutatásra, új elveket vezetett be és hol kellett meglévő iránymutatásokat módosítani vagy visszavonni. A részletes stílusutasítások többségét kivonták, ugyanakkor néhány erősebb alapértelmezés, mint az objektivitás, megmarad. A dokumentum hangsúlyozza, hogy a modellek jelenleg még nem tükrözik teljesen az új Specet — a Spec a célhoz vezető viselkedést írja le, és mind a Spec, mind a modellek továbbfejlesztésre kerülnek kutatás, valós felhasználás és visszajelzések alapján.
Felhívás véleményekre
Az OpenAI kéri az olvasókat, hogy osszák meg, mely részeket tartják meggyőzőnek, mivel nem értenek egyet, és mit hagy ki vagy nem magyaráz eléggé. A visszajelzés a megfogalmazásról, az értékek közötti egyensúlyról és az alkalmazott kompromisszumokról segíthet a Spec további javításában. A frissített Model Spec elérhető nyilvánosan, és az OpenAI várja a nézőpontokat és visszajelzéseket.
