Bejelentették, hogy Paul Christiano tagja lesz az OpenAI Foundation (OpenAI Alapítvány) igazgatótanácsának. Az OpenAI Group PBC igazgatótanácsán Paul nem szavazati jogú megfigyelőként vesz részt.
Biztonsági és védelmi bizottsági tagság
Paul emellett csatlakozik az Alapítvány Biztonsági és Védelmi Bizottságához (Safety and Security Committee, SSC), ahol Zico Kolter elnök mellett dolgozik. Az SSC az OpenAI egészére, így az OpenAI Group PBC-re is kiterjedő biztonsági és védelmi gyakorlatok irányításáért felel.
Szakmai háttér és tapasztalat
Paul Christiano kormányzati tapasztalatot hoz magával, amely két közigazgatás munkáját is érinti a National Institute of Standards and Technology (NIST) keretében működő Center for AI Standards and Innovation (CAISI) révén, ahol Senior Technical Advisor 1. CAISI-nél és elődjénél, az U.S. AI Safety Institute-nél Paul részt vett a határmodellek értékelésében, beleértve a nemzetbiztonsági következmények szempontjából releváns képességeket, valamint a kapcsolódó biztonsági és védelmi kockázatok csökkentésére irányuló megközelítések kidolgozásában.
Paul a Alignment Research Center (ARC) alapítója is, amely egy nonprofit kutatóintézet az előrehaladott MI-rendszerek emberi érdekekhez való igazítása terén. 2017 és 2021 között Paul az OpenAI-nál vezette az alignement (igazítás) kutatásokat, és alapvető hozzájárulást tett a reinforcement learning from human feedback (RLHF) módszertanához.
Miért számít ez
Az MI képességeinek gyors fejlődése miatt egyre fontosabb, hogy a technológiai előrelépésekhez erős biztonsági, védelmi, igazítási és irányítási gyakorlatok társuljanak. Paul Christiano karrierje az AI-alignment kutatásban olyan nézőpontot képvisel, amely komolyan veszi annak lehetőségét, hogy fejlett MI rendszerek katasztrofális kockázatot jelenthetnek, és hogy a fejlesztőknek előre fel kell készülniük, mielőtt a rendszerek veszélyesebb képességi szinteket érnének el. Az Alapítvány úgy ítéli meg, hogy az igazgatótanács erősebb olyan tagokkal, akik képesek megkérdőjelezni uralkodó feltételezéseket és hozzájárulni a bizonyítékok, az óvintézkedések és a számonkérhetőség megerősítéséhez.
Kapcsolódó háttér: recapitalizáció és felügyeleti áttekintések
Paul kinevezése az OpenAI 2025 októberi recapitalizációja során létrehozott irányítási struktúrára épít. Az irányítási keretet tovább erősítették a California Attorney General és a Delaware Attorney General egyéves vizsgálatai és a velük kapcsolatos kötelezettségvállalások.
Az Alapítvány szerepe
Az OpenAI Foundation jótékonysági szervezetként működik azzal a céllal, hogy az MI minden emberiség javát szolgálja. Az Alapítvány külön nonprofitként saját jótékonysági tevékenységet folytat, miközben kontrollt gyakorol és jelentős részesedéssel rendelkezik az OpenAI Group PBC-ben. Az Alapítvány tudományos felfedezéseket támogató, civil társadalmat erősítő és felelős MI révén rezilienciát építő kezdeményezéseket támogat adományokkal, partnerségekkel és más filantrópiai eszközökkel.
Összeférhetetlenség és visszalépés
Paul Christiano, mint Senior Technical Advisor, visszaléptetési kötelezettséget vállal: kizárja magát minden OpenAI-val kapcsolatos ügyből, valamint az összes modellértékelésből.
