BiztonságJack Clark: a mesterséges intelligencia ösztönözheti a kognitív teljesítménytJack Clark, az Anthropic munkatársa és társalapítója a közelmúltban az Aspen Institute rendezvényén azt hangsúlyozta, hogy a mesterséges intelligencia nem feltétlenül gyengíti az emberi gondolkodást, hanem akár segítheti annak fenntartását.1 perc olvasás
BiztonságAz ügynökökre épülő AI rendszerek új kihívásai: önfejlesztés, felelősség és világmodellekA Weekly AI Digest összeállítása az ügynökalapú mesterséges intelligencia újdonságaira és kockázataira fókuszál.4 perc olvasás
BiztonságPrincipal drift: az ügynökazonosság és felelősség eróziója vállalati rendszerekbenFőszereplőként a vállalati ügynökrendszerek és az azokat üzemeltető platform- és üzleti csapatok jelennek meg Shreshta Shyamsundar elemzésében.8 perc olvasás
BiztonságKínai nyílt forráskódú modellek gyorsuló fejlődése és az amerikai AI-biztonsági vitaA főszereplők a kínai nyílt forráskódú fejlesztések (például GLM-5.2), az amerikai cégek és szabályozók, valamint nemzetközi biztonsági szereplők, köztük a Five Eyes tagállamai.4 perc olvasás
BiztonságAI-páchék miatt törölték az AppleTalk támogatást a Linux kernelbőlA főszereplő Jakub Kicinski, a Linux hálózati alrendszerének karbantartója, aki a közelmúltban eltávolította az AppleTalk támogatását a mainline kernelből.2 perc olvasás
BiztonságA Meta felfüggesztette a munkavállalói viselkedést rögzítő Model Capability Initiative-et adatszivárgás miattA Meta Technologies Inc.2 perc olvasás
Biztonság„Szerep-zavar” mint prompt injection mechanizmus és a destyling hatásaiA kutatást Charles Ye, Jasmine Cui és Dylan Hadfield-Menell készítette, és a munkájuk a prompt injection problémakörét vizsgálja, különös tekintettel arra, hogy a nyelvi modellek miként különítik el a „privilegizált” belső szöveget a felhasználói inputtól.3 perc olvasás
BiztonságA „shadow AI” terjedése láthatatlan adat- és biztonsági kockázatot jelent a vállalatoknakA hír főszereplői a vállalatoknál megjelenő, ellenőrizetlen AI-használatot vizsgáló Sicontact Kft.6 perc olvasás
BiztonságNyílt forrású modell készült Claude Fable-5 viselkedésének leutánzásávalA történet központjában Taha K.2 perc olvasás
BiztonságPatch the Planet: Daybreak és Trail of Bits AI-támogatott kezdeményezése a nyílt forráskódú projektek biztonságáértA Daybreak a Trail of Bits együttműködésével elindította a Patch the Planet nevű kezdeményezést, amelynek célja a kritikus nyílt forráskódú szoftverek biztonságának megerősítése.6 perc olvasás
BiztonságBiztonsági és etikai aggályok: ChatGPT nemkívánatos erőszakos és szexuális képeket generálA brit Mindgard biztonsági startup kutatói megállapították, hogy a ChatGPT legfrissebb változata képes erőszakot és szexualitást tartalmazó képeket előállítani akkor is, ha a felhasználói utasítások nem kérnek ilyesmit.3 perc olvasás
BiztonságAnthropic Claude Fable 5 védelmi korlátai torzítják a benchmark-értékeléstAz Anthropic által publikusan elérhetővé tett Claude Fable 5 modellt több független értékelő szervezet sem tudta teljesen tesztelni, mert a rendszer előszűrő osztályozói bizonyos kéréseket elutasítottak vagy átirányítottak a gyengébb Claude Opus 4.8 modellhez.5 perc olvasás
