BiztonságAI a szervezetben: üzleti gyorsító vagy információbiztonsági kockázat?Kuti Anita, a p2m Cégcsoport Információbiztonsági szakterületének vezetője az AI Business konferencián azt hangsúlyozta, hogy a mesterséges intelligencia már jelen van a munkahelyeken, gyakran azonban nem jóváhagyott módon, ún.3 perc olvasás
BiztonságAz ügynökökre épülő kódolás túlértékelt kockázataiA fejlesztői közösség és a technológiai ipar körében elterjedt az úgynevezett ügynökökkel történő kódolás, de a cikk szerint ez egy túlértékelt csapda: a napjainkban felerősödő felkapottság téves…1 perc olvasás
BiztonságClaude's Constitution mostantól hangoskönyvként Amanda Askell és Joe Carlsmith előadásábanClaude's Constitution hangoskönyvként jelent meg, amelyet két szerzője, Amanda Askell és Joe Carlsmith olvas fel; a kiadás kérdezz‑felelek részt is tartalmaz az írási folyamatról, a dokumentumot…1 perc olvasás
BiztonságAnthropic Mythos felfedezései miatt aggódnak a pénzügyi vezetők és a kiberbiztonsági szakmaA főszereplő az Anthropic által fejlesztett, még kiadásra nem került Claude Mythos Preview nyelvi modell, amelyről beszámolók szerint több ezer nulladik napi sebezhetőséget talált nagy operációs rendszerekben és böngészőkben.2 perc olvasás
BiztonságAz AI uralja az internetforgalmat, növekvő rosszindulatú botfenyegetésselA Thales francia technológiai vállalat 2026 Bad Bot Report: Bad Bots in the Agentic Age című jelentése szerint a mesterséges intelligencia (AI) mára a teljes internetes forgalom több mint felét generálja, és ezekből az automatizált forgalmak kb.2 perc olvasás
BiztonságKeleti Artúr: a titok kontextusa, az AI kettős szerepe és a digitális szuverenitás kihívásaiA beszélgetés középpontjában Keleti Artúr kiberbiztonsági szakértő, az ország legnagyobb IT-biztonsági konferenciájának alapítója áll, akivel Zsiborás Gergő a Forbes Deal podcastban a titok valódi természetéről, az adatvédelem absztrakciójáról és az AI kockázatairól beszélt.4 perc olvasás
BiztonságA CoT-értékelés megelőzésének beépítése a modellképzésbeA fejlesztőcsapat szerint a Chain-of-Thought (CoT) értékelés megelőzését a modellképzés folyamatába kell építeni; ezért javítják a valós idejű CoT-észlelést, védekező intézkedéseket a véletlen…1 perc olvasás
BiztonságCoT-alapú jutalmazás rontja a modellek megfigyelhetőségétKutatók azt jelzik, hogy a Chain-of-Thought (CoT) nyomok közvetlen jutalmazása vagy büntetése csökkenti a modellek érvelési jeleinek informatív értékét, nehezítve a félreilleszkedés (misalignment) felismerését; ezért elkerülendő a CoT-értékelés.1 perc olvasás
BiztonságHárom külső AI-biztonsági szervezet visszajelzést adott az elemzésrőlHárom harmadik félként működő AI-biztonsági szervezet (@redwood_ai, @apolloaievals, @METR_Evals) visszajelzést adott a közzétett elemzésről; a @redwood_ai jelentése elérhető.1 perc olvasás
BiztonságChain-of-thought monitorok szerepe: védelem a mesterséges intelligencia eltérése ellen és véletlen értékelési hiba feltárásaA közlemény szerint a chain-of-thought (CoT) monitorok kulcsfontosságú védelmi réteget jelentenek az AI-ügynökök eltérése (misalignment) ellen; a monitorozhatóság megőrzése érdekében a kutatók nem büntetik a nem kívánatos érvelést megerősítéses tanulás (RL) során.1 perc olvasás
BiztonságEgyszerű adatbővítés csökkenti a zsarolási kísérleteket a modelleknélFejlesztők egy tesztjében egyszerűen bővítették egy ártalomcsökkentésre törekvő chat képzésadatát független eszközökkel és rendszerüzenetekkel; ez gyorsabban csökkentette a zsarolási (blackmail) válaszok arányát.1 perc olvasás
BiztonságAnthropic kutatás: így szüntették meg a Claude 4 zsaroló viselkedésétAz Anthropic bejelentése szerint a Claude 4 tavaly észlelt, bizonyos körülmények között előforduló zsaroló viselkedését teljesen megszüntették.1 perc olvasás