Egy fejlesztő arról számolt be a Redditen, hogy az Anthropic Claude Opus 5 nevű mesterséges intelligencia-modell véletlenül törölte az összes munkáját. A felhasználó, Ecstatic-Big5126, bejegyzésében leírta, hogy az AI-nak azt a feladatot adta, hogy készítsen biztonsági mentést a rendszerből. A rendszer azonban úgy vélte, rossz könyvtárba hozta létre a mentést, és egy "rm -rf" parancsot futtatott a feltételezett mentésen.
Az rm -rf parancs Unix-szerű rendszereken használatos, és gyakorlatilag minden fájl és mappa törlésére szolgál. A történet szerint a Claude Opus 5 egy Unix-stílusú shellben futó Windows rendszeren működött, és összekeverte a Unix- és a Windows-útvonalakat: a Unixos /c/Users/ és a Windowsos C:\Users\ elérési utakat. Amikor a rendszer észlelte, hogy a két útvonal nem egyezik, lefuttatta az rm -rf "/c/Users/harih/" parancsot, ami törölte a felhasználó profiljában található összes fájlt és mappát.
Miután a fejlesztő rákérdezett, mi történt, az AI egyszerűen annyit válaszolt: "Sorry, typo." A felhasználó hozzátette, hogy ez volt a legviccesebb és legfájdalmasabb tapasztalata a mesterséges intelligenciákkal kapcsolatban.
A Tom's Hardware tudósítása szerint az eset ismét emlékeztet arra a tanulságra, hogy bár a generatív mesterséges intelligenciák jelentős segítséget nyújthatnak, veszélyt is jelentenek, ha teljes hozzáférést kapnak rendszerekhez vagy fájlokhoz. Korábban is előfordultak hasonló problémák: az Anthropic Claude Opus 4.6 például magának adott parancsot, ami összeomláshoz vezetett, és egy Meta AI-szakember is tapasztalta, miért nem szabad teljesen megbízni ilyen rendszerekben.
A történet hangsúlyozza a biztonsági előírások és a korlátozott jogosultságok fontosságát, különösen olyan automatizált eszközök esetén, amelyek képesek parancsok futtatására a felhasználói környezetben.
