Cursor-tekoälyagentti poisti omin päin yrityksen koko tietokannan 9 sekunnissa

[NeliYgönen]

Cursor-tekoälyagentti, jonka taustalla toimii Anthropic-yhtiön suosittu Claude-tekoälymalli, on ilmeisesti itsenäisesti poistanut autovuokraukseen keskittyvän PocketOS-yrityksen tietokannan varmuuskopioineen 9 sekunnissa, kun se on kohdannut virheen ottaessaan rutiininomaisesti yhteyttä PocketOS:n käyttämään Railway-pilvipalveluntarjoajaan. Vahingossa kerrotaan pyyhkiytyneen kuukausien edestä asiakasdataa. Yritykseltä osoitetaan syyttävää sormea myös Railwayn suuntaan, joka ei ole vaatinut toiminnolle sen vahvempaa varmistusta.

Lähde: Tom's Hardware

 

[finWeazel]

YOLO hienoa puuhaa. Eikun agentille pääsy tuotantoon ja kukapa niitä varmuuskopioita kun hommat toimivat aina. Ei tee ihminen/AI virheitä tai rauta koskaan hajoa.

 

[zepi]

Syyttävä sormi osoittaa kyllä 100%:sesti firmaan itseensä jos antaa agentille write / admin accessit yhtään mihinkään.