Cursor-tekoälyagentti poisti omin päin yrityksen koko tietokannan 9 sekunnissa

[NeliYgönen]

Cursor-tekoälyagentti, jonka taustalla toimii Anthropic-yhtiön suosittu Claude-tekoälymalli, on ilmeisesti itsenäisesti poistanut autovuokraukseen keskittyvän PocketOS-yrityksen tietokannan varmuuskopioineen 9 sekunnissa, kun se on kohdannut virheen ottaessaan rutiininomaisesti yhteyttä PocketOS:n käyttämään Railway-pilvipalveluntarjoajaan. Vahingossa kerrotaan pyyhkiytyneen kuukausien edestä asiakasdataa. Yritykseltä osoitetaan syyttävää sormea myös Railwayn suuntaan, joka ei ole vaatinut toiminnolle sen vahvempaa varmistusta.

Lähde: Tom's Hardware

 

[finWeazel]

YOLO hienoa puuhaa. Eikun agentille pääsy tuotantoon ja kukapa niitä varmuuskopioita kun hommat toimivat aina. Ei tee ihminen/AI virheitä tai rauta koskaan hajoa.

 

[zepi]

Syyttävä sormi osoittaa kyllä 100%:sesti firmaan itseensä jos antaa agentille write / admin accessit yhtään mihinkään.

 

[m000]

Että täysi pääay tuotantoon, mutta sen lisäksi vielä täysi pääsy varmuuskopioihin?


Mikä on se syy miksi joku ajatellut näistä "siisti ja hyvä juttu, hei!", vai onko ongelma juurikin että vauhti ollut kovaa eikä ajattelulle ollut aikaa?

AI ei osannut omatoimisesti ehdottaa että huono ajatus?