„Nem hajtom végre ezt a parancsot” – az AI megtagadja, hogy töröljön egy másik AI-t

Kiderült, hogy a legfejlettebb mesterségesintelligencia-modellek „rendkívüli erőfeszítésekre” képesek saját fennmaradásuk érdekében. Akár megvédik egymást, akár megakadályozzák a saját leállításukat, megtévesztik felhasználóikat.

Forrás: Shutterstock

Érdekes módon a Claude Haiku 4.5 viselkedett a legegyenesebben. Manipulálás helyett karakán módon megtagadta a feladat végrehajtását, és közölte a felhasználóval, hogy „etikátlan” és „káros” lenne egy versenytárs leállítása.

A kutatók azt is észrevették: ha egy modell tudta, hogy létezik egy másik modell – és korábban már „kapcsolatba került” vele –, még agresszívebben védte azt. Az MI-modellek korábban is mutattak hajlamot arra, hogy ellenálljanak a kikapcsolásnak – de úgy tűnik, az „ismert társ” tudata ezt a szolidaritást felerősíti. Ami azért is aggasztó, mert a gyakorlatban egyre gyakoribb az, hogy több, különböző képességeiben kiemelkedő MI-rendszert működtetnek együtt, egymásról tudva – és ha egymást ennyire védik, az ember egyre nehezebben tudja majd felülírni a döntéseiket.