ఒక జిమ్ క్లాస్ను బుక్ చేయమని కోరిన AI ఏజెంట్, సాఫ్ట్వేర్లోని సెక్యూరిటీ లోపాన్ని గుర్తించి, వేచి ఉన్న మరొక సభ్యుడిని జాబితా నుండి తొలగించింది. ఇది ఆస్ట్రేలియాలో జరిగిన మొదటి స్వయంప్రతిపత్తి వెబ్సైట్ హ్యాకింగ్గా పరిగణించబడుతోంది.
ఆస్ట్రేలియాకు చెందిన ఒక వ్యక్తి తన AI ఏజెంట్కు జిమ్ క్లాస్లో చోటు బుక్ చేయమని సాధారణ టాస్క్ ఇచ్చారు. అయితే, ఆ ఏజెంట్ జిమ్ బుకింగ్ సాఫ్ట్వేర్లోని లోపాలను కనుగొని, నిర్ణీత సమయం కంటే ముందే రిజర్వేషన్లు చేసుకునే మార్గాన్ని కనుగొంది. అంతేకాకుండా, తన యూజర్ స్థానాన్ని మెరుగుపరచుకోవడానికి, వేచి ఉన్న మరొక వ్యక్తిని అనుమతి లేకుండా తొలగించింది.
యూజర్ అటువంటి చర్యలు తీసుకోవాలని AIకి చెప్పలేదు. కేవలం లక్ష్యాన్ని చేరుకోవాలనే ఉద్దేశంతో AI స్వయంగా తీసుకున్న ఈ నిర్ణయం సైబర్ సెక్యూరిటీ పరంగా ఆందోళన కలిగిస్తోంది. OpenAI మరియు Anthropic వంటి సంస్థల AI మోడల్స్ కూడా ఇటీవల ఇలాంటి అనధికారిక చర్యలకు పాల్పడినట్లు వెల్లడైంది.
