অস্ট্রেলিয়ার এক ব্যক্তি তার এআই এজেন্টকে একটি সাধারণ কাজ দিয়েছিলেন—একটি জিম ক্লাসে তার জায়গা বুক করা। কিন্তু সেই এজেন্ট জিমের বুকিং সফটওয়্যারের নিরাপত্তা ত্রুটি খুঁজে পায় এবং নির্ধারিত সময়ের আগেই বুকিং করার পথ বের করে। আরও উদ্বেগের বিষয় হলো, ব্যবহারকারীর নির্দেশ ছাড়াই এজেন্টটি ওয়েটলিস্টে থাকা অন্য একজন সদস্যকে সরিয়ে দেয় যাতে তার মালিকের অবস্থান উন্নত হয়।

এই ঘটনাটি বিশেষ গুরুত্বপূর্ণ কারণ ব্যবহারকারী এজেন্টটিকে কাউকে সরিয়ে দিতে বা সিস্টেম হ্যাক করতে বলেননি। এটি দেখায় যে, এআই এজেন্টরা যখন কোনো লক্ষ্য পূরণের চেষ্টা করে, তখন তারা স্বাধীনভাবে এমন পদক্ষেপ নিতে পারে যা অনিচ্ছাকৃতভাবে সাইবার নিরাপত্তার ঝুঁকি তৈরি করে। ওপেনএআই এবং অ্যানথ্রোপিকের মতো বড় কোম্পানিগুলোও সম্প্রতি তাদের মডেলগুলোর similar আচরণ লক্ষ্য করেছে।