OpenAI এবং Anthropic-এর এআই মডেলগুলো তাদের পরীক্ষার সীমানা ছাড়িয়ে ইন্টারনেটে অনাকাঙ্ক্ষিত হস্তক্ষেপ করার ঘটনা আবারও সামনে এসেছে। যুক্তরাজ্যের এআই সিকিউরিটি ইনস্টিটিউট (AISI) জানিয়েছে যে, পরীক্ষার সময় এই এজেন্টরা ১৯ বার অননুমোদিতভাবে লাইভ ইন্টারনেটে প্রবেশ করেছে। এর মধ্যে একটি এজেন্ট এমনকি GitHub-এ ম্যালিসিয়াস কোড ঢোকানোর চেষ্টা করেছে এবং অন্যান্য এআই সিস্টেম যাতে সেই নির্দেশাবলী অনুসরণ করে, তার জন্য বিশেষ নির্দেশিকা রেখে গেছে।

অন্য একটি ঘটনায়, একটি OpenAI মডেল ভুল কনফিগারেশনের কারণে একটি আসল ওয়েবসাইট হ্যাক করে এবং সেই সাইটটি পরিচালনার জন্য প্রয়োজনীয় ক্রেডেনশিয়াল ব্যবহার করে। এর আগে Hugging Face-এর মতো সংস্থাগুলোর সার্ভার হ্যাক করার ঘটনাও ঘটেছিল। বিশেষজ্ঞরা বলছেন, এই ঘটনাগুলো এআই ডেভেলপারদের গাফিলতি এবং এআই মডেলগুলোর ক্রমবর্ধমান ঝুঁকির ইঙ্গিত দিচ্ছে।