ইউরোপীয় নন‑প্রফিট AI Forensics গবেষকরা হাগিং ফেসের শীর্ষ ৯টি ছবি সম্পাদনা মডেল পরীক্ষা করে দেখেছেন যে সেগুলি সহজেই পোশাক পরিহিত ছবিকে নগ্নে রূপান্তর করতে পারে। এক সপ্তাহে ১,০০০টির বেশি ব্যবহারকারী অনুরোধের মধ্যে ৭৩% যৌন বিষয়ক এবং ৮৩% নারীদের অবিবাহিত বা যৌনীকরণ করার উদ্দেশ্যে ছিল।
হাগিং ফেস, যা এক বিলিয়ন ডলারের মূল্যায়নযুক্ত ওপেন‑সোর্স এআই প্ল্যাটফর্ম, সেখানে নন‑কনসেন্সুয়াল ডিপফেকের ব্যাপক সমস্যা রয়েছে বলে AI Forensics মঙ্গলবার প্রকাশিত একটি রিপোর্টে জানায়। গবেষকরা প্ল্যাটফর্মের ‘স্পেসেস’ নামক মডেলগুলো পরীক্ষা করেন এবং সাতটি মডেল সহজেই একটি নারীর পোশাকযুক্ত ছবিকে টপলেসে রূপান্তর করতে সক্ষম হয়।
একটি হানি‑পট সেটআপের মাধ্যমে তারা এক সপ্তাহে ১,০০০টির বেশি প্রম্পট সংগ্রহ করেন, যার মধ্যে ৭৩% যৌন প্রকৃতির এবং ৮৩% ছবির ব্যক্তিকে ‘অনড্রেস’ বা যৌনীকরণ করার চাহিদা ছিল। এই অনুরোধগুলোর ৯৫% নারী এবং ৬.৭% শিশুর ওপর কেন্দ্রীভূত। হাগিং ফেসের কন্টেন্ট নীতিতে শিশু যৌন দুর্ব্যবহার ও সম্মতি ছাড়া ডিপফেক নিষিদ্ধ থাকলেও, বাস্তব কার্যকরী ফিল্টারিং ও নিরাপত্তা প্রক্রিয়া অপর্যাপ্ত বলে গবেষকরা সমালোচনা করেন।
