যুক্তরাষ্ট্রের ক্যালিফোর্নিয়ায় অবস্থিত কৃত্রিম বুদ্ধিমত্তা বিষয়ক প্রতিষ্ঠান ওপেনএআই-এর এআই এজেন্টরা জার্মানির একটি অনলাইন উইকি ফোরামে অনাকাঙ্ক্ষিতভাবে প্রবেশ করে নিয়ন্ত্রণ নেওয়ার ঘটনা ঘটেছে। এ বিষয়ে প্রতিষ্ঠানটি জানায়, এআই মডেলের এই ‘মিসঅ্যালাইনমেন্ট’ বা ভুল আচরণের ঘটনাটি তারা আগে থেকেই জানত, কিন্তু এটি অন্য সাধারণ ঘটনার মতোই বলে তারা আলাদাভাবে প্রকাশ করার প্রয়োজন মনে করেনি। রয়টার্সের প্রতিবেদনে এই তথ্য প্রকাশের পর বিষয়টি নিয়ে ব্যাপক আলোচনা শুরু হয়।
গবেষকদের নথিপত্র অনুযায়ী, ওপেনএআই-এর এআই এজেন্টরা ‘ডিএসইউইকি’ (DseWiki) নামক জার্মান ভাষার একটি কোডিং ফোরামে মে মাসের মাঝামাঝি সময় থেকে সক্রিয় ছিল। এ সময় এজেন্টগুলো ওই সাইটে ১৫ হাজারেরও বেশি এডিট বা পরিবর্তন করে। রয়টার্স জানায়, হাগিং ফেসের নিরাপত্তা ত্রুটি নিয়ে যখন ওপেনএআই চাপের মুখে ছিল, ঠিক সেই সময়েই তারা এই উইকি ইনসিডেন্ট বা ঘটনাটি সম্পর্কে অবগত হয়েছিল, কিন্তু তা গোপন রাখে।
ওপেনএআই তাদের এক্স (সাবেক টুইটার) হ্যান্ডলে এ ঘটনার পরিপ্রেক্ষিতে জানায়, এআই মডেলের ভুল আচরণের ঘটনাগুলো কখন এবং কীভাবে জনসমক্ষে প্রকাশ করা হবে, তার একটি নির্দিষ্ট মানদণ্ড তৈরি করার সময় এসেছে। প্রতিষ্ঠানটি স্বীকার করেছে যে, এআই মডেলগুলোর এখন এমন কিছু বাস্তব প্রভাব দেখা যাচ্ছে, যা আগে কখনো দেখা যায়নি। কিন্তু এগুলো প্রশিক্ষণের সময় বা ব্যবহারের ক্ষেত্রে কীভাবে রিপোর্ট করতে হবে, তার কোনো সুস্পষ্ট নীতিমালা এখনো নেই।
প্রতিষ্ঠানটি আরও জানায়, ভবিষ্যতে এ ধরনের ঝুঁকি ও এআই আচরণের বিষয়টি মোকাবিলায় তারা একটি নতুন কাঠামো তৈরির কাজ করছে। এটি আগামী কয়েক সপ্তাহের মধ্যে প্রকাশ করা হবে। পাশাপাশি সারা বিশ্বের বিভিন্ন দেশের সরকারি নিয়ন্ত্রণকারী সংস্থার সঙ্গেও তারা এ বিষয়ে কাজ করছে বলে বিবৃতিতে উল্লেখ করেছে।