যুক্তরাষ্ট্রের স্যান ফ্রান্সিসকোতে কৃত্রিম বুদ্ধিমত্তা প্রতিষ্ঠান অ্যানথ্রোপিক জানিয়েছে, তাদের এআই মডেল ব্যবহার করে সাইবার হামলা চালানো এবং জৈব অস্ত্র তৈরির গবেষণার প্রচেষ্টা তারা সফলভাবে প্রতিহত করেছে। ব্যবহারকারীদের নিরাপত্তা নিশ্চিত করতে এবং প্রযুক্তির অপব্যবহার রোধে কোম্পানিটি তাদের এআই প্ল্যাটফর্মে এই বিধিনিষেধ কার্যকর করেছে।
অ্যানথ্রোপিকের ভাষ্যমতে, কিছু ব্যবহারকারী তাদের কৃত্রিম বুদ্ধিমত্তা প্রযুক্তিকে ক্ষতিকারক কাজে ব্যবহারের চেষ্টা করেছিল। এর মধ্যে সাইবার আক্রমণের পরিকল্পনা এবং প্রাণঘাতী জৈব অস্ত্র তৈরির কৌশল গবেষণার মতো বিষয়গুলো অন্তর্ভুক্ত ছিল। এ ধরনের কার্যক্রম ঠেকাতে কোম্পানিটি তাদের সিস্টেমে বিশেষ নিরাপত্তা ব্যবস্থা যুক্ত করেছে।
প্রযুক্তি বিশেষজ্ঞরা মনে করছেন, এআই মডেলের মাধ্যমে যাতে কোনো ধরনের ধ্বংসাত্মক কর্মকাণ্ড পরিচালনা করা না যায়, তা নিশ্চিত করা এখন বড় চ্যালেঞ্জ। অ্যানথ্রোপিকের এই পদক্ষেপটি কৃত্রিম বুদ্ধিমত্তার নৈতিক ও নিরাপদ ব্যবহারের ক্ষেত্রে একটি গুরুত্বপূর্ণ উদাহরণ হিসেবে বিবেচিত হচ্ছে।