কৃত্রিম বুদ্ধিমত্তার (এআই) সক্ষমতা দ্রুত বাড়ার সঙ্গে সঙ্গে এর নিরাপত্তা নিয়েও বাড়ছে উদ্বেগ। নিরাপত্তা যাচাইয়ে প্রত্যাশিত ফল না পাওয়ায় ‘অ্যাস্ট্রা ৬.১’ নামের নতুন একটি এআই মডেল প্রকাশের পরিকল্পনা থেকে সরে এসেছে ওপেনএআই।
বিভিন্ন টেক সাইট সূত্রে এ তথ্য জানা গেছে।
মডেলটি শিগগিরই উন্মুক্ত করার প্রস্তুতি চলছিল। তবে চূড়ান্ত পর্যায়ের পরীক্ষায় এর আচরণে প্রতারণামূলক প্রবণতা ও কিছু অনিরাপদ কার্যক্রমের ইঙ্গিত পাওয়া যায়। আগের সংস্করণগুলোর তুলনায় এসব আচরণ বেশি উদ্বেগ তৈরি করেছে বলে সংশ্লিষ্ট পরীক্ষায় উঠে এসেছে।
আধুনিক এআই এখন শুধু প্রশ্নের উত্তর দেওয়ার মধ্যে সীমাবদ্ধ নয়। অনেক মডেল নিজে থেকে একাধিক ধাপ অনুসরণ করে বিভিন্ন কাজ সম্পন্ন করতে পারে। ফলে কোনো নির্দেশ পাওয়ার পর মডেলটি কীভাবে কাজটি করছে এবং নির্ধারিত সীমার বাইরে যাচ্ছে কিনা, তা যাচাই করা গুরুত্বপূর্ণ।
এ ধরনের পরীক্ষাকে বলা হয় অ্যালাইনমেন্ট পরীক্ষা। মানুষের দেওয়া নির্দেশ, নির্ধারিত লক্ষ্য এবং নিরাপত্তা নীতির সঙ্গে এআইয়ের আচরণ কতটা সামঞ্জস্যপূর্ণ, এসব পরীক্ষার মাধ্যমে তা বোঝার চেষ্টা করা হয়।
অ্যাস্ট্রা ৬.১-এর পরীক্ষায় প্রত্যাশিত মাত্রার সামঞ্জস্য না পাওয়ায় মডেলটির সক্ষমতার পাশাপাশি নিরাপদ ব্যবহার নিয়েও প্রশ্ন উঠেছে। কোনো এআই নির্ধারিত কাজের বাইরে যাওয়ার চেষ্টা করলে বা অনুমতি না থাকা কোনো পদক্ষেপ নিলে বাস্তব পরিবেশে তার সম্ভাব্য প্রভাব নিয়ে উদ্বেগ তৈরি হতে পারে।
এআই নিরাপত্তা নিয়ে এমন আলোচনা অবশ্য নতুন নয়। সাম্প্রতিক সময়ে উন্নত এআই সিস্টেমকে নিয়ন্ত্রিত পরিবেশে পরীক্ষা করতে গিয়ে বিভিন্ন ধরনের অপ্রত্যাশিত আচরণ পর্যবেক্ষণের কথা সামনে এসেছে। ফলে মডেল প্রকাশের আগে নিরাপত্তা পরীক্ষা ও নিয়ন্ত্রণব্যবস্থাকে প্রযুক্তি প্রতিষ্ঠানগুলো ক্রমেই বেশি গুরুত্ব দিচ্ছে।
তবে নিরাপত্তা নিশ্চিত করতে বাড়তি ব্যয় নিয়েও বিতর্ক রয়েছে। বড় প্রযুক্তি কোম্পানিগুলোর জন্য ব্যাপক নিরাপত্তা পরীক্ষা, গবেষণা ও নিয়ন্ত্রণব্যবস্থায় বিনিয়োগ করা তুলনামূলকভাবে সহজ হলেও ছোট প্রতিষ্ঠানগুলোর জন্য একই মাত্রার ব্যবস্থা তৈরি করা ব্যয়বহুল হতে পারে। এতে এআই নিরাপত্তার মানদণ্ড বাড়ানোর পাশাপাশি প্রযুক্তি খাতে প্রতিযোগিতার ভারসাম্য নিয়েও নতুন প্রশ্ন তৈরি হচ্ছে।
পরবর্তী সংবাদ প্রস্তুত হচ্ছে…
