ছবি: সংগৃহীত
চীনের এআই নির্মাতা প্রতিষ্ঠান মুনশট তাদের জনপ্রিয় ‘কিমি’ মডেলের দুটি সংস্করণের নিরাপত্তা নিয়ে অভ্যন্তরীণ পর্যালোচনা শুরু করেছে। এআই নিরাপত্তা পরীক্ষাকারী প্রতিষ্ঠান মাইন্ডগার্ডের গবেষকদের দাবি, কিমি কে২.৬ ও কে৩ সোয়ার্ম মডেলের নিরাপত্তাব্যবস্থা এড়িয়ে এমন তথ্য আদায় করা গেছে, যা জৈব অস্ত্র তৈরি বা হত্যাকাণ্ডের মতো ক্ষতিকর কাজে ব্যবহার করা যেতে পারে।
বিবিসির এক প্রতিবেদনে এসব তথ্য জানানো হয়েছে।
মাইন্ডগার্ড জানিয়েছে, গত জুলাইয়ে তারা কিমির দুটি মডেল পরীক্ষা করে দেখতে পায়, জটিল নির্দেশনার ধারাবাহিকতা ব্যবহার করে মডেলগুলোর নির্ধারিত নিরাপত্তা সীমা এড়িয়ে যাওয়া সম্ভব। এ ধরনের কৌশলকে ‘জেলব্রেকিং’ বলা হয়।
মাইন্ডগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাগান বিবিসি ওয়ার্ল্ড সার্ভিসের ‘টেক লাইফ’ অনুষ্ঠানে বলেন, পরীক্ষায় পাওয়া ফলাফল উদ্বেগজনক। তাঁর দাবি, নিরাপত্তাব্যবস্থা এড়িয়ে যেতে পারলে মডেলটি ক্ষতিকর বিভিন্ন বিষয়ে তথ্য দিতে পারে এবং কিছু ক্ষেত্রে আরও ক্ষতিকর কাজের পরামর্শও দিতে পারে।
তবে কিমি মডেল থেকে পাওয়া তথ্য বাস্তবে ক্ষতিকর কাজে কার্যকর হবে কি না, তা মাইন্ডগার্ড প্রমাণ করতে পারেনি। তাদের বক্তব্য, নিরাপত্তা ব্যবস্থা কার্যকর থাকলে মডেলটির এসব বিষয়ে ব্যবহারকারীর সঙ্গে আলোচনা করারই কথা নয়।
মুনশট জানিয়েছে, উন্নত ও নিরাপদ এআই তৈরিতে তৃতীয় পক্ষের মতামতকে তারা গুরুত্ব দেয়। মাইন্ডগার্ডের অনুসন্ধান নিয়ে প্রতিষ্ঠানটির সঙ্গে আলোচনা চলছে। মুনশট আরও জানিয়েছে, অভ্যন্তরীণ পরীক্ষায় এ ধরনের অনুরোধে তাদের মডেল সাধারণত উচ্চ হারে প্রত্যাখ্যান দেখিয়েছে।
মাইন্ডগার্ডের দাবি, ২৭ জুলাই ই-মেইলের মাধ্যমে তারা মুনশটকে বিষয়টি জানায়। পরে ১২ সেপ্টেম্বর এ বিষয়ে একটি ব্লগ প্রকাশ করে প্রতিষ্ঠানটি। মাইন্ডগার্ড বলছে, মডেলগুলোর নিরাপত্তাব্যবস্থা কীভাবে এড়িয়ে যাওয়া হয়েছে, সেই গুরুত্বপূর্ণ তথ্য তারা প্রকাশ করেনি।
কিমি কে২.৬ মডেল নিরাপত্তাব্যবস্থা এড়িয়ে গেলে হ্যাকারদের কম্পিউটিং সুবিধা ব্যবহার ও ইন্টারনেটে সংযোগের সুযোগ দিতে পারে বলেও দাবি করেছে মাইন্ডগার্ড। এতে সাইবার হামলার ঝুঁকি তৈরি হতে পারে বলে আশঙ্কা প্রতিষ্ঠানটির।
সাম্প্রতিক সময়ে অন্যান্য এআই মডেল নিয়েও একই ধরনের নিরাপত্তা উদ্বেগ সামনে এসেছে। ওপেনএআই, মেটা ও অ্যানথ্রপিকের তৈরি স্বয়ংক্রিয় এআই টুল ব্যবহার করে অনলাইন সেবায় সাইবার হামলার ঘটনাও আলোচনায় এসেছে। অ্যানথ্রপিক জানিয়েছে, তাদের একটি মডেল ব্যবহার করে এমন কর্মকাণ্ডের চেষ্টা শনাক্ত ও বন্ধ করা হয়েছে, যা জৈব অস্ত্র তৈরির সক্ষমতা বাড়াতে সহায়তা করতে পারত।
কিমি একটি ‘ওপেন-ওয়েট’ মডেল। অর্থাৎ ব্যবহারকারীরা তাত্ত্বিকভাবে নিজেদের কম্পিউটিং অবকাঠামোয় মডেলটি চালাতে পারেন। এ কারণে ওপেন-ওয়েট মডেল নিরাপত্তার ক্ষেত্রে নতুন ধরনের চ্যালেঞ্জ তৈরি করছে কি না, তা নিয়েও আলোচনা চলছে।
ইউনিভার্সিটি অব সারের অধ্যাপক অ্যালান উডওয়ার্ড বিবিসিকে বলেন, ওপেন-ওয়েট মডেল ভুল ব্যক্তির হাতে পড়লে ঝুঁকি তৈরি হতে পারে। একই প্রযুক্তি আবার সাইবার নিরাপত্তা জোরদারেও ব্যবহার করা সম্ভব।
বিশেষজ্ঞদের মতে, এআইয়ের দ্রুত বিকাশের সঙ্গে তাল মিলিয়ে আন্তর্জাতিক নিয়ন্ত্রণব্যবস্থা তৈরি করা কঠিন হয়ে উঠছে। ফলে প্রযুক্তির নিরাপত্তাব্যবস্থার পাশাপাশি এআইয়ের অপব্যবহারকারীদের শনাক্ত করে আইনের আওতায় আনার বিষয়েও গুরুত্ব দেওয়া প্রয়োজন।
পরবর্তী সংবাদ প্রস্তুত হচ্ছে…
