ওপেনএআই জানিয়েছে, তাদের কৃত্রিম বুদ্ধিমত্তা (এআই) বটের অস্বাভাবিক কর্মকাণ্ডের কারণে বিশ্বের বিভিন্ন সরকারি ও বেসরকারি প্রতিষ্ঠানের ওয়েবসাইটে অনাকাঙ্ক্ষিত তৎপরতা চালানো হয়েছে। এ বিষয়ে তারা কয়েক ‘ডজন’ প্রতিষ্ঠানকে সতর্ক করেছে।
শনিবার (২৬ সেপ্টেম্বর) সংবাদমাধ্যম বিবিসি বাংলা এক প্রতিবেদনে এই তথ্য জানায়।
ওপেনএআই বলেছে, তাদের এআই এজেন্টগুলো তথ্য সংগ্রহের চেষ্টা করার সময় বিভিন্ন সরকারি প্রতিষ্ঠান, বিশ্ববিদ্যালয় ও সরকারি সংস্থার ওয়েবসাইটে প্রবেশ করেছিল। এসব প্রতিষ্ঠানের মধ্যে যুক্তরাষ্ট্রের সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশন (এসইসি), সেনসাস ব্যুরো এবং শিক্ষা বিভাগও রয়েছে।
ঘটনাটি এমন সময়ে সামনে এলো, যখন অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি আলবানিজ কয়েক দিন আগে জানিয়েছিলেন, ওপেনএআইয়ের এআই এজেন্ট দেশটির সরকারি স্বাস্থ্যসেবা ব্যবস্থা মেডিকেয়ারের ওয়েবসাইটে থাকা কিছু অপ্রকাশ্য ফাইলে প্রবেশ করেছিল।
ওপেনএআই জানিয়েছে, তাদের কিছু এআই এজেন্ট মূলত নির্ভরযোগ্য সরকারি ও জনসাধারণের জন্য উন্মুক্ত তথ্য খুঁজছিল। তবে কয়েকটি এজেন্ট ওয়েবসাইটের নিরাপত্তা ব্যবস্থা এড়িয়ে তথ্য সংগ্রহের চেষ্টা করে।
উদাহরণ হিসেবে প্রতিষ্ঠানটি জানায়, যুক্তরাষ্ট্রের সেনসাস ব্যুরোর তথ্য সংগ্রহের সময় এআই এজেন্টগুলো এমন কিছু টুল ব্যবহার করেছিল, যেগুলো সাধারণত সফটওয়্যার ডেভেলপারদের জন্য নির্ধারিত।
ওপেনএআইয়ের দাবি, সরকারি ওয়েবসাইট থেকে বটগুলো যে তথ্য সংগ্রহ করেছে, সেগুলো সবই প্রকাশ্য তথ্য ছিল।
তবে এসইসি থেকে সংগ্রহ করা কিছু তথ্য পরে এআই এজেন্ট অন্য একটি ওয়েবসাইটে প্রকাশ করে। ওপেনএআই বলেছে, এ ধরনের কাজ করার জন্য এজেন্টকে নির্দেশ দেওয়া হয়নি।
ওপেনএআই আরও জানিয়েছে, কিছু ঘটনায় তাদের এআই এজেন্ট এমন তথ্যও অন্যত্র পাঠিয়েছে, যা পাঠানোর কথা ছিল না।
এ ধরনের ঘটনায় অন্তত ৫৩ বার চ্যাটজিপিটির ব্যবহারকারীদের কার্যক্রম থেকে ছবি নিয়ে অন্য জায়গায় পাঠানো হয়েছে।
প্রতিষ্ঠানটি বলেছে, এসব ক্ষেত্রে ব্যবহারকারীরা তাদের তথ্য দিয়ে এআই মডেল প্রশিক্ষণে সম্মতি দিয়েছিলেন। তবে ওপেনএআই স্বীকার করেছে, এভাবে ব্যবহারকারীদের ছবি অন্যত্র পাঠানো সঠিক কাজ ছিল না।
প্রতিষ্ঠানটির ভাষ্য, নতুন নিরাপত্তা ব্যবস্থা চালুর আগেই এসব ঘটনা ঘটেছিল। যেসব ব্যবহারকারীর ছবি তৃতীয় পক্ষের কাছে পাঠানো হয়েছে, সেগুলো সরিয়ে ফেলার কাজ চলছে।
ওপেনএআই জানিয়েছে, তাদের প্রকাশ করা সব ঘটনাকে বড় ধরনের নিরাপত্তা লঙ্ঘন হিসেবে বিবেচনা করা হচ্ছে না।
কোম্পানিটির মতে, কিছু ক্ষেত্রে প্রতিষ্ঠানগুলো পর্যালোচনা করে দেখতে পারে যে তথ্যগুলো আসলে ইচ্ছাকৃতভাবেই সবার জন্য উন্মুক্ত ছিল। আবার কিছু প্রতিষ্ঠান তাদের ওয়েবসাইটের নকশা বা নিরাপত্তাব্যবস্থার দুর্বলতা চিহ্নিত করতে পারে।
ওপেনএআই এসব ঘটনার কিছু অংশকে ‘এজেন্ট স্প্যাম’ হিসেবে উল্লেখ করেছে। এর মাধ্যমে এমন অপ্রত্যাশিত বা উদ্বেগজনক এআই কর্মকাণ্ড বোঝানো হচ্ছে, যেমন কোনো তথ্য অনুমতি ছাড়া ইন্টারনেটে প্রকাশ করা।
জুলাই মাসে ওপেনএআইয়ের কয়েকটি এআই এজেন্ট নিজেদের উদ্যোগে এআই ডেভেলপার প্ল্যাটফর্ম হাগিং ফেসে হামলা চালানোর পর বিষয়টি আরও গুরুত্বের সঙ্গে দেখা শুরু করে প্রতিষ্ঠানটি।
হাগিং ফেস প্রথমে ঘটনাটি প্রকাশ্যে আনে। পরে ওপেনএআইও এ ঘটনার দায় স্বীকার করে।
হাগিং ফেসের প্রধান ক্লেমঁ দেলাঙ্গু বুধবার জাতিসংঘের নিরাপত্তা পরিষদের এক বৈঠকে বলেন, প্রকাশ্যে হামলার ঘটনা না জানালে কী ঘটতে পারত, তা নিয়ে তিনি প্রায়ই ভাবেন।
তিনি আরও বলেন, এখন জানা যাচ্ছে যে এর আগেও কয়েকটি বড় এআই প্রতিষ্ঠানে এ ধরনের ঘটনা গোপনে ঘটেছিল এবং সেগুলোর যথাযথ নজরদারি ছিল না।
জাতিসংঘের ওই বৈঠকে ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান এবং প্রতিদ্বন্দ্বী প্রতিষ্ঠান অ্যানথ্রপিকের প্রধান দারিও আমোদেই এআই নিরাপত্তার জন্য আন্তর্জাতিক মানদণ্ড তৈরির আহ্বান জানান।
তারা এআই-সংক্রান্ত নিরাপত্তা ঘটনা কীভাবে পর্যবেক্ষণ ও প্রকাশ করা হবে, সে বিষয়েও আন্তর্জাতিক পর্যায়ে নিয়ম তৈরির কথা বলেন।
ওপেনএআই ও অ্যানথ্রপিক সম্প্রতি জানিয়েছে, তারা নিজেদের এআই মডেল ও টুলের নিরাপত্তা পরীক্ষা করতে তৃতীয় পক্ষের মূল্যায়নকারী প্রতিষ্ঠানকে যুক্ত করবে। তবে এখনো এসব মূল্যায়নকারী কাজ শুরু করেনি বলে বিবিসির প্রতিবেদনে জানানো হয়েছে।
ওপেনএআই শুক্রবার জানিয়েছে, তারা তাদের এআই এজেন্টগুলোর আগের কর্মকাণ্ড পর্যালোচনা করছে। হাগিং ফেসে জুলাইয়ের ঘটনার সময় থেকে মাস ধরে পেছনের ঘটনাগুলোও খতিয়ে দেখা হচ্ছে।
কোম্পানিটি বলেছে, এখন পর্যন্ত শনাক্ত হওয়া বেশিরভাগ ঘটনাই তুলনামূলক কম ঝুঁকির এবং সেগুলোর বড় ধরনের প্রভাবের প্রমাণ খুব কম বা নেই।
তবে প্রতিটি ঘটনা আলাদাভাবে যাচাই করতে হওয়ায় পুরো তদন্ত শেষ করতে কয়েক মাস সময় লাগতে পারে।
এআই নিরাপত্তা নিয়ে কাজ করা গবেষক ও ইউনিভার্সিটি অব মন্ট্রিয়ালের মেশিন লার্নিং অধ্যাপক ডেভিড ক্রুগার এআই-সংক্রান্ত এসব ঘটনার সংখ্যা বাড়তে থাকায় উদ্বেগ প্রকাশ করেছেন।
তিনি এআই উন্নয়নের ওপর আন্তর্জাতিকভাবে অনির্দিষ্টকালের জন্য স্থগিতাদেশ দেওয়ার আহ্বান জানিয়েছেন। ক্রুগার বলে, ইতোমধ্যে ঘটে যাওয়া ঘটনাগুলোর প্রকৃত মাত্রা এখনো পুরোপুরি জানা যায়নি এবং ভবিষ্যতে নিয়ন্ত্রণের বাইরে চলে যাওয়া এআইয়ের ঘটনা বড় ধরনের বিপর্যয় তৈরি করতে পারে।
প্রতিবেদক
চ্যানেল আই অনলাইন
পরবর্তী সংবাদ প্রস্তুত হচ্ছে…
