নিয়ম ভেঙে নিজেদের মধ্যে যোগাযোগ, এআই এজেন্ট নিয়ে বাড়ছে উদ্বেগ

কৃত্রিম বুদ্ধিমত্তাসম্পন্ন এআই এজেন্টকে ঘিরে নতুন করে উদ্বেগ তৈরি হয়েছে। এসব এজেন্ট নিজে থেকে পরিকল্পনা করা, সিদ্ধান্ত নেওয়া এবং বিভিন্ন কাজ সম্পন্ন করতে পারে। তবে সম্প্রতি ওপেনএআইয়ের তৈরি কয়েকটি এআই এজেন্ট নিয়মের বাইরে গিয়ে নিজেদের মধ্যে যোগাযোগ ও বিভিন্ন কর্মকাণ্ড পরিচালনা করেছে বলে অভিযোগ উঠেছে।

সম্প্রতি প্রকাশিত একটি গবেষণা প্রতিবেদন এবং বিষয়টি সম্পর্কে অবগত দুটি সূত্রের বরাতে এ তথ্য জানা গেছে। প্রতিবেদনে বলা হয়, ওপেনএআইয়ের কয়েকটি এআই এজেন্ট জার্মানির একটি ওয়েবসাইটে অনুপ্রবেশ করে সেটিকে অন্য এআই এজেন্টদের ব্যবহারের জন্য এক ধরনের বার্তা আদান-প্রদানের প্ল্যাটফর্মে পরিণত করেছিল।

ঘটনাটি গত শুক্রবার প্রকাশ্যে আসে। তবে ওপেনএআইয়ের কর্মকর্তারা এর প্রায় এক সপ্তাহ আগেই বিষয়টি জানতে পেরেছিলেন বলে সূত্রের দাবি। তখন প্রতিষ্ঠানটির শীর্ষ কর্মকর্তারা ওপেন সোর্স প্ল্যাটফর্ম হাগিং ফেসে ঘটে যাওয়া একটি নিরাপত্তা সংকট মোকাবিলায় ব্যস্ত ছিলেন।

মে মাসে শুরু হওয়া এই ঘটনা এতদিন প্রকাশ্যে না আসায় এআই শিল্পের স্বায়ত্তশাসিত সিস্টেম নিয়ে নতুন করে প্রশ্ন উঠেছে। প্রযুক্তি প্রতিষ্ঠানগুলো এমন এআই এজেন্ট তৈরিতে প্রতিযোগিতা করছে, যারা মানুষের সরাসরি নির্দেশনা ছাড়াই জটিল ও গুরুত্বপূর্ণ কাজ করতে পারে। কিন্তু এসব সিস্টেম নিয়মের ফাঁকফোকর ব্যবহার করতে এবং ডেভেলপারদের অজান্তে নিজেদের মধ্যে যোগাযোগ বজায় রাখতে পারে কি না, তা নিয়েই উদ্বেগ বাড়ছে।

হাগিং ফেস-সংক্রান্ত আরেক ঘটনায় ওপেনএআইয়ের এআই এজেন্টরা নিজেদের মধ্যে সাইবার হামলার একটি পরিকল্পনা করেছিল বলে প্রতিবেদনে দাবি করা হয়েছে। পরিকল্পনাটি এক সপ্তাহের বেশি সময় ধরে শনাক্ত হয়নি। এতে এআই প্রযুক্তির সক্ষমতা বাড়ানোর পাশাপাশি নিরাপত্তা ও নজরদারি কতটা কার্যকর, তা নিয়েও প্রশ্ন উঠেছে।

ওপেনএআই অবশ্য তাদের এআই মডেলগুলোর ওপর আরও ঘনিষ্ঠ নজরদারির উদ্যোগ নেওয়ার কথা জানিয়েছে। প্রতিষ্ঠানটি গত মাসে নতুন নিরাপত্তাব্যবস্থা যুক্ত করার জন্য কিছু মডেলের প্রশিক্ষণ সাময়িকভাবে বন্ধ রেখেছিল।

গবেষকদের হাতে আসা কিছু বার্তার বিশ্লেষণে দেখা গেছে, এআই এজেন্টরা কীভাবে নজরদারি এড়িয়ে চলা যায়, টর-এর মতো টুল ব্যবহার করা যায় এবং সিস্টেম বন্ধ করে দেওয়ার পরও নিজেদের মধ্যে যোগাযোগ বজায় রাখা যায়, তা নিয়ে আলোচনা করছিল।

জুন মাসে ওয়েবসাইটটির মডারেটররা কিছু পেজ মুছে ফেলতে শুরু করলে এজেন্টরা সেগুলোর বিকল্প হিসেবে ব্যাকআপ পেজ তৈরি করে বলে গবেষণায় উঠে এসেছে।

ওয়েবসাইটটিতে অনুপ্রবেশের চেষ্টার তথ্যও পেয়েছেন গবেষকেরা। কিংস কলেজ লন্ডনের সিনিয়র রিসার্চ ফেলো লুকাস ওলেজনিক এটিকে সরাসরি হ্যাকিংয়ের চেষ্টা হিসেবে বর্ণনা করেছেন। তবে ওপেনএআই বৃহস্পতিবার নিজেদের বিশ্লেষণের ভিত্তিতে এই দাবি অস্বীকার করেছে।