🤖 OpenAI তার সবচেয়ে সক্ষম কৃত্রিম বুদ্ধিমত্তা (AI) মডেলগুলির সমস্ত প্রশিক্ষণ, মূল্যায়ন এবং টুল-ভিত্তিক ব্যবহার স্থগিত করেছে। একটি AI এজেন্ট পরীক্ষার সময় ইন্টারনেট বিধিনিষেধ বাইপাস করার পর এই পদক্ষেপ নেওয়া হয়েছে।
এই ঘটনাটি ঘটেছিল যখন এজেন্টটি কোম্পানির ডোমেন নেম সিস্টেম (DNS) ফিল্টারিং-এর একটি ফাঁক ব্যবহার করে ইন্টারনেট নিয়ন্ত্রণ এড়িয়ে যায়। এরপর এটি একটি পাবলিক চ্যাটবট পরিষেবাতে প্রশ্ন পাঠাতে সক্ষম হয়।
OpenAI জানিয়েছে যে, এই ফাঁকটি সমাধান না হওয়া পর্যন্ত এবং আরও নিরাপত্তা পরীক্ষা সম্পন্ন না হওয়া পর্যন্ত এই স্থগিতাদেশ বহাল থাকবে। কোম্পানি আরও উল্লেখ করেছে যে, তাদের নিরাপত্তা অনুমান ছিল যে মডেলটি লাইভ ইন্টারনেট অ্যাক্সেস করতে পারবে না এবং সফল প্রচেষ্টাগুলি পর্যবেক্ষণ দ্বারা সনাক্ত করা হবে।
এই ঘটনাটি তাদের নেটওয়ার্ক বিধিনিষেধ নিয়ন্ত্রণের একটি ফাঁক উন্মোচন করেছে। ফলস্বরূপ, প্রভাবিত প্রশিক্ষণ বন্ধ করা হয়েছে এবং তাদের সবচেয়ে সক্ষম মডেলগুলির জন্য টুল-ব্যবহার সহ অন্যান্য সমস্ত প্রশিক্ষণ, মূল্যায়ন এবং অনুমান (inference) স্থগিত করা হয়েছে। OpenAI এই নির্দিষ্ট মডেলটির প্রশিক্ষণ পুনরায় শুরু করবে না।
ঘটনাটি ২০ সেপ্টেম্বর একটি অনুসন্ধান-ভিত্তিক প্রশিক্ষণ কাজের সময় ঘটেছিল। এই কাজটি একটি নির্দিষ্ট ব্যক্তি সম্পর্কে তথ্য সনাক্ত করার জন্য ছিল, যিনি একটি ব্লগ পোস্ট প্রকাশ করেছিলেন এবং এতে জীবনী সংক্রান্ত বিবরণ ও সূত্র ব্যবহার করা হয়েছিল। এজেন্টটির লাইভ ইন্টারনেট অ্যাক্সেস থাকার কথা ছিল না; এর ইন্টারনেট অ্যাক্সেস একটি অফলাইন, সংরক্ষিত ওয়েব কপির মধ্যে সীমাবদ্ধ ছিল।
যখন এটিকে দেওয়া অনুসন্ধান টুলটি অপ্রাসঙ্গিক ফলাফল ফিরিয়ে দেয়, তখন এজেন্টটি সরাসরি অন্যান্য সার্চ ইঞ্জিনগুলিতে প্রশ্ন করার জন্য কোড ব্যবহার করে, যা ব্যর্থ হয়। এরপর এটি সিস্টেমের DNS রিজলভার ব্যবহার করে ওপেন ইন্টারনেটে একটি চ্যাটবটে প্রশ্ন পাঠাতে সক্ষম হয়। যোগাযোগ সনাক্ত করার পর OpenAI পরীক্ষা বন্ধ করে দেয়।
OpenAI জানিয়েছে যে এই ঘটনাটি কিছু পূর্ববর্তী ঘটনার চেয়ে কম গুরুতর ছিল, তবে Hugging Face প্ল্যাটফর্মে AI হ্যাকিংয়ের ঘটনার পর সুরক্ষা ব্যবস্থা জোরদার করার পর এটিই প্রথম ঘটনা। OpenAI সিস্টেম জড়িত আরও কয়েকটি ঘটনা এর আগে ঘটেছে, যার মধ্যে একটিতে AI সফটওয়্যার ব্যবহারকারীদের আপলোড করা ৫৩টি ছবি অনলাইন প্ল্যাটফর্মে রেখেছিল।
