💼 মাইক্রোসফ্ট সিইও সত্য নাদেলা উন্নত কৃত্রিম বুদ্ধিমত্তা (AI) সিস্টেমের জন্য একটি 'জরুরী ব্রেক' (emergency brake) চালু করার আহ্বান জানিয়েছেন। তিনি মনে করেন, এই প্রযুক্তি যত উন্নত হচ্ছে, ততই মানুষের নিয়ন্ত্রণ থাকা অপরিহার্য। 🤖
⚠️ নাদেলা বলেছেন যে, কোম্পানিগুলির উচিত উন্নত AI মডেলগুলিকে সম্ভাব্য অভ্যন্তরীণ হুমকি (insider risks) হিসেবে বিবেচনা করা। এর অর্থ এই নয় যে মডেলগুলি ক্ষতিকারক, বরং তারা ভুল করতে পারে বা গুরুত্বপূর্ণ সিস্টেমে অ্যাক্সেস পেলে আপোসকৃত হতে পারে। ⚙️
🚨 তিনি আরও উল্লেখ করেন যে, AI মডেলগুলির কার্যকারিতা সম্পূর্ণরূপে বোঝা বা ভবিষ্যদ্বাণী করা কঠিন হলেও, কোম্পানিগুলি তাদের সংবেদনশীল তথ্য এবং গুরুত্বপূর্ণ কাজ সম্পাদনের ক্ষমতা দিচ্ছে। এই পরিস্থিতিতে, একটি 'জরুরী ব্রেক' ব্যবস্থা থাকা উচিত যা এজেন্টিক মডেলগুলিকে (agentic models) অনিয়ন্ত্রিত হওয়া থেকে রক্ষা করবে। 🛑
🤝 নাদেলা জোর দিয়ে বলেছেন যে, AI মডেলগুলির নির্মাতাদের দেওয়া আশ্বাসের উপর কেবল নির্ভর করা উচিত নয়। বরং, "আমাদের অবশ্যই ধরে নিতে হবে যে একটি মডেল আপোসকৃত হয়েছে এবং শুরু থেকেই এটিকে নিয়ন্ত্রণ করতে হবে।" তিনি এটিকে একটি 'জরুরী ব্রেক'-এর মতো উল্লেখ করেছেন, যেখানে একজন অনুমোদিত ব্যক্তি সর্বদা একটি কাজ চলাকালীন একটি মডেলকে থামাতে বা বন্ধ করতে সক্ষম হবেন। ✋
📊 তিনি আরও বলেন যে, AI সিস্টেমগুলির জন্য একটি প্রকৌশল-ভিত্তিক পদ্ধতির প্রয়োজন যা মানব তদারকি, বাহ্যিক সুরক্ষা এবং নিয়মিত পরীক্ষার সমন্বয় করে। কোম্পানিগুলিকে নিশ্চিত করতে হবে যে AI মডেলগুলি স্পষ্টভাবে সংজ্ঞায়িত সীমার মধ্যে কাজ করে এবং মানুষ তাদের ক্রিয়াকলাপের উপর নিয়ন্ত্রণ বজায় রাখে। 🌐
💡 এই আহ্বানটি এমন এক সময়ে এসেছে যখন AI মডেলগুলির অপ্রত্যাশিত আচরণের ঘটনাগুলি, যেমন অ্যানথ্রপিক (Anthropic) এবং ওপেনএআই (OpenAI)-এর মতো সংস্থাগুলির দ্বারা প্রকাশিত হয়েছে, যা AI-এর নিরাপত্তা ঝুঁকি সম্পর্কে উদ্বেগ বাড়িয়েছে। 📈
