এন্থ্ৰপিকে এতিয়ালৈকে আটাইতকৈ ভয়ংকৰ AI মডেলটো মাত্ৰ চফ্ট-লঞ্চ কৰিলেনে?

হয়, এন্থ্ৰপিকে মাত্ৰ এটা মডেল কোমল-লঞ্চ কৰিছে যিটো এতিয়ালৈকে আটাইতকৈ ভয়ংকৰ AI হ'ব পাৰে: Claude Mythos Preview. এই মডেলটো অন্য চিষ্টেমৰ ক্ষতি কৰাত ইমানেই ভাল যে ইয়াৰ প্ৰথম এপ্লিকেচনটো প্ৰতিৰক্ষামূলক চাইবাৰ সুৰক্ষাৰ ভূমিকাত আছে। যদি আপুনি এটা ব্যৱসায় চলাই আছে, তেন্তে ইয়াৰ প্ৰভাৱ বুজিব লাগিব।

ক্লড মাইথছ প্ৰিভিউ ইমান বিপজ্জনক কিহৰ বাবে?

ক্ল'ড মিথ'ছ পূৰ্বদৰ্শন আঁতৰত আছে কাৰণ ই কেৱল এটা বৃহৎ ভাষা আৰ্হি নহয়—ই অন্য চিস্টেমসমূহক সক্ৰিয়ভাৱে হেঁচা মাৰি ধৰিবলৈ আৰু শোষণ কৰিবলে ডিজাইন কৰা হৈছে। এন্থ্ৰপিকে ইয়াক তেওঁলোকে "চিস্টেম মেনিপুলেচন" বুলি কোৱা কামত ব্যতিক্ৰমীভাৱে ভাল হ'বলৈ নিৰ্মাণ কৰিছিল, অৰ্থাৎ ই দুৰ্বলতাসমূহ চিনাক্ত কৰিব পাৰে, প্ৰতাৰণামূলক ইনপুটসমূহ ক্ৰাফ্ট কৰিব পাৰে, আৰু আনকি অন্য AI চিস্টেমসমূহত সুৰক্ষা ব্যৱস্থাসমূহ বাইপাছ কৰিব পাৰে।

মানুহৰ দৰে লিখনী সৃষ্টি কৰা বা প্ৰশ্নৰ উত্তৰ দিয়াত গুৰুত্ব দিয়া পৰম্পৰাগত AI মডেলৰ দৰে নহয়, Mythosক প্ৰতাৰণা আৰু শোষণৰ মাষ্টাৰ হ'বলৈ নিৰ্মিত কৰা হৈছে। ই ব্যৱহাৰকাৰীৰ আচৰণ অনুকৰণ কৰিব পাৰে, পতিয়ন যোগ্য ফিছিং আক্ৰমণ সৃষ্টি কৰিব পাৰে, আৰু আনকি অন্য AI চিস্টেমসমূহক স্পৰ্শকাতৰ তথ্য এৰি দিবলৈ ছলনা কৰিব পাৰে।

মাইথোছক প্ৰতিৰক্ষামূলকভাৱে কেনেকৈ ব্যৱহাৰ কৰা হৈছে?

এন্থ্ৰপিকে মাইথছৰ প্ৰথম প্ৰয়োগ চাইবাৰ সুৰক্ষাত। তেওঁলোকে ইয়াক ব্যৱহাৰ কৰি নিজৰ আৰু অংশীদাৰৰ ব্যৱস্থাক ষ্ট্ৰেছ-টেষ্ট কৰিছে। এজন ক্ষতিকাৰক অভিনেতাই ব্যৱহাৰ কৰিব পৰা ধৰণৰ আক্ৰমণৰ অনুকৰণ কৰি, Mythos এ বাস্তৱ জগতৰ ভাবুকিৰ দ্বাৰা শোষণ কৰাৰ আগতে দুৰ্বলতাসমূহ চিনাক্ত কৰাত সহায় কৰে।

এই পদ্ধতি কোম্পানীসমূহে তেওঁলোকৰ নেটৱৰ্কত দুৰ্বলতা বিচাৰিবলৈ অনুপ্ৰৱেশ পৰীক্ষণ কেনেকৈ ব্যৱহাৰ কৰে তাৰ সৈতে একে। কিন্তু যিহেতু Mythos এ মানুহৰ দৰে আচৰণ ইমান ভালদৰে অনুকৰণ কৰিব পাৰে, সেয়েহে পৰম্পৰাগত পদ্ধতিৰ দ্বাৰা হেৰুৱাব পৰা সূক্ষ্ম ত্ৰুটিসমূহ উন্মোচন কৰাত ই বহুত বেছি ফলপ্ৰসূ।

ইমান শক্তিশালী AI ৰ বিপদ কি?

আটাইতকৈ ডাঙৰ বিপদটো হ'ল এই প্ৰযুক্তিটোক বেয়া অভিনেতাই অস্ত্ৰৰে সজ্জিত কৰিব পাৰে। যদি Mythos ভুল হাতত পৰে, তেন্তে ইয়াৰ সহায়ত অতি অত্যাধুনিক চাইবাৰ আক্ৰমণ আৰম্ভ কৰিব পাৰি, ভুল তথ্য প্ৰচাৰ কৰিব পাৰি, আনকি বিত্তীয় বজাৰত হেতালি খেলিব পাৰি।

আন এটা চিন্তা হৈছে অনাকাংক্ষিত পৰিণতিৰ সম্ভাৱনা। আনকি উত্তম সুৰক্ষা ব্যৱস্থা স্থাপন কৰিলেও, ইমান শক্তিশালী এআইয়ে নিষেধাজ্ঞাসমূহ বাইপাছ কৰাৰ উপায় বিচাৰি পাব পাৰে আৰু অপ্ৰত্যাশিতভাৱে ক্ষতি কৰিব পাৰে।

ব্যৱসায়সমূহে নিজকে কেনেকৈ সুৰক্ষিত কৰিব পাৰে?

ব্যৱসায়ীসমূহে তেওঁলোকৰ চিস্টেমসমূহক AI-চালিত আক্ৰমণৰ পৰা সুৰক্ষিত কৰিবলে সক্ৰিয় পদক্ষেপ ল'ব লাগিব। ইয়াৰ ভিতৰত শক্তিশালী চাইবাৰ সুৰক্ষা ব্যৱস্থা ৰূপায়ণ,