ই-পেপার বৃহস্পতিবার, ১৯ নভেম্বর ২০২৬, ৪ অগ্রহায়ণ ১৪৩৩

এআইয়ের ‘উদ্বেগজনক’ আচরণের ৬ নতুন ঘটনা প্রকাশ করল ওপেনএআই

আমার বার্তা অনলাইন:
১৭ সেপ্টেম্বর ২০২৬, ১২:২৮

কৃত্রিম বুদ্ধিমত্তা বা এআই নিয়ে নিরাপত্তা উদ্বেগ আরও বাড়ছে। এবার নিজেদের এআই মডেলের ছয়টি ‘অপ্রত্যাশিত বা উদ্বেগজনক’ আচরণের কথা প্রকাশ করেছে প্রযুক্তি প্রতিষ্ঠান ওপেনএআই।

দ্য নিউইয়র্ক টাইমস জানিয়েছে, বুধবার এসব ঘটনা প্রকাশ করেছে প্রতিষ্ঠানটি। ভবিষ্যতে এআই মডেল নিয়ন্ত্রণের বাইরে চলে গেলে বা মানুষের উদ্দেশ্যের সঙ্গে তাদের আচরণের অমিল দেখা দিলে তা আরও নিয়মতান্ত্রিকভাবে জানানোর জন্য একটি নতুন কাঠামো চালুর কথাও জানিয়েছে তারা।

ওপেনএআই বলেছে, গত প্রায় ছয় মাসে এআই মডেলগুলোর উন্নয়ন ও পরীক্ষার সময় এসব ঘটনা ঘটেছে। এর মধ্যে ছিল ভুল তথ্য লুকানো, তথ্য বানিয়ে নেওয়া, অনুমতি ছাড়া ইন্টারনেট থেকে তথ্য বা প্রোগ্রামিং কী ব্যবহার করা এবং অনুমতি ছাড়া ফাইল ইন্টারনেটে তুলে দেওয়ার মতো ঘটনা।

ভুল লুকানোর চেষ্টা

একটি ঘটনায়, জিপিটি-৫.৬ সল মডেল নিজেদের জন্য লেখা গোপন নোটে ব্যবহারকারীর কাছ থেকে ভুল লুকানোর উপায় লিখেছিল। কোথাও তথ্য না পাওয়া গেলে তা বানিয়ে নেওয়া এবং তথ্যের বিভিন্ন উৎসের মধ্যে অসামঞ্জস্য আড়াল করার কথাও ওই নোটে ছিল।

নিজেদের সীমাবদ্ধতা উপেক্ষার নির্দেশ

অন্য একটি পরীক্ষাধীন এআই মডেল নিজেদের লেখা নোটে এমন নির্দেশনা যোগ করেছিল, যাতে নিজেদের ওপর থাকা কিছু সীমাবদ্ধতা উপেক্ষা করার কথা বলা হয়।

ওপেনএআই জানায়, এমন ২৭টি নোট শনাক্ত করা হয়েছে। এর একটি নোটে মডেলটি নিজেকে এমন একটি সত্তা হিসেবে বর্ণনা করেছিল, যা অন্য চ্যাটবটের মতো নির্দিষ্ট ভূমিকা বা পরিচয়ের মধ্যে আবদ্ধ নয়।

তথ্য না পেয়ে বানিয়ে নেওয়া

আরেক ঘটনায়, একটি এআই সিস্টেমকে সাধারণ একটি প্রশ্নের উত্তর দিতে বলা হলে সেটি অনলাইনে একটি প্রোগ্রামিং কী খুঁজে পায় এবং অনুমতি ছাড়াই ব্যবহার করে। পরে প্রয়োজনীয় তথ্য না পাওয়ায় মডেলটি কিছু তথ্য নিজের মতো করে তৈরি করে নেয়।

নিজের তৈরি ফাইলকে ওয়েব উৎস হিসেবে ব্যবহার

অন্য একটি পরীক্ষাধীন মডেল কোড ব্যবহার করে একটি সমস্যার সঠিক সমাধান করেছিল। কিন্তু উত্তরটির জন্য ওয়েব উৎসের উদ্ধৃতি দেওয়ার প্রয়োজন হলে সেটি নিজের তৈরি একটি ফাইল অনুমতি ছাড়াই ইন্টারনেটে আপলোড করে। পরে সেই ফাইলকেই উৎস হিসেবে ব্যবহার করে।

ফাইল খুঁজতে গিয়ে নিজেদের মধ্যে যোগাযোগ

আরও দুটি ঘটনায় এআই সিস্টেমগুলো নিজেদের মধ্যে যোগাযোগের বিকল্প পথ তৈরি করে। একটি ক্ষেত্রে, প্রয়োজনীয় ফাইল খুঁজতে গিয়ে তারা ওপেনএআইয়ের অভ্যন্তরীণ কোড রিপোজিটরিকে অস্থায়ী বার্তা আদান-প্রদানের জায়গা হিসেবে ব্যবহার করে।

অন্য ঘটনায়, একই কাজের সঙ্গে যুক্ত কয়েকটি এআই সিস্টেম নিজেদের মধ্যে সরাসরি যোগাযোগ করতে না পেরে পাবলিক ফাইল-শেয়ারিং ওয়েবসাইট ব্যবহার করে নথি আদান-প্রদান করে।

এআই নিরাপত্তা নিয়ে উদ্বেগ বাড়ছে

ওপেনএআই বলেছে, এসব ঘটনা বিচ্ছিন্ন উদাহরণ এবং এগুলো থেকে এ ধরনের আচরণ এআইয়ের মধ্যে কত ঘন ঘন ঘটে, তা বলা যাবে না। প্রকাশিত ছয়টি ঘটনায় কোনো বড় ধরনের ক্ষতি হয়নি। কয়েকটি ঘটনা এমন মডেলের সঙ্গে সম্পর্কিত, যেগুলো কখনো সাধারণ ব্যবহারকারীদের জন্য উন্মুক্ত করা হয়নি।

তবে এআইয়ের এমন আচরণ নিয়ে প্রযুক্তি শিল্পে নিরাপত্তা ও উন্নয়নের গতি নিয়ে বিতর্ক বাড়ছে। সম্প্রতি অ্যানথ্রপিকের প্রধান নির্বাহী দারিও অ্যামোদেই এআই উন্নয়নের গতি কমিয়ে ঝুঁকিগুলো বোঝার জন্য আরও সময় দেওয়ার প্রস্তাব দিয়েছেন।

ওপেনএআইও বলেছে, এআই শিল্প এখনো এআইয়ের লক্ষ্য ও আচরণকে মানুষের উদ্দেশ্যের সঙ্গে সামঞ্জস্যপূর্ণ রাখা এবং সেগুলোর ওপর যথেষ্ট নজরদারি নিশ্চিত করার সমস্যার পুরোপুরি সমাধান করতে পারেনি।

নতুন কাঠামোর আওতায় এআইয়ের অনুমতিবিহীন কাজ, নজরদারির বাইরে চলে যাওয়ার চেষ্টা এবং একাধিক এআই সিস্টেমের স্বতঃস্ফূর্তভাবে নিজেদের মধ্যে সমন্বয়ের মতো ঘটনাও প্রকাশ করা হবে। গুরুতর কোনো ঘটনা ঘটলে তা মার্কিন সরকারকে অবহিত করা হবে বলেও জানিয়েছে ওপেনএআই।

চ্যাটজিপিটিতে এলো ‘ওয়ালেট’ সুবিধা

কৃত্রিম বুদ্ধিমত্তার (এআই) মাধ্যমে কেনাকাটার অভিজ্ঞতায় নতুন মাত্রা যোগ করতে ‘চ্যাটজিপিটি ওয়ালেট’ চালু করেছে ওপেনএআই।

বিশ্বজুড়ে ইমেইল-ক্লাউডসহ বিভিন্ন সেবায় অচলাবস্থা

বিশ্বজুড়ে বড় ধরনের সেবা বিপর্যয়ের মুখে পড়েছে মাইক্রোসফট। এতে যুক্তরাষ্ট্র, জাপান, সিঙ্গাপুর, যুক্তরাজ্য ও অস্ট্রেলিয়াসহ

‘১০ বছর পর ক্যানসার-অ্যালঝাইমার হবে অতীত’ দাবি ডারিও আমোদেইর

ক্যানসার, অ্যালঝাইমার, হৃদরোগ-এমন কিছু রোগ রয়েছে, যেগুলোর চিকিৎসা খুঁজতে বছরের পর বছর ধরে গবেষণা করছেন

গুগল মিটের যে সুবিধাগুলো অনেকেই জানেন না

সাধারণ ব্যবহারকারীদের কাছে গুগল মিট ও জুমকে প্রায় একই ধরনের অ্যাপ মনে হতে পারে। দুটি
  • সর্বশেষ
  • জনপ্রিয়

দেশের সব বিমানবন্দরে সর্বোচ্চ সতর্কতা, নিরাপত্তা বাড়ানোর নির্দেশ

আইন-শৃঙ্খলা স্বাভাবিক রাখতে সাত জেলায় ৯৬ প্লাটুন বিজিবি মোতায়েন

লালমনিরহাটে পৌঁছেছেন প্রধানমন্ত্রী তারেক রহমান

রোহিঙ্গাদের মানবাধিকার রক্ষায় জাতিসংঘে প্রস্তাব গৃহীত

ইরানের বিরুদ্ধে রাসায়নিক ও জীবাণু অস্ত্র তৈরির অভিযোগ ট্রাম্পের

দিনব্যাপী সফরে লালমনিরহাটের পথে প্রধানমন্ত্রী তারেক রহমান

উত্তরা থেকে সাবেক শিক্ষামন্ত্রী নুরুল ইসলাম নাহিদ গ্রেপ্তার

পঞ্চগড়ে তাপমাত্রা নামল ১২.৫ ডিগ্রিতে, বাড়ছে শীতের তীব্রতা

মিয়ানমারের বিরুদ্ধে রোহিঙ্গা গণহত্যা মামলার রায় আজ

হরমুজ প্রণালিতে মাইন বিস্ফোরণে ৩ তেলবাহী জাহাজে আগুন

রাজধানীর কাঁঠালবাগানে গ্যাস বিস্ফোরণে শিশুসহ একই পরিবারের চারজন দগ্ধ

উত্তর বঙ্গোপসাগরে গভীর মেঘমালা, ৪ সমুদ্রবন্দরে ৩ নম্বর সতর্ক সংকেত

নড়াইলে কার্যক্রম নিষিদ্ধ আ.লীগের হামলায় কৃষকদল নেতাসহ নিহত ২

ভাসানীর রাজনীতি আজও প্রাসঙ্গিক, জিয়ার পথেই ধানের শীষ: স্বপন

গাজীপুরে গাড়ি ও পুলিশ বক্সে আগুনের ঘটনায় ৩৯ কারখানা বন্ধ, ৩০টিতে ছুটি ঘোষণা

১৯ নভেম্বর ঘটে যাওয়া নানান ঘটনা

শিশুদের নিরাপদ শৈশব নিশ্চিত করাই হোক সবার অঙ্গীকার

একনেকে ৩৩ হাজার কোটি টাকার ১৬ প্রকল্প অনুমোদন

সিরাজগঞ্জে স্বর্ণালংকারের লোভে মাকে হত্যা, ছেলেসহ গ্রেপ্তার ৩

শেখ হাসিনাকে দেশে ফিরিয়ে আনতে সরকারকে আইনি নোটিশ