এআই নৈতিকতা ও নিরাপত্তা
যখন এআই (AI) ভুল পথে হাঁটে
২০১৮ সালের কথা। অ্যামাজন (Amazon) দেখল তাদের সিলেকশন টুলটি ইঞ্জিনিয়ার হিসেবে নিয়োগের ক্ষেত্রে মেয়েদের যোগ্যতাকে কমিয়ে দেখাচ্ছে। কারণ এআই (AI) গত ১০ বছরের সিভির উপর ভিত্তি করে ট্রেইন করা হয়েছিল। সেখানে বেশিরভাগ ইঞ্জিনিয়ারই ছিল পুরুষ। ফলে এআই (AI) ভাবতে শুরু করল যে পুরুষ হওয়াটাই হয়তো জেতার একটি শর্ত!
এআই (AI) নিজে থেকে খারাপ কিছু করতে চায়নি। সে শুধু অতীতে করা মানুষের ভুলগুলোকেই কপি করছিল। এটাই হলো এআই বায়াস (AI Bias)।
অন্যদিকে, ২০২৪ সালে হংকংয়ের একটি কোম্পানির এক কর্মচারী ভিডিও কলে তার বসের সাথে কথা বলে ২৫ মিলিয়ন ডলার ট্রান্সফার করে দেন। পরে দেখা যায়, ওই ভিডিও কলে যার সাথে সে কথা বলছিল, সেটি ছিল একটি এআই-জেনারেটেড ডিপফেক (Deepfake)। আসল বস তখন অন্য কোথাও ছিলেন।
এগুলো কোনো মুভির গল্প নয়, এগুলো বাস্তবে আমাদের চারপাশে ঘটছে। তাই এআই (AI) শিখতে গেলে তার নৈতিক দিকগুলো জানা সবচেয়ে বেশি জরুরি।
বৈষম্য বা বায়াস (Bias): আবর্জনা দিলে ফলাফলও আবর্জনাই হবে
কম্পিউটার সায়েন্সে একটি কথা আছে — 'গার্বেজ ইন, গার্বেজ আউট'। আপনি যদি এআই-কে এমন তথ্য দিয়ে শেখান যেখানে বৈষম্য আছে, তবে এআই-এর কাজও হবে বৈষম্যপূর্ণ।
বৈষম্য বা বায়াস কেন হয়?
- অতীতের ডাটা: আমাদের সমাজে অতীতে অনেক ক্ষেত্রেই বৈষম্য ছিল। এআই যখন সেই ডাটা থেকে শেখে, সে নিজেও তা করতে শুরু করে।
- তথ্যের অভাব: যদি এআই-কে শুধু এক ধরণের মানুষের ছবি বা কথা চেনানো হয়, তবে সে অন্য ধরণের মানুষদের চিনতে ভুল করবে।
বাস্তব জীবনের উদাহরণ
- স্বাস্থ্যসেবায় বায়াস: আমেরিকায় দেখা গেছে একটি এআই টুল কৃষ্ণাঙ্গ রোগীদের তুলনায় শ্বেতাঙ্গ রোগীদের বেশি যত্ন দিতে বলছে, কারণ ঐতিহাসিকভাবে শ্বেতাঙ্গ রোগীরা হাসপাতালে বেশি টাকা খরচ করত। এআই টাকার খরচ দেখে ভেবেছে তারা বেশি অসুস্থ!
- চাকরি বা লোন: অনেকের জিপ কোড বা এলাকা দেখে এআই মনে করতে পারে তারা লোন শোধ করতে পারবে না, যা অনেক সময় বৈষম্য তৈরি করে।
প্রাইভেসি: কে নজর রাখছে?
এআই যখন আপনার ডাটা বিশ্লেষণ করে, তখন আপনার গোপনীয়তা বা প্রাইভেসিতে আঘাত হানার ঝুঁকি থাকে।
- ফেসিয়াল রিকগনিশন: সিসিটিভি ক্যামেরার মাধ্যমে আপনার অজান্তেই এআই আপনাকে ট্র্যাক করতে পারে।
- সোশ্যাল মিডিয়া ডাটা: আপনি অনলাইনে কী দেখছেন বা কী লিখছেন, তা এআই দিয়ে বিশ্লেষণ করে আপনার মানসিক অবস্থা বা পছন্দ-অপছন্দ বের করা যায়।
ডিপফেক (Deepfakes): যা দেখছেন তা সব সময় সত্যি নয়
এআই দিয়ে তৈরি অডিও বা ভিডিও যা একদম আসল মানুষের মতো দেখতে ও শুনতে — তাকেই ডিপফেক বলে।
- রাজনৈতিক ঝুঁকি: নির্বাচনের আগে ভুয়া ভিডিও বানিয়ে ভোটারদের বিভ্রান্ত করা হতে পারে।
- আর্থিক প্রতারণা: কণ্ঠস্বর বা চেহারা নকল করে টাকা হাতিয়ে নেওয়া।
- বিশ্বাসযোগ্যতার সংকট: যখন সবকিছুই নকল করা সম্ভব, তখন মানুষ আসল ছবি বা ভিডিওকেও ফেইক বলে উড়িয়ে দিতে পারে।
কাজ হারানোর ভয় কি সত্যি?
সবচেয়ে বড় প্রশ্নটি হলো — এআই কি আমাদের চাকরি খেয়ে ফেলবে?
- কিছু কাজ বদলে যাবে: যেমন- ব্যাংকের ডাটা এন্ট্রি বা ক্লার্কের কাজ। তবে মানুষ থাকবে সেই এআই-কে তদারকি করার জন্য।
- নতুন কাজের সুযোগ: প্রম্পট ইঞ্জিনিয়ার বা এআই ট্রেইনারের মতো অনেক নতুন পেশা তৈরি হচ্ছে যা ৫ বছর আগেও ছিল না।
- মানুষের সৃজনশীলতা: এআই যত উন্নতই হোক না কেন, মানুষের সহানুভূতি, আবেগ এবং জটিল সিদ্ধান্ত নেওয়ার ক্ষমতা এআই-এর নেই।
কোম্পানিগুলো কী করছে?
দায়িত্বশীল কোম্পানিগুলো এখন এআই (AI)-কে আরও নিরাপদ করতে বেশ কিছু পদক্ষেপ নিচ্ছে:
- সেফটি টিম (Safety Teams): তারা চেষ্টা করে যেন এআই (AI) কোনো হিংসাত্মক বা ভুল উত্তর না দেয়।
- রেড টিমিং (Red Teaming): একদল বিশেষজ্ঞ এআই (AI) সিস্টেমকে ইচ্ছে করে ভাঙার বা তার থেকে ভুল উত্তর বের করার চেষ্টা করে, যাতে সাধারণ মানুষ ব্যবহারের আগেই ত্রুটিগুলো ঠিক করা যায়।
- আইনকানুন: ইউরোপের 'এআই অ্যাক্ট' (AI Act)-এর মতো বিভিন্ন দেশে এখন এআই (AI) ব্যবহারের নীতিমালা তৈরি হচ্ছে।