একজন বাবা তার সন্তানের সংক্রমিত কুঁচকির ছবি গুগলে সংরক্ষণ করার পর তার গুগল ফটোস অ্যাকাউন্ট লক হয়ে গেছে। অনলাইনে একজন ডাক্তারকে দেখানোর জন্য তিনি ছবিটি তুলেছিলেন। নিউ ইয়র্ক টাইমসের মতে, ফটোগুলোকে একটি কৃত্রিম বুদ্ধিমত্তা দ্বারা সম্ভাব্য শিশু যৌন নির্যাতনের উপাদান হিসেবে শনাক্ত করেছে। এই ঘটনাটি পুলিশ তদন্ত পর্যন্ত গড়িয়েছে।
ঘটনাটি ২০২১ সালের ফেব্রুয়ারিতে ঘটেছিল। তখনো কিছু ডাক্তারের চেম্বার করোনা মহামারির কারণে বন্ধ ছিল। তাই কার্যত পরামর্শ চলছিল অনলাইনে।
তার অ্যাকাউন্টটি মার্ক করা হয়েছে বলে দেখা যায়, এমনকি সংশ্লিষ্ট অভিভাবক তার ই-মেইল, পরিচিতি, ফটো, এমনকি তার ফোন নম্বরের অ্যাকসেসও হারিয়েছেন। তার আবেদনও বারবার প্রত্যাখ্যান করা হয়েছে। ওই বছরের ডিসেম্বরে সান ফ্রান্সিসকো পুলিশ বিভাগ তদন্ত করে দেখেছিল, ঘটনাটি ‘অপরাধের উপাদানগুলোর সাথে মিলিত হয়নি এবং কোনো অপরাধও ঘটেনি। ’
এটি অপমানজনক ডিজিটাল উপাদান শনাক্ত করতে এআই প্রযুক্তি ব্যবহারের জটিলতাকে হাইলাইট করে। যেটি বর্তমানে গুগল, ফেসবুক, টুইটার এবং রেডডিট ব্যবহার করছে।
গুগল ২০১৮ সালে প্রকাশিত তার কনটেন্ট সেফটি এপিআই এআই টুলকিট ব্যবহার করে গুগল ফটোসে আপলোড করা ছবি এবং ভিডিও স্ক্যান করে। এই এআইকে শিশু যৌন নির্যাতনের উপাদানের (CSAM) ‘হ্যাশ’ বা অনন্য ডিজিটাল আঙুলের ছাপ চিনতে প্রশিক্ষণ দেওয়া হয়েছে। একটি ডাটাবেসে পরিচিত এসসিএএমের সাথে হ্যাশের মিল করার পাশাপাশি, এটি পূর্বে অদেখা চিত্রগুলোকে শ্রেণিবদ্ধ করতে সক্ষম।
টুলটি এমন কিছু পেলে সেগুলোকে অগ্রাধিকার দেয় যেগুলোকে এটি ক্ষতিকারক বলে মনে করে সেগুলোকে মডারেটরদের কাছে পাঠিয়ে দেয়। যেকোনো বেআইনি উপাদান পেলে ন্যাশনাল সেন্টার ফর মিসিং অ্যান্ড এক্সপ্লয়েটেড চিলড্রেনকে (NCMEC) রিপোর্ট করা হয়, যেটি উপযুক্ত আইন প্রয়োগকারী সংস্থার সাথে যোগাযোগ করে এবং এটি প্ল্যাটফর্ম থেকে সরিয়ে দেওয়া হয়।
এ ঘটনার পর গুগলের মুখপাত্র ক্রিস্টা মুলডুন দ্য ভার্জকে বলেন, ‘আমাদের শিশু সুরক্ষা বিশেষজ্ঞদের দল নির্ভুলতার জন্য ক্ষতিকর বিষয়বস্তু পর্যালোচনা করে এবং শিশু বিশেষজ্ঞদের সাথে পরামর্শ করে। যাতে আমরা এমন বিষয়গুলো শনাক্ত করতে পারি, যেখানে ব্যবহারকারীরা ডাক্তারি পরামর্শ চাইতে পারেন। ’