Fearful of bias, Google blocks gender-based pronouns from new AI tool

গুগল এমন এক সময় সুযোগ প্রত্যাখ্যান করেছিল যখন লিঙ্গ বিষয়গুলি রাজনীতি ও সমাজকে পুনঃনির্ধারণ করছে, এবং সমালোচকরা কৃত্রিম বুদ্ধিমত্তাতে আগে কখনোই সম্ভাব্য পক্ষপাতের পরীক্ষা নিচ্ছেন না।
সান ফ্রান্সিসকো: মে মাসে আলফাবাট ইনকর্পোরেটেডের গুগল জিমেইল এর জন্য একটি চটকদার বৈশিষ্ট্য উপস্থাপন করেছে যা ব্যবহারকারীদের টাইপ করার সময় স্বয়ংক্রিয়ভাবে বাক্যগুলি সম্পূর্ণ করে। "আমি ভালোবাসি" আলতো চাপুন এবং Gmail "আপনি" বা "এটি" প্রস্তাব করতে পারে। কিন্তু ব্যবহারকারীরা যদি তাদের স্নেহের বস্তুটি "তাকে" বা "তার" বলে ভাগ্য না করে থাকে।

Google এর প্রযুক্তি লিঙ্গ-ভিত্তিক সর্বনামকে সুপারিশ করবে না কারণ এটির "স্মার্ট রচনা" প্রযুক্তিটি কারো যৌন বা লিঙ্গ পরিচয় ভুলভাবে পূর্বাভাস দিতে পারে এবং ব্যবহারকারীদের অপমান করতে পারে, পণ্য নেতারা সাক্ষাত্কারে রয়টার্সকে প্রকাশ করেন।
জিমেইল প্রোডাক্ট ম্যানেজার পল ল্যাম্বার্ট বলেন, "আগামী সপ্তাহে আমি একজন বিনিয়োগকারীকে দেখাচ্ছি" টাইপ করার সময় জানুয়ারিতে একটি কোম্পানির গবেষণা বিজ্ঞানী আবিষ্কার করেছিলেন এবং স্মার্ট কম্পোজ একটি সম্ভাব্য ফলোআপ প্রশ্ন প্রস্তাব করেছিলেন: "আপনি কি তার সাথে দেখা করতে চান?" পরিবর্তে "তার।"
স্মার্টফোনের স্বতঃস্ফূর্ত থেকে গ্রাহকরা বিব্রতকর গাফ্ফের অভ্যস্ত হয়ে পড়েছেন। কিন্তু গুগল এমন এক সময় সুযোগ প্রত্যাখ্যান করেছিল যখন লিঙ্গ বিষয়গুলি রাজনীতি ও সমাজকে পুনঃনির্ধারণ করছে, এবং সমালোচকরা কৃত্রিম বুদ্ধিমত্তাতে আগের মতো সম্ভাব্য পক্ষপাতের পরীক্ষা নিচ্ছেন না।

"সব 'স্ক্রু আপ' সমান নয়," ল্যাম্বার্ট বলেন। লিঙ্গ একটি ভুল "বড়, বড় জিনিস"।

স্মার্ট রচনা সঠিক অধিকার ব্যবসা জন্য ভাল হতে পারে। প্রতিযোগীতার তুলনায় এআই এর আরও ভাল দিক থেকে গুগল বুঝতে পেরেছে যে এটি ব্র্যান্ডের জন্য আনুগত্য গড়ে তুলতে কোম্পানির কৌশল এবং এটির এআই-চালিত ক্লাউড কম্পিউটিং সরঞ্জাম, বিজ্ঞাপন পরিষেবা এবং হার্ডওয়্যারগুলিতে গ্রাহকদের আকর্ষণ করে।
জিমেইল 1.5 বিলিয়ন ব্যবহারকারী, এবং ল্যাম্বার্ট বলেন স্মার্টফোন বিশ্বব্যাপী Gmail.com থেকে পাঠানো বিশ্বব্যাপী 11 শতাংশ বার্তাগুলিতে সহায়তা করে যেখানে এটি প্রথম বৈশিষ্ট্যটি চালু হয়েছিল।

স্মার্ট কম্পোজ এআই ডেভেলপারদের প্রাকৃতিক ভাষা প্রজন্মের (এনএলজি) নামক একটি উদাহরণ যা উদাহরণস্বরূপ, সাহিত্য, ইমেল এবং ওয়েব পৃষ্ঠাগুলিতে শব্দের মধ্যে সম্পর্কের ধরন এবং সম্পর্কগুলি অধ্যয়ন করে বাক্য লেখার জন্য একটি উদাহরণ।

কোটি কোটি মানুষের বাক্য দেখানো একটি সিস্টেম সাধারণ বাক্যাংশগুলি পূরণে মেনে চলে কিন্তু সাধারণতার দ্বারা সীমাবদ্ধ। পুরুষদের অর্থ ও বিজ্ঞানের মতো দীর্ঘস্থায়ী ক্ষেত্র রয়েছে, উদাহরণস্বরূপ, প্রযুক্তিটি এমন তথ্য থেকে শেষ হবে যে কোনও বিনিয়োগকারী বা প্রকৌশলী "তিনি" বা "তাকে"। বিষয় প্রায় প্রতিটি প্রধান কারিগরি কোম্পানী ভ্রমণ।
ল্যামবার্ট বলেন, প্রায় 15 প্রকৌশলী ও ডিজাইনার স্মার্ট কম্পোজ টিমের বেশ কয়েকটি ওয়ার্কারন্ড ব্যবহার করা হয়েছে, কিন্তু কেউই পক্ষপাতহীন বা উপযুক্ত প্রমাণিত হয়নি। তারা সেরা সমাধান ছিল কঠোরতম সিদ্ধান্ত নিয়েছে: সীমাবদ্ধতা সীমিত। গ্র্যান্ডার্ড সর্বনাম নিষিদ্ধের ক্ষেত্রে 1 শতাংশেরও বেশি বিষয় প্রভাবিত করে যেখানে স্মার্ট কম্পোজ কিছু প্রস্তাব করবে, ল্যাম্বার্ট বলেছিলেন।

"একমাত্র নির্ভরযোগ্য কৌশল আমাদের রক্ষণশীল হতে হবে," বলেছেন প্রভাষক রাঘবান, যিনি সাম্প্রতিক প্রচার না হওয়া পর্যন্ত জিমেইল এবং অন্যান্য পরিষেবাদিগুলির প্রকৌশল তত্ত্বাবধান করেন।
নতুন নীতি

Google এর নিরাপত্তার জন্য লিঙ্গটি ব্যবহার করার সিদ্ধান্ত কোম্পানির ভবিষ্যদ্বাণীপূর্ণ প্রযুক্তির জন্য কিছু উচ্চ প্রফাইল বিব্রতকরতা অনুসরণ করে।

২015 সালে কোম্পানী তার ছবির ছবির স্বীকৃতির বৈশিষ্ট্যটি কালো দম্পতিকে গরিলা হিসাবে লেবেল করার জন্য ক্ষমা চেয়েছিল। ২016 সালে ব্যবহারকারীরা যখন ইহুদিদের সম্পর্কে তথ্য চেয়েছিল তখন সেমিটিক-বিরোধী সেমিটিক প্রশ্ন "ইহুদী মন্দ" বলে প্রস্তাবিত হওয়ার পরে তার অনুসন্ধান ইঞ্জিনের স্বতঃপূর্ণ কার্য পরিবর্তন করে।

গুগল তার ভবিষ্যদ্বাণীপূর্ণ প্রযুক্তির থেকে ব্যতিক্রম এবং জাতিগত slurs নিষিদ্ধ করেছে, পাশাপাশি তার ব্যবসায়িক প্রতিদ্বন্দ্বী বা দুঃখজনক ঘটনা উল্লেখ।
কোম্পানির নতুন নীতি নিষিদ্ধ সর্বনাম নিষিদ্ধ এছাড়াও গুগলের স্মার্ট প্রতিক্রিয়া সম্ভাব্য প্রতিক্রিয়া তালিকা প্রভাবিত। সেই পরিষেবাটি ব্যবহারকারীদের পাঠ্য বার্তাগুলি এবং সংক্ষিপ্ত শব্দগুলির সাথে ইমেলগুলিকে অবিলম্বে সাড়া দেওয়ার অনুমতি দেয় যেমন "ভাল শোনাচ্ছে।"

গুগল নতুন পক্ষপাত উন্মোচনের জন্য তার এআই নীতিশাস্ত্র দল দ্বারা উন্নত পরীক্ষার ব্যবহার করে। একটি স্প্যাম ও অপব্যবহারকারী দল হ্যাকার বা সাংবাদিক হিসাবে চিন্তা করে "রসিক" গাফেসগুলি খুঁজে বের করার চেষ্টা করে সিস্টেমগুলিতে পোকা দেয়, ল্যাম্বার্ট বলেছিলেন।

যুক্তরাষ্ট্রের বাইরের শ্রমিকরা স্থানীয় সাংস্কৃতিক বিষয়গুলির সন্ধান করে। স্মার্ট কম্পোজ শীঘ্রই চারটি ভাষায় কাজ করবে: স্প্যানিশ, পর্তুগীজ, ইতালীয় এবং ফ্রেঞ্চ।

প্রকৌশলীর নেতা রাঘবান বলেন, "আপনার অনেক মানুষের তত্ত্বাবধান দরকার, কারণ প্রতিটি ভাষায়, অযৌক্তিকতার নেটটি ভিন্ন কিছুকে আচ্ছাদিত করে।"
ব্যাপক চ্যালেঞ্জ
গুগল লিঙ্গ ভিত্তিক সর্বনাম সমস্যা সঙ্গে কুস্তি একমাত্র প্রযুক্তি কোম্পানি নয়।

নিউইয়র্কের থমসন রয়টার্স থেকে বিনিয়োগ পেয়েছে এমন এজোগো, ব্যবসায়িক নথির সারসংক্ষেপে এআই ব্যবহার করে।

এর প্রযুক্তি নির্ভরযোগ্যভাবে কোনও নথিতে নির্ধারণ করতে পারে না যা সর্বনাম নামে পরিচিত। এজোগার প্রধান প্রযুক্তি কর্মকর্তা মোহাম্মদ আলতান্তওয়াই বলেন, ব্যবহারকারীরা আরও প্রাসঙ্গিকতার জন্য এই সারসংক্ষেপটি বেশ কয়েকটি বাক্য তুলে ধরেছে।


তিনি বলেন, আর কপি অনুপস্থিত বিবরণ চেয়ে ভাল। "ক্ষুদ্রতম ভুল মানুষকে আত্মবিশ্বাস হারিয়ে ফেলবে," অ্যালান্টান্টি বলেছেন। "মানুষ 100 শতাংশ সঠিক চান।"
তবুও, অসিদ্ধতা থাকে। গুগল এবং অ্যাপল ইনকর্পোরেটেড দ্বারা উত্পন্ন ভবিষ্যদ্বাণীপূর্ণ কীবোর্ড সরঞ্জামগুলি "বিক্রয়" এর জন্য "পুলিশ" এবং "বিক্রয়কারী" সম্পূর্ণ করার জন্য "পুলিশ সদস্য "কে প্রস্তাব করে।

গুগল অনুবাদে নিরপেক্ষ তুর্কি ফ্রেজ "এক একজন সৈনিক" টাইপ করুন এবং এটি ইংরেজিতে "সে একজন সৈনিক" হয়ে যায়। অতএব আলিবাবা এবং মাইক্রোসফ্ট কর্পোরেশন থেকে অনুবাদ সরঞ্জামগুলি করুন। Amazon.com Inc ক্লাউড কম্পিউটিং গ্রাহকদের জন্য তার অনুবাদ পরিষেবাটিতে একই বাক্যাংশের জন্য "সে" পছন্দ করে।
এআই বিশেষজ্ঞরা একটি দাবিত্যাগ এবং একাধিক সম্ভব অনুবাদ প্রদর্শন কোম্পানীর উপর আহ্বান জানিয়েছে।

মাইক্রোসফ্ট এর লিংকডইন বলেছে যে এটি সম্ভাব্য ত্রুটির মুখোমুখি হতে তার বছরের পুরনো ভবিষ্যদ্বাণীমূলক বার্তা সরঞ্জাম, স্মার্ট উত্তরগুলিতে, জেন্ডারযুক্ত সর্বনামগুলি এড়িয়ে চলবে।

আলিবাবা ও আমাজন মন্তব্য করার অনুরোধ জানায়নি।

সাউথ ক্যারোলিনা ভিত্তিক অটোমেটেড ইনসাইটস ইনকর্পোরেটেডের ডারহামের ইন্টিগ্রেশন ইঞ্জিনিয়ার ইঞ্জিনিয়ার জন হেগেল বলেন, জটিল কম্পোজেসগুলির মতো সতর্কতা এবং সীমাবদ্ধতাগুলি জটিল সিস্টেমে সর্বাধিক ব্যবহৃত প্রতিক্রিয়া হিসাবে রয়ে যায়, যা পরিসংখ্যান থেকে সংবাদ নিবন্ধ তৈরি করে।
"শেষ লক্ষ্য একটি সম্পূর্ণ মেশিন-জেনেটিক সিস্টেম যেখানে এটি জাদুকরী কি লিখতে জানে," হেজেল বলেন। "অগ্রগতি একটি টন হয়েছে কিন্তু আমরা এখনো সেখানে নেই।"