અલ્ગોરિધમિક પક્ષપાત: ગણિતના નિયમો માણસોના જૂના પૂર્વગ્રહોને કેવી રીતે આગળ વધારે છે?

કમ્પ્યુટરના આંકડા હંમેશા સાચા અને નિષ્પક્ષ હોય છે ખરા?

આપણા મનમાં એક પાકો વિશ્વાસ બેસી ગયો છે: માણસ ભૂલો કરી શકે છે, માણસને રાગ-દ્વેષ હોઈ શકે છે, પણ કમ્પ્યુટર તો માત્ર ગણિતના સૂત્રો પર ચાલે છે એટલે તે ક્યારેય પક્ષપાત ન કરે. પણ કલ્પના કરો કે એક મોટી બહુરાષ્ટ્રીય કંપનીમાં નોકરી માટે હજારો અરજીઓ આવી છે. કંપનીએ ઉમેદવારોની પસંદગી માટે એક અત્યાધુનિક આર્ટિફિશિયલ ઇન્ટેલિજન્સ સોફ્ટવેર ગોઠવ્યું. થોડા મહિના પછી ધ્યાને આવ્યું કે સોફ્ટવેરે મહિલા ઉમેદવારો અને ગ્રામીણ પૃષ્ઠભૂમિ ધરાવતા હોશિયાર યુવાનોની અરજીઓ આપોઆપ નકારી કાઢીને માત્ર ચોક્કસ વર્ગના પુરુષોને જ ઇન્ટરવ્યુ માટે પસંદ કર્યા હતા! ગણિતના અંકોમાં આ ભેદભાવ ક્યાંથી ઘૂસી ગયો?

આ સમસ્યાને ટેકનોલોજીમાં અલ્ગોરિધમિક બાયસ એટલે કે અલ્ગોરિધમિક પક્ષપાત કહેવાય છે. કમ્પ્યુટર એ એક અરીસા જેવું છે; માનવ સમાજે ભૂતકાળમાં જે કંઈ કર્યું છે, તે જ તે આપણને આધુનિક રૂપે પાછું બતાવે છે.

જૂના ચોપડા જોઈને ભરતી કરતી પસંદગી સમિતિ

આ ગંભીર ખામી સમજવા માટે એક જૂની ઔદ્યોગિક પેઢીની ભરતી સમિતિની કલ્પના કરો. પેઢીના વડા એક નવા યુવાન મેનેજરને કહે છે, 'છેલ્લા પચાસ વર્ષમાં આપણી મિલમાં જે શ્રેષ્ઠ સુપરવાઇઝરોએ કામ કર્યું હોય, તેમના તમામ જૂના ચોપડા અને હાજરી રજિસ્ટર વાંચી કાઢો અને તેમના જેવા જ હોશિયાર ઉમેદવારોને આ વર્ષે નોકરી આપો.' પેલો યુવાન ઉત્સાહથી પચાસ વર્ષ જૂના ચોપડા ખોલીને બેસી જાય છે.

તે જમાનામાં એવી સામાજિક સ્થિતિ હતી કે ફેક્ટરીના મોટા હોદ્દા પર માત્ર ચોક્કસ વિસ્તારના પુરુષોને જ રાખવામાં આવતા હતા, મહિલાઓને ઘર બહાર નીકળવાની પણ છૂટ નહોતી. પેલો યુવાન અધિકારી એ જૂના આંકડા જોઈને એવો નિયમ બનાવી લે છે: 'સારો સુપરવાઇઝર બનવા માટે ચોક્કસ જાતિનો પુરુષ હોવો જ જરૂરી છે!' હવે જ્યારે આજના સમયની એક અત્યંત તેજસ્વી અને ગોલ્ડ મેડાલિસ્ટ દીકરી અરજી કરે છે, ત્યારે તે અધિકારી તેની અરજી બાજુએ મુકી દે છે. તે જાણીજોઈને દ્વેષ નથી કરતો, પણ તેના હાથમાં આપવામાં આવેલા જૂના ચોપડા જ અધૂરા અને એકતરફી હતા.

કમ્પ્યુટરની સિસ્ટમ બરાબર આ યુવાન અધિકારી જેવી છે. તેને તાલીમ આપવા માટે ઇન્ટરનેટ પરથી જે કરોડો પુસ્તકો, કાયદાઓ અને આંકડા આપવામાં આવે છે, તેમાં આપણો જૂનો ઇતિહાસ, જાતિવાદ અને લિંગભેદ ભરેલો હોય છે. કમ્પ્યુટર તેને જ પરમ સત્ય માનીને ભવિષ્યના નિર્ણયો પર મહોર મારી દે છે.

અલ્ગોરિધમિક પક્ષપાતનું નુકસાન ક્યાં ક્યાં થાય છે?

જીવનના અત્યંત સંવેદનશીલ ક્ષેત્રોમાં આ અદ્રશ્ય ભેદભાવ સામાન્ય માણસના અધિકારો છીનવી શકે છે:

• નોકરીની અરજીઓની સ્વયંચાલિત ચકાસણી: મહિલાઓ કે નાના ગામડાંના તેજસ્વી યુવાનોની અરજીઓને કમ્પ્યુટર ઓછા ગુણ આપીને ઇન્ટરવ્યુ પહેલાં જ રદ કરી નાખે છે.
• બેંક લોન અને ક્રેડિટ સ્કોરની ગણતરી: કોઈ ચોક્કસ પિનકોડ કે વિસ્તારમાં રહેતા મહેનતુ ગરીબ લોકોને સોફ્ટવેર વધારે જોખમી માનીને વ્યાજબી લોન આપવાનો ઇનકાર કરે છે.
• ચહેરાની ઓળખ અને પોલીસ તપાસ: શ્યામ રંગની ચામડી ધરાવતા લોકોના ચહેરા ઓળખવામાં સોફ્ટવેર વધુ ભૂલો કરે છે, જેનાથી નિર્દોષ લોકો શંકાના દાયરામાં આવી જાય છે.
• હેલ્થ ઇન્સ્યોરન્સ અને હોસ્પિટલ સારવાર: અમીર વર્ગના જૂના ખર્ચાઓ જોઈને ગરીબ દર્દીઓને ઓછી સારવારની જરૂર છે તેવા ખોટા તારણો કમ્પ્યુટર કાઢે છે.

પક્ષપાત અટકાવવા માટેના જરૂરી પગલાં અને વિવેક

કમ્પ્યુટરના આંકડાઓને આખરી ન્યાય માનવાને બદલે માનવીય વિવેક અને ન્યાયબુદ્ધિની કસોટી કરવી ખૂબ જરૂરી છે.

• તાલીમ માટે સંતુલિત અને સર્વસમાવેશક ડેટા વાપરો: સિસ્ટમમાં તમામ ધર્મ, જ્ઞાતિ, ભાષા અને મહિલાઓનું સમાન પ્રતિનિધિત્વ હોય તેવા સાચા આંકડા દાખલ કરવા જોઈએ.
• સ્વયંચાલિત નિર્ણયોનું નિયમિત ઓડિટ કરો: કમ્પ્યુટરના નિર્ણયોમાં કોઈ વર્ગ સામે પદ્ધતિસરનો અન્યાય તો નથી થતો ને તેની નિષ્ણાતો દ્વારા તપાસ થવી જોઈએ.
• સંવેદનશીલ નિર્ણયોમાં આખરી સત્તા માણસ પાસે રાખો: નોકરી, લોન કે અદાલતી બાબતોમાં કમ્પ્યુટર માત્ર ભલામણ કરે, પરંતુ આખરી નિર્ણય હંમેશા વિવેકી અધિકારીએ પોતે લેવો જોઈએ.

ટેકનોલોજી ત્યારે જ સાચી પ્રગતિશીલ ગણાય જ્યારે તે દરેક નાગરિક સાથે સમાનતા અને આદરપૂર્વક વર્તે. ગણિતના અંચળા પાછળ છુપાયેલા ભેદભાવને દૂર કરીને ન્યાયી સમાજ રચવો એ જ માનવજાતની સર્વોચ્ચ ફરજ છે.