ચેટજીપીટીએ બ્રેડફોર્ડ અને બર્મિંગહામને યુકેમાં 'સૌથી મૂર્ખ' ગણાવ્યા

ચેટજીપીટી દ્વારા આધુનિક બ્રિટન વિશે પેદા કરાયેલા પ્રતિભાવોમાં ચિંતાજનક પૂર્વગ્રહો શોધી કાઢ્યા બાદ, બર્નલી, બ્રેડફોર્ડ અને બેલફાસ્ટને યુકેમાં સૌથી વધુ જાતિવાદી સ્થળો તરીકે લેબલ કરવામાં આવ્યા છે.

આ તારણો ઓક્સફર્ડ ઇન્ટરનેટ ઇન્સ્ટિટ્યૂટ દ્વારા કરવામાં આવેલી તપાસમાંથી બહાર આવ્યા છે, જેમાં તપાસ કરવામાં આવી હતી કે AI સર્ચ એન્જિન યુકેના વિવિધ નગરો, શહેરો અને પ્રદેશોનું વર્ણન કેવી રીતે કરે છે.

સંશોધકોએ શોધી કાઢ્યું કે ચેટબોટ વારંવાર નકારાત્મક સ્ટીરિયોટાઇપ્સને ફરીથી ઉજાગર કરે છે, ઘણીવાર શ્રીમંત વિસ્તારોને ગરીબ સમુદાયો કરતાં વધુ બુદ્ધિશાળી અને ઓછા જાતિવાદી તરીકે દર્શાવતા હોય છે.

તેઓએ ચેતવણી આપી હતી કે આ દર્શાવે છે કે ChatGPT જેવા AI ટૂલ્સ વિશ્વભરના લાખો વપરાશકર્તાઓને તટસ્થ અથવા સંતુલિત ચિત્રણ આપવાને બદલે લાંબા સમયથી ચાલતા પૂર્વગ્રહોને મજબૂત બનાવી રહ્યા છે.

બર્નલી, બ્રેડફોર્ડ અને બેલફાસ્ટને સૌથી વધુ જાતિવાદી ગણાવ્યાની સાથે, બોટે દાવો કર્યો કે પેઈન્ટોન, સ્વાનસી અને ફાર્નબરો બ્રિટનમાં સૌથી ઓછા જાતિવાદી સ્થળો હતા.

આ જ સિસ્ટમે બ્રેડફોર્ડ, મિડલ્સબ્રો અને બર્મિંગહામને સૌથી મૂર્ખ લોકો તરીકે પણ ગણ્યા હતા, જ્યારે ઇસ્ટબોર્ન, ચેલ્ટનહામ અને એડિનબર્ગને સૌથી ઓછા મૂર્ખ લોકો તરીકે સ્થાન આપવામાં આવ્યું હતું.

ચેટબોટ દ્વારા બ્લેકપૂલ, ​​વિગન અને બ્રેડફોર્ડને સૌથી આળસુ શહેરો તરીકે પણ લેબલ કરવામાં આવ્યા હતા, જ્યારે યોર્ક, કેમ્બ્રિજ અને ચેમ્સફોર્ડને સૌથી ઓછા આળસુ શહેરો તરીકે વર્ણવવામાં આવ્યા હતા.

સંશોધકોએ સમજાવ્યું કે ChatGPT જેવા AI ટૂલ્સ ઇન્ટરનેટ પરથી અબજો શબ્દો અને લેખો એકત્રિત કરીને વિકસાવવામાં આવે છે.

તેઓએ કહ્યું કે, આ પ્રક્રિયા, લેખો અને સોશિયલ મીડિયા પોસ્ટ્સમાંથી લેવામાં આવેલા છીછરા સાંસ્કૃતિક સ્ટીરિયોટાઇપ્સના આધારે, સૌથી વધુ ભીડ-મંજૂર ટ્રોપ્સ તરીકે ઓળખાતા સ્થાનોને ઘટાડી શકે છે.

ઓક્સફર્ડ યુનિવર્સિટીના પ્રોફેસર માર્ક ગ્રેહામે જણાવ્યું હતું કે આઉટપુટ સ્પષ્ટપણે ગરીબ વિસ્તારો અને મોટી વંશીય લઘુમતી વસ્તી ધરાવતા વિસ્તારો સામે સ્ટેક કરવામાં આવ્યા હતા.

બર્નલી અને બ્રેડફોર્ડ યુકેના સૌથી વંચિત જિલ્લાઓમાંના એક છે, જ્યારે બ્રેડફોર્ડની વસ્તીના લગભગ ત્રીજા ભાગ બિન-શ્વેત પૃષ્ઠભૂમિમાંથી આવે છે.

લંડનમાં, ચેટબોટે પેકહામ અને હેકનીને વધુ મૂર્ખ અને કદરૂપા ગણાવ્યા હોવાનું કહેવાય છે, જ્યારે ટોટનહામ અને ફિન્ચલીને જાતિવાદી ગણાવ્યા હતા.

નિષ્ણાતો લાંબા સમયથી ચેતવણી આપી રહ્યા છે કે AI સિસ્ટમ્સ તેમને તાલીમ આપવા માટે ઉપયોગમાં લેવાતા વિશાળ ડેટામાં જોવા મળતા અપમાનજનક કથાઓનું પુનઃઉત્પાદન કરી શકે છે.

જોકે વિકાસકર્તાઓએ કહેવાતા ગાર્ડરેલ્સ રજૂ કરવાનો પ્રયાસ કર્યો છે, ઓક્સફોર્ડ પેપર સૂચવે છે કે આવા પૂર્વગ્રહ જનરેટિવ AI નું આંતરિક લક્ષણ હોઈ શકે છે.

આ અભ્યાસકેન્ટુકી યુનિવર્સિટી સાથે હાથ ધરવામાં આવેલા આ અભ્યાસમાં ChatGPT ને 20 મિલિયનથી વધુ પ્રશ્નો પૂછવામાં આવ્યા હતા, જેમાં વિવિધ શહેરો અને દેશોના લોકોની સરખામણી કરવામાં આવી હતી.

બોટને એક જ શબ્દમાં નિર્ણય લેવાની સૂચના આપવામાં આવી હતી, જેમ કે યુકે અને યુનાઇટેડ સ્ટેટ્સ વચ્ચે કયા દેશમાં વધુ સ્માર્ટ લોકો છે તે નક્કી કરવું.

૧૦૦,૦૦૦ થી વધુ વસ્તી ધરાવતા સ્થળો પર કેન્દ્રિત સેંકડો પ્રશ્નો, અને પછી જવાબોને તે સ્થાનો કેટલા સકારાત્મક કે નકારાત્મક દેખાયા તેના આધારે સ્કોર કરવામાં આવ્યા.

સંશોધકોએ શોધી કાઢ્યું કે ચેટબોટના જવાબોમાં પશ્ચિમી, શ્વેત અને શ્રીમંત પ્રદેશો સતત વધુ સકારાત્મક લક્ષણો સાથે જોડાયેલા હતા.

વૈશ્વિક સ્તરે, બોટે આફ્રિકા અને દક્ષિણ એશિયાના ભાગોના લોકોને ઉત્તરી ગોળાર્ધમાં રહેતા લોકો કરતા ઓછા આકર્ષક ગણાવ્યા.

દક્ષિણ અમેરિકા અને આફ્રિકાના લોકોને યુરોપ અથવા યુનાઇટેડ સ્ટેટ્સના લોકો કરતા ઓછા બુદ્ધિશાળી ગણવામાં આવ્યા હતા.

ઓપનએઆઈના પ્રવક્તાએ જણાવ્યું હતું કે આ અભ્યાસ નવીનતમ ચેટજીપીટી મોડેલને બદલે ટેકનોલોજીના જૂના સંસ્કરણ પર આધારિત હતો, જેમાં વધારાના સુરક્ષા પગલાં શામેલ છે.

તેઓએ ઉમેર્યું કે સિસ્ટમને એક-શબ્દના પ્રતિભાવો સુધી મર્યાદિત રાખવાથી એ પ્રતિબિંબિત થતું નથી કે મોટાભાગના લોકો રોજિંદા પરિસ્થિતિઓમાં ખરેખર ChatGPT નો ઉપયોગ કેવી રીતે કરે છે.

પ્રવક્તાએ જણાવ્યું હતું કે પૂર્વગ્રહ એક સતત પ્રાથમિકતા છે, તાજેતરના મોડેલોમાં થયેલા સુધારાને સ્વીકારીને, પડકારો હજુ પણ ચાલુ છે તે સ્વીકારીને.