"'આક્રોશ અર્થતંત્ર'ના હજુ વધુ પુરાવા."
યુકેના વડા પ્રધાન કીર સ્ટારમરનો એક AI-જનરેટેડ વીડિયો, જેમાં ડાઉનિંગ સ્ટ્રીટના એક લેક્ચરમાં ઇસ્લામિક પોશાક પહેરીને ઉભા હતા, તે યુએસ-ઈરાન યુદ્ધ ફાટી નીકળ્યા પછી તરત જ ઓનલાઈન ફરતો થયો.
થોડા જ દિવસોમાં, તેને ફેસબુક અને ઇન્સ્ટાગ્રામ પર લગભગ 400,000 વ્યૂઝ મળ્યા.
ક્લિપમાં, અવતાર એક બનાવટી અને ઉશ્કેરણીજનક ભાષણ આપે છે, જેમાં ઇસ્લામોફોબિક ભાષા અને પાકિસ્તાની લોકોને લક્ષ્ય બનાવતી વંશીય અપશબ્દોનો સમાવેશ થાય છે.
પહેલી નજરે, તે બીજા ઉદાહરણ જેવું લાગે છે AI- સોશિયલ મીડિયા પ્લેટફોર્મ પર ઝડપથી ફેલાતી રાજકીય ખોટી માહિતી.
પરંતુ આ સામગ્રીનું મૂળ તે ધારણાને અણધારી રીતે જટિલ બનાવે છે.
અનુસાર બ્યુરો તપાસ કરે છે, સર્જક પાકિસ્તાન સ્થિત મુસ્લિમ માણસ છે જે ધાર્મિક ખાતા પણ ચલાવે છે.
તેમનો કેસ એક વધતી જતી અને અસ્વસ્થતાભરી વાસ્તવિકતાને ઉજાગર કરે છે: AI ટૂલ્સ ફક્ત સામગ્રી નિર્માણનું લોકશાહીકરણ જ નથી કરી રહ્યા, પરંતુ તેઓ વિચારધારા, ઉદ્દેશ્ય અને નફા વચ્ચેની સીમાને પણ તોડી રહ્યા છે.
જે ઉભરી આવે છે તે એક ઓનલાઈન ઇકોસિસ્ટમ છે જ્યાં આક્રોશ મોટા પાયે ઉત્પન્ન થાય છે, ઘણીવાર માન્યતા, સમજણ અથવા ભાષા કૌશલ્યથી પણ અલગ.
બ્રિટન ટુડે પાછળના સર્જક
આ સામગ્રી પાછળનો માણસ યુકેના પ્રેક્ષકોને લક્ષ્ય બનાવતા સોશિયલ મીડિયા પૃષ્ઠોનું નેટવર્ક ચલાવતો હતો.
સૌથી પ્રખ્યાત પૈકીનું એક બ્રિટન ટુડે નામનું ફેસબુક પેજ હતું, જેના 192,000 ફોલોઅર્સ હતા, તેની સાથે 44,000 ફોલોઅર્સ સાથેનું ઇન્સ્ટાગ્રામ એકાઉન્ટ અને 11,000 ફોલોઅર્સ સાથે ટિકટોકની હાજરી હતી.
સાથે મળીને, તેઓએ AI-જનરેટેડ મીમ્સ, વિડિઓઝ અને પુનઃઉપયોગી ક્લિપ્સના સતત પ્રવાહ દ્વારા લાખો વ્યૂઝ જનરેટ કર્યા.
બ્યુરો ઇન્વેસ્ટિગેટ્સે અહેવાલ આપ્યો છે કે સર્જકે જાળવી રાખ્યું હતું કે તેમનો મુખ્ય હેતુ નાણાકીય અસ્તિત્વ હતો, અને કહ્યું હતું કે તેઓ એક જ પૃષ્ઠમાંથી દર મહિને લગભગ $1,500 કમાતા હતા.
તેમણે આઉટલેટને કહ્યું: "તમે પાકિસ્તાનની પરિસ્થિતિ, પેટ્રોલ અને પરિસ્થિતિઓથી વાકેફ છો. જે કોઈ આ કામ કરી રહ્યું છે તે કમાણી કરવા માટે કરી રહ્યું છે.
"અમને સમાચારોમાં કોઈ રસ નથી. મેં વીડિયોમાં શું કહેવામાં આવી રહ્યું છે, શું લખ્યું છે અને શું નથી લખ્યું તે પણ જોયું નથી."
આ સામગ્રીમાં બ્રિટિશ રાજકારણીઓના AI-જનરેટેડ ચિત્રણથી લઈને "મહાન રિપ્લેસમેન્ટ" કથા જેવા કાવતરાના સિદ્ધાંતોને પ્રોત્સાહન આપતા મીમ્સનો સમાવેશ થતો હતો, જે ખોટા દાવા કરે છે કે બિન-શ્વેત ઇમિગ્રન્ટ્સ ઇરાદાપૂર્વક શ્વેત વસ્તીને બદલી રહ્યા છે.
અન્ય પોસ્ટ્સમાં મુસ્લિમો જાહેરમાં પ્રાર્થના કરે છે તેને "પ્રભુત્વની વ્યૂહરચના" અને "પશ્ચિમનું આક્રમણ" ગણાવ્યું હતું.
મેટાએ પાછળથી એકાઉન્ટ્સને ફ્લેગ કર્યા પછી દૂર કર્યા, પરંતુ તેમની સામગ્રી પ્લેટફોર્મ પર વ્યાપકપણે પ્રસારિત થાય તે પહેલાં નહીં.
એક પ્રવક્તાએ કહ્યું: "અમારી પાસે સ્પષ્ટ સમુદાય ધોરણો છે જે દ્વેષપૂર્ણ ભાષણ, ઉત્પીડન, હાનિકારક ખોટી માહિતી અને અપ્રમાણિક વર્તનને પ્રતિબંધિત કરે છે અને અમે અમારી નીતિઓનું ઉલ્લંઘન કરવા બદલ આ એકાઉન્ટ્સ દૂર કર્યા છે."
આક્રોશનું ઔદ્યોગિકીકરણ
આ કેસને ખાસ કરીને મહત્વપૂર્ણ બનાવે છે તે માત્ર સામગ્રી જ નહીં પરંતુ ઉત્પાદનની પદ્ધતિ પણ છે.
નિર્માતાએ કહ્યું: "બધી સામગ્રી, પેજનું નામ પણ અને બધું જ, વિડિઓઝમાં જે સામગ્રી છે, તે AI છે."
ગ્રોક, ગૂગલના ઇમેજ જનરેટર વ્હિસ્ક, જેમિની, કેપકટ અને ચેટજીપીટી જેવા ટૂલ્સ કન્ટેન્ટ ક્રિએશનને સ્વચાલિત કરવા માટે રચાયેલ વર્કફ્લોનો ભાગ હતા.
વ્યવહારમાં, આનો અર્થ ટ્રેન્ડિંગ વિષયો શોધવા, સારાંશની નકલ કરવા, તેમને વિડિઓ ટૂલ્સમાં પેસ્ટ કરવા અને AI-સંચાલિત દ્રશ્યો અને મિનિટોમાં કૅપ્શન્સ.
તેમણે ધ બ્યુરો ઇન્વેસ્ટિગેટ્સને કહ્યું: “જો યુકેમાં વિરોધ પ્રદર્શનો અને વસ્તુઓ હોય, તો તે વિડિઓઝ હું ટ્વિટર અથવા ટિકટોક પરથી પસંદ કરું છું.
"આ બધી વસ્તુઓ કોપી-પેસ્ટ છે... હું આને ત્યાંથી ઉપાડીને ફેસબુક પર મુકું છું."
તેમણે એવો પણ દાવો કર્યો હતો કે તેમણે YouTube ટ્યુટોરિયલ્સ દ્વારા મુદ્રીકરણ તકનીકો શીખી છે અને અન્ય સર્જકો પાસેથી ચૂકવણી કરીને માર્ગદર્શન આપ્યું છે. મેટાની પોતાની મુદ્રીકરણ સિસ્ટમ્સ, જે જાહેરાત પ્લેસમેન્ટ અને બોનસ દ્વારા ઉચ્ચ-સગાઈ સામગ્રીને પુરસ્કાર આપે છે, તે તેમની આવક વ્યૂહરચનાનો એક ભાગ હતી.
આ મોડેલ ડિજિટલ સામગ્રી ઇકોસિસ્ટમમાં વ્યાપક પરિવર્તનને પ્રતિબિંબિત કરે છે, જ્યાં ઉદ્દેશ્ય અથવા ચોકસાઈને બદલે જોડાણ દૃશ્યતા અને પુરસ્કાર નક્કી કરે છે.
સેન્ટર ફોર ઇમર્જિંગ ટેકનોલોજી એન્ડ સિક્યુરિટીના વરિષ્ઠ સંશોધક સેમ સ્ટોકવેલે આને "શેડો ઇન્ફ્લુએન્સર" અર્થતંત્ર તરીકે વર્ણવ્યું.
“આ મોડેલ રાજકીય વિચારધારા કરતાં નિષ્ક્રિય આવકને પ્રાથમિકતા આપે છે, જે વિભાજનકારી સામગ્રીને નફાકારક વસ્તુમાં ફેરવે છે.
"સોશિયલ મીડિયા અલ્ગોરિધમ્સ જે રીતે ઉચ્ચ-સગાઈના મેટ્રિક્સને પ્રાથમિકતા આપે છે તેનો ઉપયોગ કરીને, આ સર્જકો સમજી રહ્યા છે કે ઝેનોફોબિક અથવા એન્ટિ-એસ્ટાબ્લિશમેન્ટ કથાઓ વાયરલ થવાના સૌથી કાર્યક્ષમ માર્ગો છે અને તેથી પૈસા છે."
પરિણામ એક એવી વ્યવસ્થા છે જ્યાં ખોટી માહિતી માટે વૈચારિક પ્રતિબદ્ધતાની જરૂર નથી. તેને ફક્ત ધ્યાન આપવાની જરૂર છે.
રાજકીય અસર
બ્રિટન ટુડે દ્વારા પ્રકાશિત સામગ્રી યુકેમાં વાસ્તવિક દુનિયાના રાજકીય પ્રવચન સાથે સીધી રીતે સંકળાયેલી હતી, ખાસ કરીને ઇમિગ્રેશન, ઇસ્લામોફોબિયા અને લંડનના મેયર સાદિક ખાન જેવા જાહેર વ્યક્તિઓની આસપાસ.
કેટલીક પોસ્ટ્સમાં ખાન બ્રિટિશ મુસ્લિમો દ્વારા સામનો કરવામાં આવતા પૂર્વગ્રહ વિશે બોલતા હોય તેવા વાસ્તવિક ફૂટેજનો ઉપયોગ કર્યો હતો, પરંતુ તેને "જ્યારે [મુસ્લિમો] મહિલાઓ અને બાળકો પર બળાત્કાર કરે છે" તેવા આરોપ લગાવતા કેપ્શન સાથે ફરીથી જોડવામાં આવ્યા હતા.
અન્ય પોસ્ટ્સમાં ટ્રફાલ્ગર સ્ક્વેરમાં ઇફ્તાર કાર્યક્રમ જેવા જાહેર ધાર્મિક મેળાવડાને "વસાહતીકરણ કાર્યક્રમ" તરીકે વર્ણવવામાં આવ્યા હતા.
સાદિક ખાનના પ્રવક્તાએ આ કેસને "આક્રોશ અર્થતંત્ર" ના વધુ પુરાવા ઓનલાઈન ગણાવીને તારણોનો જવાબ આપ્યો.
તેઓએ કહ્યું: “આ ભયાનક ઉદાહરણ 'આક્રોશ અર્થતંત્ર'નો વધુ પુરાવો છે જ્યાં લોકો ઓનલાઈન ફેલાવવામાં આવતી ઝેરી વાર્તાઓથી નફો કમાઈ રહ્યા છે, જેમાં મુસ્લિમ લંડનવાસીઓને નિશાન બનાવતી વાર્તાઓનો પણ સમાવેશ થાય છે.
"સોશિયલ મીડિયા કંપનીઓએ તેમના પ્લેટફોર્મ પર જૂઠાણા અને નફરતના ફેલાવાને રોકવા માટે ઘણું બધું કરવું જોઈએ, અને તે બનાવનારા અને પ્રસારિત કરનારાઓને નાણાકીય રીતે પુરસ્કાર મળતા અટકાવવા જોઈએ."
રાજકીય ચિંતા વ્યક્તિગત કેસો ઉપરાંત ફેલાયેલી છે.
સાયન્સ, ઇનોવેશન અને ટેકનોલોજી સિલેક્ટ કમિટીમાં બેઠેલા એમિલી ડાર્લિંગ્ટન સાંસદે પ્રણાલીગત નબળાઈ અંગે ચેતવણી આપતા કહ્યું કે "યુકેમાં સ્પષ્ટપણે નફરત ફેલાવતી સામગ્રીનું બજાર છે".
એઆઈ-જનરેટેડ ઇસ્લામોફોબિક સામગ્રી પાછળના નિર્માતાએ દાવો કર્યો હતો કે તે જે સામગ્રીનું વિતરણ કરી રહ્યો હતો તે સંપૂર્ણપણે સમજી શક્યો નથી:
"મને બરાબર અંગ્રેજી આવડતું નથી અને પછી મને સમજાતું નથી કે તેમની પાસે શું છે અને શું નથી લખ્યું."
"પણ હવે જે થઈ ગયું તે થઈ ગયું. તમે મને કહ્યું તે સારી વાત છે. હું તમારો આભારી છું."
તેમણે ધ બ્યુરો ઇન્વેસ્ટિગેટ્સને કહ્યું કે તેઓ પોસ્ટ્સ ડિલીટ કરશે અને ભવિષ્યમાં સમાન સામગ્રી ટાળશે, જોકે, મેટા દ્વારા હસ્તક્ષેપ ન થાય ત્યાં સુધી ઘણા વાંધાજનક વિડિઓઝ ઓનલાઈન રહ્યા.
આ કેસ આખરે જે દર્શાવે છે તે ફક્ત મધ્યસ્થતાની નિષ્ફળતા નથી, પરંતુ ઓનલાઇન પ્રભાવ હવે કેવી રીતે કાર્ય કરે છે તેમાં માળખાકીય પરિવર્તન છે.
AI ટૂલ્સે પ્રવેશ માટેના અવરોધને એટલા નોંધપાત્ર રીતે ઘટાડી દીધા છે કે સમજણ, ઉદ્દેશ્ય અથવા ભાષાની સરળતા વિના સામગ્રીનું ઉત્પાદન, અનુવાદ અને મુદ્રીકરણ કરી શકાય છે.
અલ્ગોરિધમ-સંચાલિત મુદ્રીકરણ પ્રણાલીઓ સાથે મળીને, આણે "નફા માટે અત્યાચાર" સામગ્રી માટે વૈશ્વિક પાઇપલાઇન બનાવી છે.
આ નવા ઇકોસિસ્ટમમાં, વિચારધારા વૈકલ્પિક છે. વાયરલિટી વૈકલ્પિક નથી.
લોડ કરી રહ્યું છે ...