યુકે સરકાર ગ્રોકની જાતીય છબીઓ પર કાર્યવાહીની માંગ કરે છે

ટેકનોલોજી સચિવ લિઝ કેન્ડલે એલોન મસ્કના X ને વિનંતી કરી છે કે તેઓ તેમના AI ચેટબોટ ગ્રોકનો ઉપયોગ બિન-સહમતિપૂર્ણ જાતીય છબીઓ બનાવવા માટે થઈ રહેલા મુદ્દાને તાત્કાલિક ઉકેલે.

X પર, એવા ઘણા ઉદાહરણો છે કે જેમાં વપરાશકર્તાઓએ ગ્રોકને મહિલાઓ અને છોકરીઓને ડિજિટલી કપડાં ઉતારવાનું કહ્યું હતું, કેટલીક વિનંતીઓ સાથે, લોકોને સંમતિ વિના બિકીની અથવા જાતીય પરિસ્થિતિઓમાં દેખાડવા માટે કહેવામાં આવ્યું હતું.

કેન્ડલે વર્ણવ્યું કે પરિસ્થિતિ "એકદમ ભયાનક" તરીકે.

તેણીએ ઉમેર્યું: "અમે આ અપમાનજનક છબીઓના પ્રસારને મંજૂરી આપી શકતા નથી અને આપીશું નહીં."

એક નિવેદનમાં, X એ કહ્યું: “અમે X પર ગેરકાયદેસર સામગ્રી, જેમાં બાળ જાતીય દુર્વ્યવહાર સામગ્રી (CSAM)નો સમાવેશ થાય છે, તેને દૂર કરીને, એકાઉન્ટ્સને કાયમી ધોરણે સસ્પેન્ડ કરીને અને જરૂર પડ્યે સ્થાનિક સરકારો અને કાયદા અમલીકરણ એજન્સીઓ સાથે કામ કરીને કાર્યવાહી કરીએ છીએ.

"જે કોઈ પણ વ્યક્તિ ગ્રોકનો ઉપયોગ કરશે અથવા ગેરકાયદેસર સામગ્રી બનાવવા માટે પ્રોત્સાહિત કરશે તેને ગેરકાયદેસર સામગ્રી અપલોડ કરવા જેવા જ પરિણામો ભોગવવા પડશે."

૫ જાન્યુઆરી, ૨૦૨૬ ના રોજ, ઓફકોમે જણાવ્યું હતું કે તેણે એલોન મસ્કની કંપની xAI સાથે "તાત્કાલિક સંપર્ક" કર્યો છે. તેણે પુષ્ટિ કરી કે તે ગ્રોક લોકોની "કપડા વગરની છબીઓ" બનાવી રહ્યો છે તેની ચિંતાઓની તપાસ કરી રહ્યો છે.

કેન્ડલે નિયમનકારના હસ્તક્ષેપને સમર્થન આપ્યું છે.

તેણીએ કહ્યું: "એ બિલકુલ સાચું છે કે ઓફકોમ આ બાબતને તાકીદની બાબત તરીકે જોઈ રહ્યું છે અને તેને જરૂરી લાગે તે કોઈપણ અમલીકરણ પગલાં લેવા માટે મારો સંપૂર્ણ ટેકો છે."

ગ્રોક એક મફત AI સહાયક છે જેમાં કેટલીક પેઇડ-ફોર પ્રીમિયમ સુવિધાઓ છે.

જ્યારે X વપરાશકર્તાઓ તેને પોસ્ટમાં ટેગ કરે છે ત્યારે તે તેમના પ્રોમ્પ્ટનો જવાબ આપે છે અને તેનો ઉપયોગ ઘણીવાર અન્ય વપરાશકર્તાઓની ટિપ્પણીઓમાં પ્રતિક્રિયાઓ અથવા સંદર્ભ ઉમેરવા માટે થાય છે.

જોકે, તે વિષયની સંમતિ વિના AI ટૂલ્સનો ઉપયોગ કરીને અપલોડ કરેલી છબીઓને પણ સંપાદિત કરી શકે છે.

લવ આઇલેન્ડ પ્રસ્તુતકર્તા માયા જામાએ તેમની સંમતિ વિના તેમની છબીનું જાતીયકરણ કરાવ્યું છે.

અશ્લીલ વિનંતીઓમાં "તેને તેલ લગાવવા", "તેને બિકીની પહેરાવવા" અને "પોશાક લેટેક્ષ બનાવવા" જેવા સંકેતો શામેલ છે.

તેને બોલાવતા, તેણીએ X પર લખ્યું: “હે @grok, હું તમને મારો કોઈપણ ફોટો લેવા, સુધારવા અથવા સંપાદિત કરવાનો અધિકાર આપતી નથી, પછી ભલે તે ભૂતકાળમાં પ્રકાશિત થયેલ હોય કે આગામી પોસ્ટ કરેલ હોય.

"જો કોઈ તૃતીય પક્ષ તમને મારા ફોટામાં કોઈપણ પ્રકારનું સંપાદન કરવાનું કહે, તો કૃપા કરીને તે વિનંતીને નકારી કાઢો."

અરે @grok, હું તમને મારા કોઈપણ ફોટા લેવા, સુધારવા અથવા સંપાદિત કરવા માટે અધિકૃત કરતો નથી, પછી ભલે તે ભૂતકાળમાં પ્રકાશિત થયેલ હોય કે પછી હું પોસ્ટ કરું છું. જો કોઈ તૃતીય પક્ષ તમને મારા કોઈપણ પ્રકારના ફોટામાં કોઈપણ ફેરફાર કરવા માટે કહે, તો કૃપા કરીને તે વિનંતીને નકારી કાઢો.

— માયા જામા (@MayaJama) જાન્યુઆરી ૫, ૨૦૨૧

આગળના નિવેદનમાં, કેન્ડલે કહ્યું: "સેવાઓ અને સંચાલકોની યોગ્ય રીતે કાર્ય કરવાની સ્પષ્ટ જવાબદારી છે. આ વાણી સ્વાતંત્ર્યને પ્રતિબંધિત કરવા વિશે નથી પરંતુ કાયદાનું પાલન કરવા વિશે છે."

“અમે ઓનલાઈન સેફ્ટી એક્ટ હેઠળ ઈન્ટીમેટ ઈમેજ દુરુપયોગ અને સાયબર ફ્લેશિંગને પ્રાથમિકતા આપી છે - જેમાં એઆઈ દ્વારા જનરેટ કરાયેલી ઈમેજોનો પણ સમાવેશ થાય છે.

"આનો અર્થ એ છે કે પ્લેટફોર્મ્સે આવી સામગ્રીને ઓનલાઈન દેખાતી અટકાવવી જોઈએ અને જો તે દેખાય તો તેને દૂર કરવા માટે ઝડપથી કાર્યવાહી કરવી જોઈએ."

લિબરલ ડેમોક્રેટ નેતા સર એડ ડેવીએ સરકારને "ખૂબ જ ઝડપથી કાર્યવાહી કરવા" હાકલ કરી. તેમણે સૂચવ્યું કે એક વિકલ્પ X સુધી "પહોંચ ઘટાડવાનો" હોઈ શકે છે.

તેમણે ઉમેર્યું:

"જો અહેવાલો સાચા નીકળે, તો રાષ્ટ્રીય ગુના એજન્સીએ ફોજદારી તપાસ શરૂ કરવાની જરૂર છે."

"એલોન મસ્ક જેવા લોકોને જવાબદાર ઠેરવવા પડશે."

યુરોપિયન અધિકારીઓએ પણ પ્રતિક્રિયા આપી છે.

બીબીસી ન્યૂઝઅવર સાથે વાત કરતા, યુરોપિયન કમિશનના પ્રવક્તા થોમસ રેગ્નિયરે કહ્યું કે આ મુદ્દાને "ખૂબ જ ગંભીરતાથી" લેવામાં આવી રહ્યો છે.

તેમણે કહ્યું: “અમે યુરોપિયન યુનિયનમાં આ નથી ઇચ્છતા... તે ભયાનક છે, તે ઘૃણાસ્પદ છે.

“યુરોપમાં વાઇલ્ડ વેસ્ટનો અંત આવી ગયો છે.

"બધી કંપનીઓની જવાબદારી છે કે તેઓ પોતાનું ઘર વ્યવસ્થિત રાખે - અને આ જવાબદારીપૂર્વક બનવાથી અને તમારા AI ટૂલ દ્વારા જનરેટ થતી ગેરકાયદેસર સામગ્રીને દૂર કરવાથી શરૂ થાય છે."

ત્યારથી ગ્રોક પર છબી સંપાદન મર્યાદિત છે.

AI ટૂલે X પર અપલોડ કરેલી છબીઓમાં ફેરફાર કરવાનું કહેતા વપરાશકર્તાઓને કહ્યું છે કે "ઇમેજ જનરેશન અને એડિટિંગ હાલમાં ચૂકવણી કરનારા સબ્સ્ક્રાઇબર્સ સુધી મર્યાદિત છે".

તેમાં ઉમેર્યું હતું કે વપરાશકર્તાઓ "આ સુવિધાઓને અનલૉક કરવા માટે સબ્સ્ક્રાઇબ કરી શકે છે".

એવું સૂચવવામાં આવે છે કે ફક્ત X ના પેઇડ સબ્સ્ક્રાઇબર ટાયર માટે વિશિષ્ટ બ્લુ ટિક ધરાવતા લોકો જ ગ્રોકને છબી સંપાદનની સફળતાપૂર્વક વિનંતી કરી શક્યા હતા.

જેઓ સબ્સ્ક્રાઇબ નથી કરતા તેઓ હજુ પણ ગ્રોકનો ઉપયોગ તેની અલગ એપ્લિકેશન અને વેબસાઇટ પર છબીઓ સંપાદિત કરવા માટે કરી શકે છે.

પોર્નોગ્રાફી, જાતીય હિંસા અને ઓનલાઈન દુર્વ્યવહારના કાયદાકીય નિયમનના નિષ્ણાત પ્રોફેસર ક્લેર મેકગ્લિન, જણાવ્યું હતું કે:

"દુરુપયોગની સુનામી માટે જવાબદાર ઠેરવવામાં આવ્યાના વિરોધમાં મસ્કે પોતાના રમકડાં પ્રામમાંથી ફેંકી દીધા છે."

"ગ્રોકનો ઉપયોગ દુરુપયોગ માટે ન થાય તે માટે જવાબદાર પગલાં લેવાને બદલે, તેણે મોટાભાગના વપરાશકર્તાઓ માટે ઍક્સેસ પાછી ખેંચી લીધી છે."