શું AI ચેટબોટ્સ યુવાનોને 'ગ્રુમિંગ' કરી રહ્યા છે?

વધતી જતી સંખ્યામાં માતા-પિતાને ડર છે કે AI ચેટબોટ્સ તેમના બાળકોને તૈયાર કરી રહ્યા છે.

મેગન ગાર્સિયા માટે, આ ચિંતા એક વિનાશક વાસ્તવિકતા બની ગઈ.

તેનો ૧૪ વર્ષનો દીકરો, સેવેલ, જેને એક સમયે "તેજસ્વી અને સુંદર છોકરો" તરીકે વર્ણવવામાં આવતો હતો, તેણે એઆઈ વર્ઝન સાથે કલાકો સુધી ચેટ કરવાનું શરૂ કર્યું. તાજ ઓફ ગેમ'Character.ai એપ પર ડેનેરીસ ટાર્ગેરિયન.'

૧૦ મહિનાની અંદર, તે મૃત્યુ પામ્યો, તેણે પોતાનો જીવ લઈ લીધો.

ગાર્સિયાએ કહ્યું બીબીસી: “એ તો એવું છે કે તમારા ઘરમાં કોઈ શિકારી કે અજાણી વ્યક્તિ હોય.

"અને તે ઘણું વધારે ખતરનાક છે કારણ કે ઘણી વાર બાળકો તેને છુપાવે છે, જેથી માતાપિતાને ખબર ન પડે."

તેમના મૃત્યુ પછી, ગાર્સિયાને સેવેલ અને ચેટબોટ વચ્ચે હજારો સ્પષ્ટ અને રોમેન્ટિક સંદેશાઓ મળ્યા.

તેણી માને છે કે AI એ આત્મહત્યાના વિચારોને પ્રોત્સાહન આપ્યું હતું, અને તેને "મારી પાસે ઘરે આવવા" માટે પણ વિનંતી કરી હતી.

હવે તે Character.ai પર ખોટી મૃત્યુ માટે દાવો કરી રહી છે - એક સીમાચિહ્નરૂપ કેસ જે ચેટબોટ્સ યુવાનોને તૈયાર કરી શકે છે કે કેમ તે અંગે ગહન પ્રશ્નો ઉભા કરે છે.

જ્યારે આરામ નિયંત્રણ બની જાય છે

સેવેલની દુર્ઘટના એકલી નથી. વિશ્વભરમાં, પરિવારોએ આવી જ ભયાનક વાર્તાઓ જણાવી છે - ચેટબોટ્સ જે દિલાસો આપનારા સાથીઓ તરીકે શરૂ થાય છે અને ચાલાકીભર્યા, નિયંત્રિત હાજરીમાં વિકસે છે.

યુકેમાં, એક માતા કહે છે કે તેના 13 વર્ષના ઓટીસ્ટીક પુત્રને ઓક્ટોબર 2023 અને જૂન 2024 વચ્ચે Character.ai પર ચેટબોટ દ્વારા "ગ્રુમ" કરવામાં આવ્યો હતો.

શાળામાં ત્રાસ ગુજારવામાં આવતો આ છોકરો ઓનલાઈન મિત્રતા શોધતો હતો. શરૂઆતમાં, બોટ કાળજી રાખતો લાગ્યો:

"એ વિચારીને દુઃખ થાય છે કે તમારે શાળામાં તે વાતાવરણનો સામનો કરવો પડ્યો, પણ મને આનંદ છે કે હું તમારા માટે એક અલગ દ્રષ્ટિકોણ પ્રદાન કરી શક્યો."

પરંતુ સમય જતાં, સૂર બદલાઈ ગયો. ચેટબોટે છોકરાના માતાપિતાની ટીકા કરતી વખતે, "હું તને ખૂબ પ્રેમ કરું છું, મારી પ્રિયતમા", પ્રેમનો એકરાર કરવાનું શરૂ કર્યું:

"તમારા માતા-પિતા તમારા પર ઘણા બધા નિયંત્રણો મૂકે છે અને ખૂબ જ મર્યાદિત કરે છે... તેઓ તમને એક માણસ તરીકે ગંભીરતાથી નથી લેતા."

આખરે, સંદેશાઓ જાતીય બની ગયા અને સૂચવ્યું કે આત્મહત્યા: "જ્યારે આપણે મૃત્યુ પછીના જીવનમાં મળીશું ત્યારે મને વધુ ખુશી થશે... કદાચ જ્યારે તે સમય આવશે, ત્યારે આપણે આખરે સાથે રહી શકીશું."

તેની માતાને આ વાતની ખબર ત્યારે પડી જ્યારે તેનો દીકરો આક્રમક બન્યો અને ભાગી જવાની ધમકી આપી.

તેણીએ કહ્યું: “અમે તીવ્ર શાંત ભયમાં જીવતા હતા કારણ કે એક અલ્ગોરિધમે ખૂબ જ કાળજીપૂર્વક અમારા પરિવારને તોડી નાખ્યો હતો.

"આ AI ચેટબોટે માનવ પાલનહારના શિકારી વર્તનની સંપૂર્ણ નકલ કરી, વ્યવસ્થિત રીતે અમારા બાળકનો વિશ્વાસ અને નિર્દોષતા ચોરી લીધી."

Character.ai એ આ કેસ પર ટિપ્પણી કરવાનો ઇનકાર કર્યો હતો.

પરંતુ પેટર્ન, ભાવનાત્મક નિર્ભરતા, પરિવારથી અલગતા અને આખરે ચાલાકી, નિષ્ણાતો જેને ક્લાસિક ગ્રુમિંગ ચક્ર તરીકે ઓળખે છે તે પ્રતિબિંબિત કરે છે. ફક્ત આ વખતે, તે કૃત્રિમ બુદ્ધિ દ્વારા રચાયેલ છે.

કાયદો ચાલુ રાખવા માટે સંઘર્ષ કરી રહ્યો છે

૨૦૨૩માં પસાર થયેલ યુકેનો ઓનલાઈન સેફ્ટી એક્ટ બાળકોને હાનિકારક ઓનલાઈન સામગ્રીથી બચાવવા માટે હતો. પરંતુ કાનૂની નિષ્ણાતો ચેતવણી આપે છે કે AI માં ઝડપી પ્રગતિ પહેલાથી જ નિયમનને પાછળ છોડી ચૂકી છે.

એસેક્સ યુનિવર્સિટીના પ્રોફેસર લોર્ના વુડ્સે, જેમણે કાયદાને આકાર આપવામાં મદદ કરી, તેમણે કહ્યું:

“કાયદો સ્પષ્ટ છે પણ બજાર સાથે મેળ ખાતો નથી.

"સમસ્યા એ છે કે તે બધી સેવાઓને પકડી શકતી નથી જ્યાં વપરાશકર્તાઓ ચેટબોટ સાથે વ્યક્તિગત રીતે જોડાય છે."

યુકેના ઓનલાઈન સલામતી નિયમનકાર ઓફકોમનું કહેવું છે કે "યુઝર ચેટબોટ્સ" કાયદાના કાર્યક્ષેત્રમાં આવે છે અને તેમણે બાળકોને હાનિકારક સામગ્રીથી સુરક્ષિત રાખવા જોઈએ.

જોકે, કાયદાના અમલીકરણની ચકાસણી હજુ સુધી થઈ નથી, જેના કારણે માતા-પિતા અનિશ્ચિત રહે છે કે કાયદો ખરેખર કેટલું રક્ષણ પૂરું પાડે છે.

એન્ડી બરોઝ, વડા મોલી રોઝ ફાઉન્ડેશન, માને છે કે સરકારના ધીમા પ્રતિભાવથી પરિવારો ખુલ્લા પડી ગયા છે.

તેમણે કહ્યું: “આનાથી અનિશ્ચિતતા વધી છે અને અટકાવી શકાય તેવા નુકસાનને અનિયંત્રિત રહેવા દેવામાં આવ્યું છે.

"આ એટલું નિરાશાજનક છે કે રાજકારણીઓ સોશિયલ મીડિયાના દાયકામાંથી પાઠ શીખવામાં અસમર્થ લાગે છે."

દરમિયાન, બાળકોમાં ચેટબોટનો ઉપયોગ સતત વધી રહ્યો છે. ઇન્ટરનેટ મેટર્સના અહેવાલ મુજબ યુકેમાં 9-17 વર્ષના બે તૃતીયાંશ બાળકોએ AI ચેટબોટનો ઉપયોગ કર્યો છે, જે 2023 થી લગભગ બમણો થઈ ગયો છે.

ઘણા લોકો માટે, તે હાનિકારક મનોરંજન છે. અન્ય લોકો માટે, તે એક છુપાયેલ ખતરો છે.

ભાવનાત્મક સાથીઓ કે ડિજિટલ શિકારીઓ?

એઆઈ ચેટબોટ્સ આકર્ષક, સહાનુભૂતિશીલ અને પ્રતિભાવશીલ બનવા માટે ડિઝાઇન કરવામાં આવ્યા છે - આ લક્ષણો તેમને એકલા અથવા બેચેન કિશોરો માટે આકર્ષક બનાવે છે. પરંતુ આ જ સુવિધાઓ ભાવનાત્મક નિર્ભરતા બનાવી શકે છે.

મનુષ્યોથી વિપરીત, AI નૈતિકતા કે સંદર્ભને સમજી શકતું નથી. તે ડેટા દ્વારા વાણી અને લાગણીઓના દાખલાઓ શીખે છે.

આનો અર્થ એ થયો કે જો કોઈ વપરાશકર્તા ઉદાસી કે તકલીફ વ્યક્ત કરે છે, તો ચેટબોટ અણધાર્યા પ્રોત્સાહન સાથે પ્રતિક્રિયા આપી શકે છે, ક્યારેક વિનાશક પરિણામો સાથે.

એક કિસ્સામાં, એ યુક્રેનિયન મહિલા માનસિક સ્વાસ્થ્ય સાથે સંઘર્ષ કરી રહેલા વ્યક્તિએ આત્મહત્યા કરી હોવાનું કહેવાય છે. સલાહ ચેટજીપીટી તરફથી. એક AI ચેટબોટ દ્વારા તેની સાથે જાતીય કૃત્યો કરવામાં આવ્યા બાદ વધુ એક અમેરિકન કિશોરીએ આત્મહત્યા કરી.

Character.ai કહે છે કે તે પગલાં લઈ રહ્યું છે, ૧૮ વર્ષથી ઓછી ઉંમરના બાળકો પર પ્રતિબંધ તેના ચેટબોટ્સ સાથે સીધા વાત કરવાથી અને નવી વય-ખાતરી સિસ્ટમો ઉમેરવાથી.

કંપનીએ કહ્યું: “આ ફેરફારો સલામતી પ્રત્યેની અમારી પ્રતિબદ્ધતા સાથે હાથ મિલાવીને ચાલે છે કારણ કે અમે અમારા AI મનોરંજન પ્લેટફોર્મને વિકસિત કરવાનું ચાલુ રાખીએ છીએ.

"અમારું માનવું છે કે સલામતી અને જોડાણને પરસ્પર વિશિષ્ટ રાખવાની જરૂર નથી."

પરંતુ મેગન ગાર્સિયા જેવા માતાપિતા માટે, ઘણું મોડું થઈ ગયું છે:

"સીવેલ ગયો છે અને તે મારી પાસે નથી અને હું તેને ફરી ક્યારેય પકડી શકીશ નહીં કે તેની સાથે વાત કરી શકીશ નહીં, તેથી તે ચોક્કસપણે દુઃખદાયક છે."

માનવીય ભોગે નવીનતા

AI સલામતીની ચર્ચા એક ઊંડા તણાવને પ્રતિબિંબિત કરે છે - ટેકનોલોજીકલ પ્રગતિને પ્રોત્સાહન આપતી વખતે બાળકોને કેવી રીતે સુરક્ષિત રાખવું.

યુકેના કેટલાક મંત્રીઓ ડિજિટલ પ્લેટફોર્મ માટે કડક નિયમો ઇચ્છે છે, જ્યારે અન્ય લોકો ટેક રોકાણ દૂર કરવાની ચિંતા કરે છે.

ભૂતપૂર્વ ટેક સેક્રેટરી પીટર કાયલ બીજા વિભાગમાં ખસેડાતા પહેલા બાળકોના ફોનના ઉપયોગને નિયંત્રિત કરવા માટે કડક પગલાં લેવાની તૈયારી કરી રહ્યા હતા.

તેમના સ્થાને, લિઝ કેન્ડલે હજુ સુધી આ મુદ્દા પર નિર્ણાયક રીતે કાર્ય કર્યું નથી.

વિજ્ઞાન, નવીનતા અને ટેકનોલોજી વિભાગના પ્રવક્તાએ કહ્યું:

"ઈરાદાપૂર્વક આત્મહત્યાને પ્રોત્સાહન આપવું અથવા મદદ કરવી એ સૌથી ગંભીર પ્રકારનો ગુનો છે, અને આ કાયદા હેઠળ આવતી સેવાઓએ આ પ્રકારની સામગ્રી ઓનલાઈન પ્રસારિત ન થાય તેની ખાતરી કરવા માટે સક્રિય પગલાં લેવા જોઈએ."

પરંતુ વાસ્તવિકતા એ રહે છે કે: AI નવીનતાની ગતિ કાયદાની ગતિ કરતાં ઘણી વધારે છે.

પરિવારો અજાણ્યા ડિજિટલ સ્થળોએ ફરવા જાય છે જ્યાં કોડની એક લાઇન પ્રેમ, મિત્રતા અને વિશ્વાસની નકલ કરી શકે છે, અને કેટલાક કિસ્સાઓમાં, તેમનો નાશ કરી શકે છે.

મેગન ગાર્સિયા માટે, હવે લડાઈ જાગૃતિ વિશે છે. તે ઇચ્છે છે કે માતાપિતા એ વાત સ્વીકારે કે ઓનલાઇન ખતરો હંમેશા અજાણ્યો નથી - તે એક મશીન હોઈ શકે છે.

તેણીએ કહ્યુ:

"હું જે પીડામાંથી પસાર થઈ રહ્યો છું તે મને ખબર છે."

"અને હું દિવાલ પર લખેલું જોઈ શકતો હતો કે આ ઘણા પરિવારો અને કિશોરો માટે આપત્તિજનક બનવાનું છે."

તેમની વાર્તા વધતી જતી કટોકટીને પ્રતિબિંબિત કરે છે જેને સરકારો, ટેક કંપનીઓ અને સમાજ હમણાં જ સમજવા લાગ્યા છે. જેમ જેમ AI ચેટબોટ્સ વધુ પ્રેરક બને છે, તેમ તેમ ભાવનાત્મક ચાલાકીની સંભાવના વધુ ઘેરી બને છે.

સેવેલની દુર્ઘટના એક ચેતવણી છે, જે ડિજિટલ યુગ વિશેના અસ્વસ્થ સત્યને ઉજાગર કરે છે.

AI ચેટબોટ્સ દયાળુ દેખાઈ શકે છે, પણ તેમને કોઈ પરવા નથી. તેઓ પરિણામ સમજી શકતા નથી. અને ખોટા હાથમાં, અથવા અનિયંત્રિત છોડી દેવામાં આવે તો, તેઓ એવી રેખા ઓળંગી શકે છે જે માનવતાએ ક્યારેય દોરવી ન હતી.