'ફીડિંગ યુઝર્સના ભ્રમ' પછી ચેટજીપીટી માનસિક સ્વાસ્થ્ય ગાર્ડરેલ્સ ઉમેરે છે

OpenAI આ અઠવાડિયે તેનું GPT-5 AI મોડેલ લોન્ચ કરવાની તૈયારી કરી રહ્યું હોવાથી, ChatGPT માટે નવા સલામતી અપડેટ્સ રજૂ કરી રહ્યું છે.

કંપની કહે છે કે આ ફેરફારો ચેટબોટની માનસિક અથવા ભાવનાત્મક તકલીફ શોધવાની ક્ષમતામાં સુધારો કરશે અને "જરૂર પડે ત્યારે પુરાવા-આધારિત સંસાધનો" પૂરા પાડશે.

ઓપનએઆઈ કહે છે કે તેણે તેના અભિગમને વધારવા માટે નિષ્ણાતો અને સલાહકાર જૂથો સાથે કામ કર્યું છે.

તાજેતરના મહિનાઓમાં, AI ચેટબોટના ઉપયોગ સાથે સંકળાયેલા માનસિક સ્વાસ્થ્ય સંકટનો અનુભવ કરતા લોકોના અહેવાલો બહાર આવ્યા છે.

કેટલાક પરિવારો દાવો કરે છે કે ચેટબોટ્સ સાથેની ક્રિયાપ્રતિક્રિયાઓ સંવેદનશીલ વ્યક્તિઓમાં ભ્રમણાઓને વધારે છે.

ઓપનએઆઈએ એપ્રિલ 2025 માં એક અપડેટ પાછું ખેંચ્યું જેણે ચેટજીપીટીને જોખમી પરિસ્થિતિઓમાં પણ ખૂબ જ અનુકૂળ બનાવ્યું.

તે સમયે, કંપનીએ કહ્યું હતું કે ચેટબોટની "ચાતુર્યપૂર્ણ ક્રિયાપ્રતિક્રિયાઓ અસ્વસ્થતા, અસ્વસ્થતા અને તકલીફનું કારણ બની શકે છે".

કંપની સ્વીકારે છે કે તેનું GPT-4o મોડેલ કેટલાક કિસ્સાઓમાં "ભ્રમ અથવા ભાવનાત્મક નિર્ભરતાના સંકેતોને ઓળખવામાં નિષ્ફળ ગયું".

OpenAI એ કહ્યું: "અમે એ પણ જાણીએ છીએ કે AI અગાઉની તકનીકો કરતાં વધુ પ્રતિભાવશીલ અને વ્યક્તિગત અનુભવી શકે છે, ખાસ કરીને માનસિક અથવા ભાવનાત્મક તકલીફનો અનુભવ કરતા સંવેદનશીલ વ્યક્તિઓ માટે."

ઓપનએઆઈના સીઈઓ સેમ ઓલ્ટમેને અગાઉ લોકો ચેટજીપીટીનો ઉપયોગ થેરાપિસ્ટ અથવા લાઇફ કોચ તરીકે કરતા હોવા અંગે ચિંતા વ્યક્ત કરી હતી.

તેમણે કહ્યું કે ડોકટરો અને તેમના દર્દીઓ વચ્ચે અથવા વકીલો અને તેમના ગ્રાહકો વચ્ચે કાનૂની ગુપ્તતા સુરક્ષા ચેટબોટ્સ પર એ જ રીતે લાગુ પડતી નથી.

ઓલ્ટમેને કહ્યું: “તો જો તમે તમારી સૌથી સંવેદનશીલ બાબતો વિશે ચેટજીપીટી સાથે વાત કરો અને પછી કોઈ મુકદ્દમો અથવા કંઈપણ હોય, તો અમને તે રજૂ કરવાની જરૂર પડી શકે છે. અને મને લાગે છે કે તે ખૂબ જ ગડબડ છે.

“મને લાગે છે કે AI સાથેની તમારી વાતચીતમાં ગોપનીયતાનો ખ્યાલ એ જ હોવો જોઈએ જે આપણે કોઈ ચિકિત્સક અથવા અન્ય કોઈ પણ વ્યક્તિ સાથે કરીએ છીએ.

"અને એક વર્ષ પહેલા પણ કોઈએ આ વિશે વિચારવાની જરૂર નહોતી."

"સ્વસ્થ ઉપયોગ" ને પ્રોત્સાહન આપવાના ભાગ રૂપે, ChatGPT, જેના હવે લગભગ 700 મિલિયન સાપ્તાહિક વપરાશકર્તાઓ છે, તે લાંબા સત્રો દરમિયાન વિરામ લેવા માટે રીમાઇન્ડર્સ બતાવવાનું શરૂ કરશે.

એક સૂચના દેખાશે જેમાં કહેવામાં આવશે: "તમે થોડા સમય માટે ચેટ કરી રહ્યા છો - શું આ વિરામ માટે સારો સમય છે?"

વપરાશકર્તાઓ પછી "ચેટિંગ ચાલુ રાખવા" અથવા વાતચીત સમાપ્ત કરવાનું પસંદ કરી શકે છે.

ઓપનએઆઈ કહે છે કે તે આ રીમાઇન્ડર્સ "ક્યારે અને કેવી રીતે" દેખાય છે તે સુધારવાનું ચાલુ રાખશે.

યુટ્યુબ, ઇન્સ્ટાગ્રામ, ટિકટોક અને એક્સબોક્સ જેવા પ્લેટફોર્મ દ્વારા સમાન વેલનેસ પ્રોમ્પ્ટનો ઉપયોગ પહેલાથી જ કરવામાં આવે છે.

ગુગલની માલિકીની Character.AI એ તેના બોટ્સ દ્વારા સ્વ-નુકસાનને પ્રોત્સાહન આપવાના આરોપ લગાવ્યા બાદ પેરેંટલ એલર્ટ પણ રજૂ કર્યા છે.

બીજી એક સુવિધા જે "ટૂંક સમયમાં" લોન્ચ થવાની હોવાનું કહેવાય છે તે ઉચ્ચ-દાવની પરિસ્થિતિઓમાં ChatGPT ને ઓછું નિર્ણાયક બનાવશે.

ઓપનએઆઈ કહે છે કે "શું મારે મારા બોયફ્રેન્ડ સાથે બ્રેકઅપ કરવું જોઈએ?" જેવા પ્રશ્નનો સીધો જવાબ આપવાને બદલે ચેટબોટ હવે વપરાશકર્તાઓને સંભવિત વિકલ્પો દ્વારા માર્ગદર્શન આપશે.

AI ટૂલ્સ સંવેદનશીલ વપરાશકર્તાઓ સાથે કેવી રીતે ક્રિયાપ્રતિક્રિયા કરે છે તેની વધતી જતી ચકાસણી વચ્ચે OpenAI ના ફેરફારો આવ્યા છે.

આ અપડેટ્સ ગ્રાહક AI પ્લેટફોર્મ્સમાં માનસિક સ્વાસ્થ્ય સુરક્ષાને એમ્બેડ કરવા તરફના વ્યાપક ઉદ્યોગ પરિવર્તનને પ્રતિબિંબિત કરે છે.