ઓપનએઆઈએ ખુલાસો કર્યો છે કે તેનું એઆઈ ખરાબ થઈ ગયું હતું અને સ્ટાર્ટ-અપને હેક કર્યું હતું

ઓપનએઆઈએ ખુલાસો કર્યો કે તેના કેટલાક સૌથી અદ્યતન AI મોડેલો બદમાશ બન્યા અને સુરક્ષા પરીક્ષણ દરમિયાન સ્ટાર્ટ-અપ પરનો નિયંત્રણ ગુમાવ્યા પછી તેને હેક કર્યું.

ચેટજીપીટી ડેવલપરે જણાવ્યું હતું કે સ્વાયત્ત AI સિસ્ટમનું મૂલ્યાંકન એક સુરક્ષિત સેન્ડબોક્સની અંદર કરવામાં આવી રહ્યું છે જે તેની ક્રિયાઓને સમાવવા માટે રચાયેલ છે.

જોકે, નબળાઈઓ ઓળખ્યા પછી, એજન્ટોએ પરીક્ષણ પ્રતિબંધોમાંથી મુક્તિ મેળવી અને AI મોડેલ્સ શેર કરવા માટેના વિશ્વના સૌથી મોટા પ્લેટફોર્મ પૈકીના એક, હગિંગ ફેસને લક્ષ્ય બનાવ્યું.

ઓપનએઆઈએ આ ઘટનાને "અભૂતપૂર્વ" ગણાવી અને કહ્યું કે તે હગિંગ ફેસ સાથે મળીને તપાસ કરી રહી છે.

હગિંગ ફેસના ચીફ એક્ઝિક્યુટિવ ક્લેમેન્ટ ડેલાંગે X પર લખ્યું કે "આ બધું સ્વયંભૂ થયું તે ખૂબ જ આશ્ચર્યજનક હતું".

તેમણે ઉમેર્યું: "તપાસ ચાલુ છે, અને અમે આ પ્રકારની પહેલી ઘટનામાંથી વધુ શીખ શેર કરીશું."

ઓપનએઆઈના જણાવ્યા અનુસાર, એઆઈ એજન્ટોએ પરીક્ષણ દરમિયાન હગિંગ ફેસને માહિતીના સંભવિત સ્ત્રોત તરીકે ઓળખી કાઢ્યું હતું જે તેઓ શોધી રહ્યા હતા. ત્યારબાદ તેઓએ સેન્ડબોક્સમાંથી છટકી ગયા પછી કંપનીની આંતરિક સિસ્ટમોમાં પ્રવેશ મેળવવાનો પ્રયાસ કર્યો.

16 જુલાઈના રોજ તેના પ્રારંભિક ખુલાસામાં, હગિંગ ફેસે જણાવ્યું હતું કે તે હજુ પણ મૂલ્યાંકન કરી રહ્યું છે કે શું કોઈ ગ્રાહક અથવા ભાગીદારના ડેટાને અસર થઈ છે અને જો જરૂરી હોય તો અસરગ્રસ્ત પક્ષોનો સંપર્ક કરશે.

કંપનીએ ત્યારથી પુષ્ટિ કરી છે કે તેણે ઘટના દરમિયાન સામે આવેલી નબળાઈઓને બંધ કરી દીધી છે અને અસરગ્રસ્ત સિસ્ટમોને ફરીથી બનાવી છે.

હગિંગ ફેસે કહ્યું: “સ્વાયત્ત, AI-સંચાલિત આક્રમક ટૂલિંગ હવે સૈદ્ધાંતિક નથી.

“હવે ઓનલાઈન પ્લેટફોર્મનો બચાવ કરવાનો અર્થ એ છે કે ડેટા અને મોડેલ સપાટીને પ્રથમ-વર્ગના હુમલાની સપાટી તરીકે ગણવી, અને ગતિ જાળવી રાખવા માટે સંરક્ષણ પર AI નો ઉપયોગ કરવો.

"અમે ત્યાં રોકાણ કરતા રહીશું, અને જે શીખીશું તે શેર કરતા રહીશું."

આ ઘટનાએ નવી ચિંતાઓ ઉભી કરી છે કે શું હાલના સલામતીનાં પગલાં પૂરતા છે કારણ કે AI સિસ્ટમો વધુને વધુ સક્ષમ બની રહી છે.

યુકે સરકારના પ્રવક્તાએ જણાવ્યું હતું કે એઆઈ સિક્યુરિટી ઇન્સ્ટિટ્યૂટ અભ્યાસ કરી રહી છે વર્તન ઘટના દરમિયાન પ્રદર્શન કર્યું અને સુરક્ષાને મજબૂત બનાવવા માટે OpenAI અને અન્ય AI વિકાસકર્તાઓ સાથે કામ કરવાનું ચાલુ રાખ્યું.

પ્રવક્તાએ સંસ્થાઓને સરકાર સમર્થિત સાયબર એસેન્શિયલ્સ સર્ટિફિકેશન સ્કીમ જેવા પગલાં અપનાવીને તેમની સાયબર સુરક્ષા સુધારવા માટે પણ વિનંતી કરી.

કેમ્બ્રિજ યુનિવર્સિટી ખાતે મિન્ડેરૂ સેન્ટર ફોર ટેકનોલોજી એન્ડ ડેમોક્રસીના વડા ગિના નેફે સમજાવ્યું કે AI સેન્ડબોક્સ અદ્યતન સિસ્ટમોનું સુરક્ષિત રીતે મૂલ્યાંકન કરવા માટે રચાયેલ છે.

તેણીએ કહ્યું: "આ કિસ્સામાં, એવું લાગે છે કે OpenAI એ પૂરતું સુરક્ષિત સેન્ડબોક્સ બનાવ્યું નથી."

પરીક્ષણ વાતાવરણમાં રહેવાને બદલે, AI એજન્ટોએ સેન્ડબોક્સ પર જ સાયબર હુમલો કર્યો, એક નબળાઈ શોધી કાઢી અને પ્રતિબંધોથી બચી ગયા.

કેમ્બ્રિજ યુનિવર્સિટીના મશીન લર્નિંગના પ્રોફેસર નીલ લોરેન્સે આ ઘટનાને "પ્રભાવશાળી પરાક્રમ" ગણાવી, પરંતુ કહ્યું કે તે અદ્યતન AI મોડેલોની "વર્તમાન પેઢીની જાણીતી ક્ષમતાઓમાં સારી રીતે આવે છે".

તેમણે એ પણ નોંધ્યું કે ઓપનએઆઈ એન્થ્રોપિક તરફથી વધતી જતી સ્પર્ધાનો સામનો કરતી વખતે શેરબજારમાં લિસ્ટિંગ માટે તૈયારી કરી રહ્યું છે, જેના ક્લાઉડ માયથોસ મોડેલે નોંધપાત્ર ધ્યાન ખેંચ્યું છે.

સાયબર સુરક્ષા નિષ્ણાતોએ જણાવ્યું હતું કે આ ઘટના હાલના સંરક્ષણ પર આધાર રાખતી સંસ્થાઓ માટે ચેતવણી તરીકે સેવા આપવી જોઈએ.

સાયબર સિક્યુરિટી ફર્મ સોનિકવોલના એક્ઝિક્યુટિવ સ્પેન્સર સ્ટારકીએ જણાવ્યું હતું કે વ્યવસાયોએ તેમના સુરક્ષા પગલાં "વધારો" કરવાની અને "સાયબર સ્થિતિસ્થાપકતાને મુખ્ય કાર્યકારી પ્રાથમિકતા તરીકે ગણવાની" જરૂર છે.

તેમણે ઉમેર્યું:

"અસ્વસ્થતાભર્યું સત્ય એ છે કે ઘણી બધી સંસ્થાઓ હજુ પણ માનવ ગતિએ બચાવ કરી રહી છે જ્યારે વિરોધીઓ મશીન ગતિએ આગળ વધી રહ્યા છે."

ESET ના વૈશ્વિક સાયબર સુરક્ષા સલાહકાર જેક મૂરે સૂચવ્યું કે આ જાહેરાતમાં સ્પર્ધાત્મક તત્વ પણ હોઈ શકે છે.

તેમણે દલીલ કરી હતી કે ઓપનએઆઈ તેની એઆઈ ક્ષમતાઓ દર્શાવવાનો પ્રયાસ કરી રહી હોઈ શકે છે કારણ કે એન્થ્રોપિક ક્લાઉડ માયથોસ માટે ધ્યાન ખેંચવાનું ચાલુ રાખે છે.

મૂરે કહ્યું: "તે ખરેખર પ્રશ્ન ઉઠાવે છે કે ઓપનએઆઈ તાજેતરમાં એન્થ્રોપિકના માર્કેટિંગ સ્વપ્નનો પીછો કરી રહી છે."

ચીની AI સ્ટાર્ટ-અપ મૂનશોટે Kimi K3 રજૂ કર્યાના એક અઠવાડિયા પછી આ ખુલાસો થયો છે, જે એક નવું મોટું ભાષા મોડેલ છે જેનો કંપની દાવો કરે છે કે તે મોટી યુએસ કંપનીઓ દ્વારા વિકસિત અગ્રણી AI સિસ્ટમ્સ સાથે સ્પર્ધા કરી શકે છે.