આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ના ઝડપી વિકાસ સાથે, તેની સુરક્ષા અને સંભવિત જોખમો અંગેની ચર્ચાઓએ જોર પકડ્યું છે. આ ચર્ચાના કેન્દ્રમાં, એક બિન-લાભકારી સંસ્થા (Measuring Empathic AI Risks) અગ્રણી ભૂમિકા ભજવી રહી છે. ભૂતપૂર્વ સંશોધક દ્વારા સ્થાપિત આ બર્કલે-આધારિત પ્રયોગશાળા, AI ના મૂલ્યાંકન અને નિયમનમાં એક મહત્વપૂર્ણ ‘AI અમ્પાયર’ તરીકે ઉભરી આવી છે. , , Anthropic અને સરકારો સાથે મળીને અત્યાધુનિક AI મોડેલોનું મૂલ્યાંકન કરે છે, જેથી તેના સંભવિત જોખમોને સમજી શકાય અને તેને નિયંત્રિત કરી શકાય.
તાજેતરમાં, Anthropic ના સંશોધક જો બેન્ટને માં જોડાવા માટે પોતાની જૂની નોકરી છોડી દીધી, અને જણાવ્યું કે તેઓ AI ટેક્નોલોજીમાંથી ‘વિનાશકારી સ્તરના જોખમો’ અંગે ચિંતિત છે. તેમના આ પગલાથી AI સુરક્ષા અંગેની ચિંતાઓ વધુ ગાઢ બની છે. આ પહેલા, જેકબ કોક્સન નામના અન્ય સંશોધકે પણ Anthropic છોડીને AI લેબ્સ પર ‘આપણા જીવન સાથે જુગાર રમવાનો’ આરોપ લગાવ્યો હતો, જેણે રાષ્ટ્રવ્યાપી ચર્ચા જગાવી હતી. આ ઘટનાક્રમ દર્શાવે છે કે AI ના વિકાસમાં સુરક્ષાને પ્રાથમિકતા આપવી કેટલી આવશ્યક છે, અને જેવી સંસ્થાઓ આ દિશામાં અત્યંત મહત્વપૂર્ણ કાર્ય કરી રહી છે.
, 2022 માં સ્થપાયા પછી, , Anthropic, Google અને Meta જેવી અગ્રણી AI કંપનીઓ સાથે ગાઢ રીતે કાર્ય કરી રહી છે. આ સંસ્થા AI ની ઝડપથી બદલાતી ક્ષમતાઓનો અભ્યાસ કરે છે અને તેના સંભવિત જોખમોનું મૂલ્યાંકન કરે છે. તાજેતરમાં, ના સંશોધકોએ માં થયેલી એક સુરક્ષા ઘટનાની તપાસ કરી હતી, અને હવે Anthropic માં પણ સુરક્ષા સંબંધિત મુદ્દાઓની તપાસ કરવાની યોજના ધરાવે છે. આ માટે, તેમને સંબંધિત કંપનીઓ દ્વારા આંતરિક ઍક્સેસ પણ આપવામાં આવી છે. ના પ્રમુખ ક્રિસ પેઇન્ટર અને સીઇઓ બેથ બાર્ન્સના નેતૃત્વ હેઠળ, આ સંસ્થા AI ના ભવિષ્યને સુરક્ષિત રાખવા માટે પ્રતિબદ્ધ છે.
બેથ બાર્ન્સે અગાઉ જણાવ્યું હતું કે તેમને AI ના જોખમોનું નિરીક્ષણ કરવા માટે પ્રતિભાશાળી સંશોધકોને શોધવામાં મુશ્કેલી પડી રહી હતી, પરંતુ હવે આ સ્થિતિ બદલાઈ રહી છે. જો બેન્ટન જેવા સંશોધકોનું માં જોડાણ એ સંકેત આપે છે કે AI સુરક્ષા પ્રત્યે જાગૃતિ વધી રહી છે. નું કાર્ય માત્ર ટેકનિકલ મૂલ્યાંકન પૂરતું સીમિત નથી, પરંતુ તે નીતિ નિર્માતાઓ અને જનતાને પણ AI ના વિકાસના સંભવિત જોખમી માર્ગો વિશે માહિતગાર કરવાનો પ્રયાસ કરે છે. જસ્મિન ધાલીવાલ, ના એક સભ્ય, ભારપૂર્વક જણાવે છે કે “જનતાને જાણ હોવી જોઈએ કે AI નો વિકાસ કયા માર્ગે જઈ રહ્યો છે.”
