અપડેટ: એપલે સર્વરના બીજા નિરીક્ષણનો ઉલ્લેખ કર્યો છે, અને એક વ્યાવસાયિક કમ્પ્યુટર વિઝન કંપનીએ નીચે "બીજી તપાસ કેવી રીતે કાર્ય કરી શકે છે" માં તેનું વર્ણન કરી શકાય છે તેની સંભાવના દર્શાવે છે.
વિકાસકર્તાઓએ તેના એન્જિનિયર્ડ ભાગોને રિવર્સ કર્યા પછી, Apple CSAM સિસ્ટમના પ્રારંભિક સંસ્કરણને નિર્દોષ છબીને ચિહ્નિત કરવા માટે અસરકારક રીતે છેતરવામાં આવ્યું છે.જો કે, Appleએ જણાવ્યું હતું કે વાસ્તવિક જીવનમાં આવું ન થાય તે માટે તેની પાસે વધારાના સલામતી છે.
ન્યુરલહેશ અલ્ગોરિધમ ઓપન સોર્સ ડેવલપર વેબસાઇટ GitHub પર પ્રકાશિત થયા પછી નવીનતમ વિકાસ થયો, કોઈપણ તેની સાથે પ્રયોગ કરી શકે છે…
તમામ CSAM સિસ્ટમો નેશનલ સેન્ટર ફોર મિસિંગ એન્ડ એક્સપ્લોઈટેડ ચિલ્ડ્રન (NCMEC) જેવી સંસ્થાઓમાંથી જાણીતી બાળ જાતીય શોષણ સામગ્રીનો ડેટાબેઝ આયાત કરીને કાર્ય કરે છે.ડેટાબેઝ ઇમેજમાંથી હેશ અથવા ડિજિટલ ફિંગરપ્રિન્ટ્સના સ્વરૂપમાં પ્રદાન કરવામાં આવે છે.
જોકે મોટા ભાગની ટેક્નોલોજી જાયન્ટ્સ ક્લાઉડમાં અપલોડ કરાયેલા ફોટાને સ્કેન કરે છે, Apple ગ્રાહકના iPhone પર સંગ્રહિત ફોટાની હેશ વેલ્યુ જનરેટ કરવા માટે ન્યુરલહેશ અલ્ગોરિધમનો ઉપયોગ કરે છે અને પછી તેને CSAM હેશ વેલ્યુની ડાઉનલોડ કરેલી નકલ સાથે સરખાવે છે.
ગઈકાલે, એક ડેવલપરે દાવો કર્યો હતો કે એપલના અલ્ગોરિધમને રિવર્સ એન્જીનિયર કર્યું છે અને કોડને GitHub પર રીલીઝ કર્યો છે - આ દાવાને Apple દ્વારા અસરકારક રીતે સમર્થન આપવામાં આવ્યું હતું.
GitHib રિલીઝ થયાના થોડાક કલાકોમાં, સંશોધકોએ ઈરાદાપૂર્વક ખોટા હકારાત્મક-બે સંપૂર્ણપણે અલગ છબીઓ બનાવવા માટે અલ્ગોરિધમનો સફળતાપૂર્વક ઉપયોગ કર્યો જેણે સમાન હેશ મૂલ્ય જનરેટ કર્યું.આને અથડામણ કહેવાય.
આવી સિસ્ટમો માટે, હંમેશા અથડામણનું જોખમ રહેલું છે, કારણ કે હેશ અલબત્ત ઇમેજનું ખૂબ જ સરળ પ્રતિનિધિત્વ છે, પરંતુ તે આશ્ચર્યજનક છે કે કોઈ વ્યક્તિ આટલી ઝડપથી ઇમેજ જનરેટ કરી શકે છે.
અહીં ઇરાદાપૂર્વકની અથડામણ એ ખ્યાલનો પુરાવો છે.વિકાસકર્તાઓ પાસે CSAM હેશ ડેટાબેઝની ઍક્સેસ નથી, જેને રીઅલ-ટાઇમ સિસ્ટમમાં ખોટા હકારાત્મક બનાવવાની જરૂર પડશે, પરંતુ તે સાબિત કરે છે કે અથડામણના હુમલા સૈદ્ધાંતિક રીતે પ્રમાણમાં સરળ છે.
Appleપલે અસરકારક રીતે પુષ્ટિ કરી કે અલ્ગોરિધમ તેની પોતાની સિસ્ટમનો આધાર છે, પરંતુ મધરબોર્ડને કહ્યું કે આ અંતિમ સંસ્કરણ નથી.કંપનીએ એમ પણ જણાવ્યું હતું કે તેનો ઈરાદો ક્યારેય ગોપનીય રાખવાનો નથી.
એપલે મધરબોર્ડને ઈમેલમાં જણાવ્યું હતું કે GitHub પર યુઝર દ્વારા વિશ્લેષણ કરવામાં આવેલ વર્ઝન જેનરિક વર્ઝન છે, iCloud Photo CSAM ડિટેક્શન માટે ઉપયોગમાં લેવાતું અંતિમ વર્ઝન નથી.એપલે કહ્યું કે તેણે અલ્ગોરિધમનો પણ ખુલાસો કર્યો છે.
"ધ ન્યુરલહેશ એલ્ગોરિધમ [...] એ હસ્તાક્ષરિત ઓપરેટિંગ સિસ્ટમ કોડનો એક ભાગ છે [અને] સુરક્ષા સંશોધકો ચકાસી શકે છે કે તેનું વર્તન વર્ણનને અનુરૂપ છે," એપલ દસ્તાવેજમાં લખ્યું હતું.
કંપનીએ આગળ કહ્યું કે ત્યાં વધુ બે પગલાં છે: તેના પોતાના સર્વર પર ગૌણ (ગુપ્ત) મેચિંગ સિસ્ટમ ચલાવવી અને મેન્યુઅલ સમીક્ષા.
એપલે એમ પણ જણાવ્યું હતું કે વપરાશકર્તાઓ 30-મેચ થ્રેશોલ્ડ પસાર કર્યા પછી, Appleના સર્વર્સ પર ચાલતું બીજું બિન-સાર્વજનિક અલ્ગોરિધમ પરિણામોની તપાસ કરશે.
"આ સ્વતંત્ર હેશ એ શક્યતાને નકારવા માટે પસંદ કરવામાં આવ્યું હતું કે ભૂલભરેલી ન્યુરલહેશ બિન-CSAM છબીઓની પ્રતિકૂળ દખલગીરીને કારણે ઉપકરણ પર એન્ક્રિપ્ટેડ CSAM ડેટાબેઝ સાથે મેળ ખાય છે અને મેચિંગ થ્રેશોલ્ડને ઓળંગે છે."
રોબોફ્લોના બ્રાડ ડ્વાયરે અથડામણના હુમલા માટે ખ્યાલના પુરાવા તરીકે પોસ્ટ કરેલી બે છબીઓ વચ્ચે સરળતાથી તફાવત કરવાનો માર્ગ શોધી કાઢ્યો.
હું આતુર છું કે આ છબીઓ સમાન પરંતુ અલગ ન્યુરલ ફીચર એક્સ્ટ્રાક્ટર ઓપનએઆઈની CLIPમાં કેવી દેખાય છે.CLIP ન્યુરલહેશની જેમ જ કામ કરે છે;તે ઇમેજ લે છે અને ઇમેજની સામગ્રીને મેપ કરતા ફીચર વેક્ટરનો સમૂહ જનરેટ કરવા માટે ન્યુરલ નેટવર્કનો ઉપયોગ કરે છે.
પરંતુ OpenAIનું નેટવર્ક અલગ છે.તે એક સામાન્ય મોડેલ છે જે છબીઓ અને ટેક્સ્ટ વચ્ચે નકશા કરી શકે છે.આનો અર્થ એ છે કે આપણે તેનો ઉપયોગ માનવ-સમજી શકાય તેવી છબી માહિતી કાઢવા માટે કરી શકીએ છીએ.
મેં ઉપરોક્ત બે અથડામણની છબીઓ CLIP દ્વારા ચલાવી છે તે જોવા માટે કે શું તે પણ મૂર્ખ બનાવવામાં આવી હતી.ટૂંકો જવાબ છે: ના.આનો અર્થ એ થાય છે કે એપલ શોધાયેલ CSAM ઈમેજીસ પર બીજા ફીચર એક્સટ્રેક્ટર નેટવર્ક (જેમ કે CLIP) લાગુ કરવા સક્ષમ હોવું જોઈએ કે તે વાસ્તવિક છે કે નકલી.એક જ સમયે બે નેટવર્કને છેતરતી ઈમેજો જનરેટ કરવી વધુ મુશ્કેલ છે.
છેલ્લે, અગાઉ સૂચવ્યા મુજબ, છબીઓ CSAM છે તેની પુષ્ટિ કરવા માટે મેન્યુઅલી સમીક્ષા કરવામાં આવે છે.
એક સુરક્ષા સંશોધકે જણાવ્યું હતું કે એકમાત્ર વાસ્તવિક જોખમ એ છે કે જે કોઈ પણ એપલને હેરાન કરવા માંગે છે તે માનવ સમીક્ષકોને ખોટા હકારાત્મક પ્રદાન કરી શકે છે.
"એપલ ખરેખર આ સિસ્ટમ ડિઝાઇન કરે છે, તેથી હેશ ફંક્શનને ગુપ્ત રાખવાની જરૂર નથી, કારણ કે તમે 'સીએસએએમ તરીકે નોન-સીએસએએમ' સાથે માત્ર એક જ વસ્તુ કરી શકો છો તે એપલની પ્રતિભાવ ટીમને કેટલીક જંક છબીઓ સાથે હેરાન કરવાનું છે જ્યાં સુધી તેઓ દૂર કરવા માટે ફિલ્ટર્સ લાગુ ન કરે. પાઈપલાઈનમાં જે કચરો છે તે ખોટા હકારાત્મક છે,” કેલિફોર્નિયા યુનિવર્સિટી, બર્કલે ખાતે ઈન્સ્ટિટ્યૂટ ઓફ ઈન્ટરનેશનલ કોમ્પ્યુટર સાયન્સના વરિષ્ઠ સંશોધક નિકોલસ વીવરે મધરબોર્ડને ઓનલાઈન ચેટમાં જણાવ્યું હતું.
ગોપનીયતા એ આજના વિશ્વમાં ચિંતાનો વિષય છે.અમારી માર્ગદર્શિકામાં ગોપનીયતા, સુરક્ષા વગેરે સંબંધિત તમામ અહેવાલોને અનુસરો.
બેન લવજોય બ્રિટિશ તકનીકી લેખક અને 9to5Mac માટે EU સંપાદક છે.તેઓ તેમના કૉલમ્સ અને ડાયરી લેખો માટે જાણીતા છે, સમય જતાં વધુ વ્યાપક સમીક્ષાઓ મેળવવા માટે Apple ઉત્પાદનો સાથેના તેમના અનુભવની શોધખોળ કરે છે.તે નવલકથાઓ પણ લખે છે, તેમાં બે ટેકનિકલ થ્રિલર છે, થોડીક ટૂંકી સાયન્સ ફિક્શન ફિલ્મો અને એક રોમ-કોમ!
પોસ્ટ સમય: ઓગસ્ટ-20-2021