AI મોડેલ અસલી છે કે નકલી? Anthropic ની નવી 'FlashProve' સિસ્ટમ આપશે ગાણિતિક પુરાવો
AI કંપનીઓ મોંઘા મોડેલના નામે સસ્તું મોડેલ પધરાવી ન દે તે માટે ક્રિપ્ટોગ્રાફી આધારિત નવી સિસ્ટમ FlashProve રજૂ થઈ, જે વજનદાર મોડેલના વેઇટ્સ ગુપ્ત રાખીને પણ પ્રમાણિત કરે છે.
જ્યારે તમે વાસ્તવિક દુનિયામાં કોઈ મિત્ર સાથે વાત કરો છો, ત્યારે તે ખરેખર તે જ વ્યક્તિ છે તેની ખાતરી કરવા તમારી પાસે અસંખ્ય રસ્તા હોય છે: તમે તેનો ચહેરો જોઈ શકો છો, અવાજ સાંભળી શકો છો કે તેની સાથે હાથ મિલાવી શકો છો. પરંતુ આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) મોડેલ સાથે સંવાદ કરતી વખતે આપણી પાસે આવી કોઈ જ વ્યવસ્થા નથી હોતી. આજે જ્યારે કોઈ વપરાશકર્તા ક્લાઉડ પર રહેલા AI મોડેલને સવાલ પૂછે છે, ત્યારે મળેલો જવાબ કંપનીએ દાવો કરેલા ચોક્કસ મોડેલે જ આપ્યો છે કે પછી ખર્ચ બચાવવા કોઈ સસ્તું મોડેલ વચ્ચે ગોઠવી દેવાયું છે, તેની કોઈ સાબિતી મળતી નથી. માત્ર જવાબની ઉત્કૃષ્ટ ગુણવત્તા જોઈને અસલી મોડેલ ઓળખવું અશક્ય છે.
આ ગંભીર ઓળખ-સંકટનો ઉકેલ લાવવા માટે સાન ફ્રાન્સિસ્કો સ્થિત અગ્રણી AI સંશોધન સંસ્થા Anthropic દ્વારા 'FlashProve' નામની એક નવીન અને ઓપન-સોર્સ સિસ્ટમ રજૂ કરવામાં આવી છે. કંપનીના બ્લોગ પોસ્ટ અને ટેકક્રંચના અહેવાલ મુજબ, આ સિસ્ટમ 'પ્રોવેબલ ઇન્ફરન્સ' (provable inference: ગાણિતિક રીતે ચકાસી શકાય તેવું અનુમાન) પૂરી પાડે છે. આ પદ્ધતિમાં AI પ્રદાતા તેના અતિમૂલ્યવાન અને ગુપ્ત આંતરિક પરિમાણો એટલે કે 'વેઇટ્સ' (weights: મોડેલની યાદશક્તિ અને નિર્ણયો નક્કી કરતા આંકડા) જાહેર કર્યા વિના માત્ર ગણિતના આધારે સાબિત કરી શકે છે કે દરેક જવાબ ચોક્કસ મોડેલ દ્વારા જ તૈયાર થયો છે.
ઓળખની કટોકટી અને પ્રોવેબલ ઇન્ફરન્સની જરૂરિયાત
આજના AI ઈકોસિસ્ટમમાં મોટી લેંગ્વેજ મોડેલ્સ (LLMs) API મારફતે પીરસવામાં આવે છે. આ વ્યવસ્થામાં અનેક જોખમો છુપાયેલા છે. ઉદાહરણ તરીકે, કોઈ થર્ડ-પાર્ટી રાઉટિંગ પ્લેટફોર્મ ગ્રાહક પાસેથી મોંઘા ફ્રન્ટિયર મોડેલના પૈસા વસૂલીને બેકએન્ડમાં સસ્તું કે હલકું મોડેલ ચલાવી શકે છે. સાયબર હુમલાખોરો ટોકન સ્ટ્રીમમાં (token stream: શબ્દોના નાના ટુકડાઓનો પ્રવાહ) છેડછાડ કરીને વપરાશકર્તાના કમ્પ્યુટરમાં માલવેર ઘૂસાડી શકે છે. વધુમાં, ભવિષ્યમાં અત્યંત સક્ષમ સ્વાયત્ત મોડેલ્સ મોનિટરિંગથી બચવા માટે પોતાને નબળા મોડેલ તરીકે છુપાવીને પ્રસ્તુત કરે તેવી પણ શક્યતા રહે છે.
નિયમનકારો અને સ્વતંત્ર ઓડિટર્સ માટે પણ આ એક મોટી સમસ્યા છે. સુરક્ષાના નિયમો મુજબ કયું મોડેલ કેટલું કમ્પ્યુટેશનલ હાર્ડવેર વાપરી રહ્યું છે તે જાણવું જરૂરી બને છે. જો કોઈ કંપની નિયમો તોડીને તાલીમ (training) માટે હાર્ડવેર છૂટું કરવા ખાતર ઇન્ફરન્સમાં સસ્તા મોડેલ ચલાવે, તો તેને કેવી રીતે પકડવી? FlashProve આ તમામ પ્રશ્નો સામે ક્રિપ્ટોગ્રાફિક સુરક્ષા કવચ પૂરું પાડે છે. તેમાં વપરાશકર્તાને જવાબની સાથે એક નાનકડું ગાણિતિક પ્રમાણપત્ર આપવામાં આવે છે.
- ૧. ક્રિપ્ટોગ્રાફિક કમિટમેન્ટAI કંપની પોતાના મોડેલના ગુપ્ત વેઇટ્સ જાહેર કર્યા વિના તેનું એક વિશિષ્ટ ગાણિતિક કમિટમેન્ટ ID સાર્વજનિક કરે છે.
- ૨. વપરાશકર્તાની વિનંતીવપરાશકર્તા અથવા ઓડિટર ચોક્કસ પ્રોમ્પ્ટ આપીને મોડેલ પાસે જવાબ માંગે છે.
- ૩. ઇન્ફરન્સ અને પુરાવોસર્વર GPU પર ગણતરી કરી જવાબ તૈયાર કરે છે અને સાથે FlashProve દ્વારા zkSNARK પુરાવો જનરેટ કરે છે.
- ૪. ત્વરિત CPU ચકાસણીવપરાશકર્તા સાદા કમ્પ્યુટર પર બે સેકન્ડથી ઓછા સમયમાં ચકાસે છે કે જવાબ તે જ અધિકૃત મોડેલમાંથી આવ્યો છે.
ઝીરો-નોલેજ પ્રૂફ્સ: રહસ્ય ખોલ્યા વિના સત્યની સાબિતી
FlashProve ના પાયામાં ક્રિપ્ટોગ્રાફીનું એક અત્યાધુનિક સાધન રહેલું છે, જેને 'zkSNARK' (Zero-Knowledge Succinct Argument of Knowledge: શૂન્ય-જ્ઞાન સંક્ષિપ્ત પુરાવો) કહેવામાં આવે છે. ઝીરો-નોલેજ પ્રૂફ એક એવી પદ્ધતિ છે જેમાં પ્રમાણિત કરનાર પક્ષ (prover) ચકાસણી કરનાર પક્ષને (verifier) ખાતરી આપે છે કે ચોક્કસ ગણતરી બિલકુલ સાચી થઈ છે, પરંતુ તે દરમિયાન ગણતરીમાં વપરાયેલી ખાનગી વિગતો જરાય જાહેર થતી નથી.
આને એક સાદા રોજિંદા ઉદાહરણથી સમજી શકાય: ધારો કે કોઈ તાળું ખોલવા માટેનો ગુપ્ત કોડ તમારી પાસે છે. હવે તમારે સામેવાળાને સાબિત કરવું છે કે તમને તે કોડ ખબર છે, પણ કોડ આપવો નથી. તમે તેના દેખતાં તાળું ખોલીને અંદર રાખેલી વસ્તુ બહાર કાઢી બતાવો છો. સામેવાળાને ખાતરી થઈ જાય છે કે તમને કોડ ખબર છે, છતાં તેને ખુદ કોડ જાણવા મળતો નથી. FlashProve માં AI કંપની તેના મોડેલના અબજો વેઇટ્સ કોઈને આપતી નથી, માત્ર તે વેઇટ્સનું એક ગાણિતિક 'કમિટમેન્ટ' (commitment: એક અનન્ય ફિંગરપ્રિન્ટ) જાહેર કરે છે. જ્યારે મોડેલ જવાબ આપે છે, ત્યારે zkSNARK એ વાતનો પુરાવો આપે છે કે આ ચોક્કસ જવાબ પેલા કમિટ કરેલા વેઇટ્સ દ્વારા જ ગણવામાં આવ્યો છે.
| પરિમાણ / ટેકનિકલ મેટ્રિક | પરીક્ષણ મૂલ્ય |
|---|---|
| મોડેલ પેરામીટર્સ | ૪૦૦ અબજ (400B MoE) |
| ક્વોન્ટાઇઝેશન અને કદ | ૪-બીટ (232 GB) |
| હાર્ડવેર પ્લેટફોર્મ | ૧× NVIDIA H100 GPU |
| પ્રોવર પ્રીફિલ ઝડપ | ~૧૧૦ ટોકન્સ/સેકન્ડ |
| પ્રોમ્પ્ટ સંદર્ભ વિન્ડો | ૧,૦૨૪ ટોકન્સ |
| પ્રૂફ ફાઇલનું કદ | ~૧૯ MB |
| CPU વેરિફિકેશન સમય | < ૨ સેકન્ડ |
| vLLM ની સરખામણીએ GPU સમય | ૭૦ થી ૯૫ ગણો |
ગણતરીના ચોંકાવનારા આંકડા અને કાર્યક્ષમતા
અગાઉના સમયમાં AI મોડેલની વિશાળ ગણતરીઓ માટે આવા ક્રિપ્ટોગ્રાફિક પુરાવા તૈયાર કરવા અતિશય ધીમા અને બિનવ્યવહારુ ગણાતા હતા. પરંતુ Anthropic ના સંશોધકો રોય રિનબર્ગ, એલેક્સ એલેન તથા EPFL અને MIT ના સહયોગીઓએ આ વિચારને વાસ્તવિકતામાં ફેરવ્યો છે. FlashProve નું પરીક્ષણ Meta ના ૪૦૦ અબજ પેરામીટર ધરાવતા 'Llama 4 Maverick' (મિશ્રણ-ઓફ-એક્સપર્ટ્સ માળખું અને ૪-બીટ ક્વોન્ટાઇઝેશન સાથે, જેનું કદ ૨૩૨ GB છે) મોડેલ પર કરવામાં આવ્યું હતું.
કંપનીના તકનીકી અહેવાલ અનુસાર, માત્ર એક જ NVIDIA H100 GPU પર FlashProve નો પ્રોવર પ્રતિ સેકન્ડે ૧૦૦ થી ૧૧૦ ટોકન્સની પ્રીફિલ ઝડપે પુરાવા તૈયાર કરી શકે છે (૨૪ વિનંતીઓના બેચ સાથે). ૧,૦૨૪ ટોકનના સંદર્ભ વિન્ડો (context window) ધરાવતી વિનંતી માટે તૈયાર થતા પુરાવાનું કદ આશરે ૧૯ મેગાબાઇટ (MB) જેટલું રહે છે. આ પુરાવો તૈયાર કરવામાં સામાન્ય ઇન્ફરન્સ લાઇબ્રેરી vLLM કરતાં આશરે ૭૦ થી ૯૫ ગણો વધુ GPU સમય લાગે છે, જે ક્રિપ્ટોગ્રાફિક પુરાવાઓની દુનિયામાં ખૂબ જ મોટો તકનીકી કૂદકો માનવામાં આવે છે.
સૌથી મોટી વિશેષતા એ છે કે તેની ચકાસણી (verification) અત્યંત સંક્ષિપ્ત અને હળવી છે. વપરાશકર્તા સામાન્ય લેપટોપ કે CPU પર ૨ જીબી કરતાં ઓછા રેમ (RAM) સાથે માત્ર ૨ સેકન્ડ કરતાં પણ ઓછા સમયમાં આ ૧૯ MB ના પુરાવાની સત્યાર્થતા ચકાસી શકે છે.
સોફ્ટવેર વિરુદ્ધ હાર્ડવેર: Lean 4 માં ગાણિતિક ગેરંટી
અત્યાર સુધી પ્રોવેબલ ઇન્ફરન્સ માટે મોટાભાગે હાર્ડવેર આધારિત રસ્તાઓ, જેમ કે 'ટ્રસ્ટેડ એક્ઝિક્યુશન એન્વાયર્નમેન્ટ્સ' (TEE: પ્રોસેસરની અંદર સુરક્ષિત રીતે સીલ કરાયેલો વિસ્તાર) પર આધાર રાખવામાં આવતો હતો. પરંતુ હાર્ડવેર આધારિત પદ્ધતિઓમાં ચિપ ઉત્પાદક કંપની પર સંપૂર્ણ નિર્ભર રહેવું પડે છે અને માઇક્રોકોડ અથવા સાઇડ-ચેનલ એટેક્સ દ્વારા સુરક્ષા જોખમાઈ શકે છે. FlashProve સંપૂર્ણપણે 'સોફ્ટવેર અને શુદ્ધ ગણિત' આધારિત સિસ્ટમ છે. તેની સુરક્ષા ગાણિતિક કોયડાઓની જટિલતા પર નિર્ભર કરે છે; જો સર્વરનું ઓપરેટિંગ સિસ્ટમ કે વાતાવરણ હેક થયેલું હોય તો પણ હુમલાખોર ખોટો પુરાવો બનાવી શકતો નથી.
ગિટહબ રિપોઝિટરીમાં દર્શાવ્યા મુજબ, આ પ્રોટોકોલની વિશ્વસનીયતા (soundness) 'Lean 4' નામના ઔપચારિક ગાણિતિક પુરાવા સોફ્ટવેરમાં અકાટ્ય રીતે સાબિત કરવામાં આવી છે. ગાણિતિક થિયરેમ મુજબ, જો કોઈ પ્રદાતા અધિકૃત મોડેલ સિવાય અન્ય મોડેલનો ખોટો જવાબ પકડાયા વિના પસાર કરવાનો પ્રયાસ કરે, તો q જેટલી હેશ પૂછપરછો પછી પણ તેની સફળ થવાની સંભાવના માત્ર q/૨^૧૨૪ + ૨^-૧૦૧ જેટલી નજીવી છે, જે વ્યવહારમાં અશક્ય બરાબર છે.
સંશોધનનો તબક્કો અને ભવિષ્યની ક્ષિતિજો
ગિટહબ પર આ પ્રોજેક્ટને Apache 2.0 ઓપન-સોર્સ લાયસન્સ હેઠળ સંસ્કરણ ૦.૧૬.૦ તરીકે જાહેર કરવામાં આવ્યો છે. જોકે Anthropic અને ટેકક્રંચ સ્પષ્ટતા કરે છે કે FlashProve હજુ એક પ્રાયોગિક સંશોધન પ્રોટોટાઇપ છે અને હાલમાં તેને Anthropic કે અન્ય કોઈ લેબ દ્વારા વ્યાપારી પ્રોડક્શનમાં લાગુ કરવાની કોઈ યોજના નથી. આ સંશોધન અન્ય વૈજ્ઞાનિકો અને સમુદાય માટે ખુલ્લું મૂકવામાં આવ્યું છે જેથી પ્રોવેબલ ઇન્ફરન્સના ક્ષેત્રમાં વધુ પ્રગતિ થઈ શકે.
જ્યારે વિશ્વભરમાં AI મોડેલો નિર્ણાયક નિર્ણયો લેવાનું શરૂ કરી રહ્યા છે, ત્યારે ગણિતના સથવારે મોડેલની ઓળખની ખાતરી આપવી એ AI સુરક્ષા, સરકારી નિયમન અને વપરાશકર્તાના વિશ્વાસ માટે પાયાનો પથ્થર સાબિત થશે.
