የJFrog ተመራማሪዎች ተንኮል-አዘል የማሽን መማሪያ ሞዴሎችን በHugging Face ማከማቻ ውስጥ ለይተው ያውቃሉ ፣ይህም መጫኑ የተጠቃሚውን ስርዓት ለመቆጣጠር የአጥቂ ኮድ አፈፃፀምን ያስከትላል። ችግሩ የተፈጠረው አንዳንድ የሞዴል ማከፋፈያ ቅርጸቶች ሊተገበር የሚችል ኮድ መክተት ስለሚፈቅዱ ነው፡ ለምሳሌ፡ የ" pickle" ፎርማት የሚጠቀሙ ሞዴሎች ተከታታይ የፓይዘን ዕቃዎችን እንዲሁም ፋይሉ በሚጫንበት ጊዜ የሚሰራ ኮድን ሊያካትቱ ይችላሉ፣ እና Tensorflow Keras ሞዴሎች ሊሰሩ ይችላሉ። Lambda Layer በኩል ኮድ.
እንደዚህ አይነት ተንኮል አዘል ሞዴሎች እንዳይስፋፉ ለመከላከል፣Hugging Face ተከታታይ የኮድ ምትክ ቅኝትን ይጠቀማል፣ነገር ግን ተለይተው የታወቁት ተንኮል አዘል ሞዴሎች አሁን ያሉት ቼኮች ሊታለፉ እንደሚችሉ ያመለክታሉ። በተጨማሪም፣ ፊትን ማቀፍ በአብዛኛዎቹ ሁኔታዎች ሞዴሎችን መድረስን ሳይከለክል እንደ አደገኛ ምልክት ያደርጋል። በጠቅላላው፣ 100 የሚያህሉ ተንኮል አዘል ሞዴሎች ተለይተዋል፣ ከእነዚህ ውስጥ 95% የሚሆኑት ከPyTorch ማዕቀፍ ጋር ለመጠቀም የታቀዱ ናቸው፣ እና 5% በ Tensorflow። በጣም የተለመዱት ተንኮል አዘል ለውጦች አንድን ነገር ማንሳት፣ የውጭ መግቢያን ማደራጀት (የተገላቢጦሽ ሼል)፣ መተግበሪያዎችን ማስጀመር እና በፋይል ላይ መፃፍን ያካትታሉ።
በተወሰዱት ድርጊቶች በመመዘን አብዛኛዎቹ ተለይተው የሚታወቁት ተንኮል-አዘል ሞዴሎች የተፈጠሩት በደህንነት ተመራማሪዎች ተጋላጭነቶችን እና የፊት መከላከያን ለማለፍ የሚረዱ ዘዴዎችን ለማግኘት በሚሞክሩ የደህንነት ተመራማሪዎች ነው (ለምሳሌ ፣ ከትክክለኛ ጥቃት ይልቅ ፣ እንደነዚህ ያሉ ሞዴሎች ይሞክራሉ ። ካልኩሌተር ለመጀመር ወይም የአውታረ መረብ ጥያቄን ስለ ጥቃቱ ስኬት መረጃ ለመላክ) . በተመሳሳይ ጊዜ አጥቂውን ከስርዓቱ ጋር ለማገናኘት የተገላቢጦሽ ሼል የሚጀምሩ አጋጣሚዎችም አሉ.
ለምሳሌ "baller423/goober2" እና "star23/baller13" የሚባሉት ሞዴሎች የቶርች ሎድ() ተግባርን በመጠቀም ሞዴል ፋይል ወደ ፒይቶርች የሚጭኑ ስርዓቶችን ለማጥቃት ነው። የኮድ አፈፃፀምን ለማደራጀት ከፒክል ሞጁል የሚገኘው "__reduce__" ዘዴ ጥቅም ላይ ይውላል, ይህም ሞዴሉን በሚጭኑበት ጊዜ በተከናወነው የዲሴሪያላይዜሽን ሂደት ውስጥ የዘፈቀደ የ Python ኮድ ለማስገባት ያስችልዎታል.
ምንጭ: opennet.ru
