በጃንዋሪ 24፣ የኢንቴል መሐንዲሶች ለዋና የክፍት ምንጭ አርቴፊሻል ኢንተለጀንስ መሣሪያ ስብስብ OpenVINO 2023.3 አቢይ ዝማኔ አውጥተዋል። ለአዲሱ የኤመራልድ ራፒድስ እና የሜትሮ ሌክ ፕሮሰሰሮች እንዲሁም ለሌሎች የኢንቴል ሃርድዌር ማሻሻያዎች ለጀነሬቲቭ አርቴፊሻል ኢንተለጀንስ (GenAI) እና ትልቅ የቋንቋ ሞዴሎች (LLM) ሙሉ ድጋፍ ይሰጣል።
OpenVINO 2023.3 የC/C++ ትልቅ ቋንቋ ሞዴል ቧንቧ መስመር ቤተኛ ናሙናዎችን ለማሳየት እና Mistral, Zephyr, ChatGLM3 እና ሌሎችን ጨምሮ ተጨማሪ ሞዴሎችን ለመሞከር የOpenVINO Gen AI ማከማቻን ያስተዋውቃል። Torch.compile አሁን ሙሉ በሙሉ ከOpenVINO ጋር ተዋህዷል።
ለትልቅ ቋንቋ ሞዴል ድጋፍን ለማሳደግ የ INT4 መጭመቂያ ሞዴል ቅርፀት በIntel Xeon ፕሮሰሰር እንዲሁም በIntel Core እና Intel iGPU ፕሮሰሰር ላይ ይደገፋል። በሁለቱም ሲፒዩዎች እና ጂፒዩዎች ላይ የተሻሻለ ትራንስፎርመር ላይ የተመሰረተ የኤልኤልኤም አፈጻጸም፣ ቀለል ያሉ የፊት ሞዴሎችን ማቀፍ እና ሌሎችም።
ለማጣቀሻ ፣ OpenVINO ገንቢዎች እና የውሂብ ተንታኞች ለተለያዩ የቪዲዮ ስርዓቶች ጥቅም ላይ የሚውሉ ከፍተኛ አፈፃፀም መፍትሄዎችን ለማፋጠን የሚያግዝ ክፍት እና ነፃ የመሳሪያ ስብስብ ነው። ይህ ሁሉን አቀፍ የመሳሪያዎች ስብስብ የተሟላ የኮምፒዩተር እይታ መፍትሄዎችን ይደግፋል፣ ጥልቅ የመማሪያ ስርጭቶችን ያመቻቻል እና በበርካታ የኢንቴል መድረኮች ላይ ቀላል አፈፃፀምን ያስችላል። OpenVINO እንዲሁ የፊት ለይቶ ማወቅን፣ የነገሮችን አውቶማቲክ እውቅና፣ ጽሑፍ እና ንግግር፣ የምስል ስራን እና ሌሎችንም ጨምሮ ብዙ አይነት ችግሮችን ይፈታል።
ምንጭ: linux.org.ru