گوگل نے کروم میں ایک بڑی مشین لرننگ لینگویج ماڈل کو ایمبیڈ کرنے کے تجربے کا اعلان کیا ہے۔ ویب ایپلیکیشنز اور براؤزر ایڈ آنز سے ماڈل تک رسائی کے لیے، Prompt API تجویز کیا گیا ہے، جو آپ کو چیٹ بوٹس کی طرح قدرتی زبان میں درخواستیں بھیجنے کی اجازت دیتا ہے۔ یہ توقع کی جاتی ہے کہ براؤزر میں بنایا گیا ایک بڑا لینگویج ماڈل ویب ایپلیکیشنز میں AI کاموں کی انجام دہی کو آسان بنائے گا اور آپ کو لینگویج ماڈلز کو انسٹال کرنے اور ان کے انتظام کے بارے میں فکر مند ہونے کی اجازت دے گا۔
استعمال کیا گیا تجربہ جیمنی نینو ماڈل ہے، جو جیمنی خاندان کا سب سے کمپیکٹ ہے۔ ماہر ماڈلز کو انسٹال کرنا بھی ممکن ہے جو اضافی معلومات کے ساتھ بیس ماڈل کو بڑھاتے ہیں جو مخصوص مسائل کو حل کرنے کے ساتھ ساتھ مشینی ترجمہ اور خلاصہ جیسی مہارتوں کو نافذ کرنے کے لیے درکار ہو سکتے ہیں۔ ماڈلز کو بیرونی خدمات تک رسائی کے بغیر صارف کے سسٹم پر مقامی طور پر عمل میں لایا جاتا ہے۔
ماڈل کو چلانے کے لیے استعمال ہونے والا رن ٹائم خود کار طریقے سے سسٹم میں دستیاب GPUs اور NPUs کا استعمال کرتا ہے تاکہ ماڈل کے ساتھ کام کو تیز کیا جا سکے یا CPU کا استعمال کرتے ہوئے ماڈل کو عمل میں لانے کے لیے سوئچ کیا جا سکے۔ صارف کے سسٹم پر ماڈل چلانے کے فوائد میں پروسیس شدہ ڈیٹا کی رازداری کو برقرار رکھنا، نیٹ ورک کنکشن کی عدم موجودگی میں آف لائن موڈ میں کام جاری رکھنے کی صلاحیت یا کمیونیکیشن کے معیار میں مسائل پیدا ہونے کی صورت میں، درخواستیں بھیجنے میں تاخیر کو کم کرنا، اور بیرونی خدمات پر انحصار کو ختم کرنا۔
API پرامپٹ، جو ماڈل کے ساتھ تعامل کے لیے تیار کیا گیا ہے، آپ کو قدرتی زبان میں نہ صرف آسان ترین درخواستوں کو انجام دینے کی اجازت دیتا ہے، بلکہ سیاق و سباق کو مدنظر رکھتے ہوئے ڈیٹا کی پروسیسنگ اور درجہ بندی کرنے میں ماڈل کی شمولیت کو بھی منظم کرتا ہے، پہلے کی درخواستوں اور ڈیٹا کو مدنظر رکھتا ہے۔ سیشن میں بھیجا جائے گا، اور بہترین آپشنز کو منتخب کرنے کے لیے ماڈل کا بھی استعمال کریں (مثال کے طور پر، آپ سائٹ پر مخصوص تبصرے کے لیے ایموجی کی فہرست میں سے ایک آئیکن منتخب کرنے کے لیے کہہ سکتے ہیں)۔ مزید برآں، مواد کی تخلیق اور دیگر الفاظ میں دوبارہ لکھنا، پروف ریڈنگ اور گرامر کو درست کرنے جیسے مسائل کو حل کرنے کے لیے API کو تیار کرنے کا منصوبہ ہے۔
عام طور پر، بلٹ ان AI ماڈل کے ساتھ تعامل کرنے کے لیے دو قسم کے API تیار کیے جا رہے ہیں - ٹاسک اور ایکسپلوریٹری۔ پہلا مخصوص مسائل کو حل کرنے کی صلاحیتوں تک رسائی فراہم کرتا ہے، جیسے کہ ایک زبان سے دوسری زبان میں متن کا ترجمہ کرنا (API ترجمہ) یا متن کے بنیادی جوہر کا خلاصہ (API خلاصہ)۔ دوسری قسم کا مقصد نئے ٹاسک APIs تیار کرتے وقت تجرباتی پروٹو ٹائپس بنانا اور جانچنا ہے۔ کچھ مسائل کو حل کرنے کی کارکردگی کو بہتر بنانے کے لیے بیس ماڈل کے وزنی گتانک کو اپنانے کے لیے LoRA (Low-Rank Adaptation) API پر بھی کام جاری ہے۔
تجربے میں حصہ لینے کے لیے رسائی درخواست بھرنے کے بعد فراہم کی جاتی ہے۔ API فعال ترقی کے تحت ہے اور حتمی ورژن کو اپنانے تک صارف کے تاثرات اور ترجیحات کو مدنظر رکھتے ہوئے اس میں توسیع اور تبدیلی کی جائے گی۔ مستقبل میں، ہم اوریجن ٹرائلز موڈ کا استعمال کرتے ہوئے مزید قابل رسائی ٹیسٹنگ کو منظم کرنے کا ارادہ رکھتے ہیں، جو لوکل ہوسٹ یا 127.0.0.1 سے ڈاؤن لوڈ کردہ ایپلیکیشنز سے تجرباتی APIs کے ساتھ کام کرنے کی صلاحیت فراہم کرتا ہے، یا رجسٹر کرنے اور ایک خاص ٹوکن حاصل کرنے کے بعد جو ایک محدود حد تک درست ہے۔ ایک مخصوص سائٹ کے لئے وقت. دوسرے براؤزرز کے مینوفیکچررز کے ساتھ متوازی طور پر، ترقی یافتہ APIs کو معیاری بنانے کے لیے کام جاری ہے۔
ماخذ: opennet.ru
