פרסם את OpenChatKit, ערכת כלים לבניית צ'אטבוטים

מוצגת ערכת הכלים של הקוד הפתוח של OpenChatKit, שמטרתה לפשט את היצירה של צ'אטבוטים לשימוש מיוחד וכללי. המערכת מותאמת לביצוע משימות כמו מענה על שאלות, ניהול דיאלוגים רב-שלביים, סיכום, הוצאת מידע וסיווג טקסט. הקוד כתוב ב-Python ומופץ תחת רישיון Apache 2.0. הפרויקט כולל מודל מוכן, קוד לאימון המודל שלך, כלי עזר לבדיקת תוצאות המודל, כלים להשלמת המודל בהקשר מאינדקס חיצוני והתאמת מודל הבסיס לפתרון בעיות משלך.

הבוט מבוסס על מודל למידת מכונה בסיסית (GPT-NeoXT-Chat-Base-20B), שנבנה באמצעות מודל שפה המכסה כ-20 מיליארד פרמטרים ומותאם לתקשורת שיחה. כדי להכשיר את המודל, נעשה שימוש בנתונים שהתקבלו מאוספי הפרויקט LAION, Together ו-Ontocord.ai.

כדי להרחיב את בסיס הידע הקיים, מוצעת מערכת שיכולה לאחזר מידע נוסף ממאגרים חיצוניים, ממשקי API ומקורות נוספים. לדוגמה, ניתן לעדכן מידע באמצעות נתונים מויקיפדיה וחדשות. זמין מודל ניהול אופציונלי, מאומן על 6 מיליארד פרמטרים ומבוסס על מודל GPT-JT, כדי לסנן שאלות לא הולמות או להגביל דיונים לנושאים ספציפיים.

בנפרד, אנו יכולים להזכיר את פרויקט ChatLLaMA, המציע ספרייה ליצירת עוזרים אינטליגנטיים בדומה ל-ChatGPT. הפרויקט מפותח מתוך עין לאפשרות לרוץ על ציוד משלך וליצור פתרונות מותאמים אישית המיועדים לכיסוי תחומי ידע צרים (למשל רפואה, משפטים, משחקים, מחקר מדעי וכו'). קוד ChatLLaMA מורשה תחת GPLv3.

הפרויקט תומך בשימוש במודלים המבוססים על ארכיטקטורת LLaMA (Large Language Model Meta AI) המוצעת על ידי Meta. מודל ה-LAMA המלא מכסה 65 מיליארד פרמטרים, אך עבור ChatLLaMA מומלץ להשתמש באופציות עם 7 ו-13 מיליארד פרמטרים או ב-GPTJ (6 מיליארד), GPTNeoX (1.3 מיליארד), 20BOPT (13 מיליארד), BLOOM (7.1 מיליארד) ו דגמי Galactica (6.7 מיליארד) ). בתחילה, דגמי LLaMA סופקו רק לחוקרים על פי בקשה מיוחדת, אך מכיוון שטורנטים שימשו להעברת נתונים, חובבים הכינו סקריפט שאפשר לכל אחד להוריד את הדגם.

מקור: OpenNet.ru