Google wis ngumumake eksperimen kanggo nampilake model basa machine learning gedhe menyang Chrome. Kanggo ngakses model saka aplikasi web lan add-on browser, Prompt API diusulake, sing ngidini sampeyan ngirim panjalukan ing basa alami, padha karo chatbots. Dikarepake yen model basa gedhe sing dibangun ing browser bakal nyederhanakake eksekusi tugas AI ing aplikasi web lan bakal ngilangi rasa kuwatir babagan nginstal lan ngatur model basa.
Eksperimen sing digunakake yaiku model Gemini Nano, sing paling kompak saka kulawarga Gemini. Sampeyan uga bisa nginstal model pakar sing ngembangake model dhasar kanthi kawruh tambahan sing bisa uga dibutuhake kanggo ngatasi masalah tartamtu, uga kanggo ngetrapake katrampilan kayata terjemahan mesin lan ringkesan. Model dieksekusi sacara lokal ing sistem pangguna tanpa ngakses layanan eksternal.
Runtime sing digunakake kanggo nglakokake model kanthi otomatis nggunakake GPU lan NPU sing kasedhiya ing sistem kanggo nyepetake karya karo model utawa ngalih kanggo nglakokake model nggunakake CPU. Kauntungan saka mbukak model ing sistem pangguna kalebu njaga rahasia data sing diproses, kemampuan kanggo terus digunakake ing mode offline tanpa ana sambungan jaringan utawa yen ana masalah karo kualitas komunikasi, nyuda wektu tundha nalika ngirim panjalukan, lan ngilangi katergantungan marang layanan eksternal.
API Prompt, dikembangake kanggo sesambungan karo model, ngidini sampeyan nindakake ora mung panjalukan siji sing paling gampang ing basa alami, nanging uga ngatur keterlibatan model ing proses lan klasifikasi data kanthi njupuk konteks, njupuk panjalukan lan data sadurunge. dikirim ing sesi, lan uga nggunakake model kanggo milih pilihan sing paling apik (Contone, sampeyan bisa takon kanggo pilih lambang saka dhaptar emoji kanggo komentar tartamtu ing situs). Kajaba iku, direncanakake ngembangake API kanggo digunakake ing bidang nggawe konten lan ngrampungake masalah kayata nulis ulang kanthi tembung liya, proofreading lan mbenerake tata basa.
Umumé, rong jinis API dikembangake kanggo sesambungan karo model AI sing dibangun - Tugas lan Eksplorasi. Pisanan nyedhiyakake akses menyang kemampuan kanggo ngrampungake masalah tartamtu, kayata nerjemahake teks saka basa siji menyang basa liyane (API Translation) utawa ngringkes inti utama teks (API Summarization). Jinis kapindho ngarahake nggawe lan nguji prototipe eksperimen nalika ngembangake API Tugas anyar. Pakaryan uga ditindakake ing API LoRA (Adaptasi Peringkat Rendah) kanggo ngganti koefisien bobot model dhasar kanggo nambah efisiensi kanggo ngrampungake masalah tartamtu.
Akses kanggo melu eksperimen diwenehake sawise ngisi aplikasi kasebut. API ing pembangunan aktif lan bakal ditambahi lan diganti njupuk menyang akun saran pangguna lan pilihan nganti versi final diadopsi. Ing mangsa ngarep, kita rencana kanggo ngatur tes sing luwih gampang diakses nggunakake mode Origin Trials, sing nyedhiyakake kemampuan kanggo nggarap API eksperimen saka aplikasi sing diundhuh saka localhost utawa 127.0.0.1, utawa sawise ndhaptar lan nampa token khusus sing valid kanggo winates. wektu kanggo situs tartamtu. Ing podo karo karo manufaktur saka browser liyane, karya ditindakake kanggo standarisasi API sing dikembangake.
Source: opennet.ru
