Π Π°Π·ΡΠ°Π±ΠΎΡΡΠΈΠΊΠΈ Python-Π±ΠΈΠ±Π»ΠΈΠΎΡΠ΅ΠΊΠΈ LiteLLM, Π½Π°ΡΡΠΈΡΡΠ²Π°ΡΡΠ΅ΠΉ 95 ΠΌΠ»Π½ Π·Π°Π³ΡΡΠ·ΠΎΠΊ Π² ΠΌΠ΅ΡΡΡ ΠΈ 3.5 ΠΌΠ»Π½ Π·Π° ΠΏΠΎΡΠ»Π΅Π΄Π½ΠΈΠ΅ ΡΡΡΠΊΠΈ, ΡΠΎΠΎΠ±ΡΠΈΠ»ΠΈ ΠΎ ΠΊΠΎΠΌΠΏΡΠΎΠΌΠ΅ΡΠ°ΡΠΈΠΈ ΠΏΡΠΎΠ΅ΠΊΡΠ°. ΠΡΠ°ΠΊΡΡΡΠΈΠ΅ ΡΠΌΠΎΠ³Π»ΠΈ ΠΏΠ΅ΡΠ΅Ρ Π²Π°ΡΠΈΡΡ ΡΡΡΡΠ½ΡΠ΅ Π΄Π°Π½Π½ΡΠ΅ ΡΠΎΠΏΡΠΎΠ²ΠΎΠΆΠ΄Π°ΡΡΠ΅Π³ΠΎ ΠΈ ΠΎΠΏΡΠ±Π»ΠΈΠΊΠΎΠ²Π°ΡΡ Π² PyPI Π΄Π²Π° Π²ΡΠ΅Π΄ΠΎΠ½ΠΎΡΠ½ΡΡ Π²ΡΠΏΡΡΠΊΠ° β 1.82.7 ΠΈ 1.82.8, ΡΠΎΠ΄Π΅ΡΠΆΠ°ΡΠΈΡ ΠΊΠΎΠ΄ Π΄Π»Ρ ΠΊΡΠ°ΠΆΠΈ ΠΊΠ»ΡΡΠ΅ΠΉ ΠΈ ΠΏΠ°ΡΠΎΠ»Π΅ΠΉ Ρ ΡΠΈΡΡΠ΅ΠΌ ΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°ΡΠ΅Π»Π΅ΠΉ. Π Π½Π°ΡΡΠΎΡΡΠ΅Π΅ Π²ΡΠ΅ΠΌΡ Π²ΡΠ΅Π΄ΠΎΠ½ΠΎΡΠ½ΡΠ΅ Π²Π΅ΡΡΠΈΠΈ ΡΠ΄Π°Π»Π΅Π½Ρ ΠΈΠ· PyPI, Π° ΠΏΡΠΎΠ΅ΠΊΡ Π²ΡΠ΅ΠΌΠ΅Π½Π½ΠΎ Π·Π°ΠΌΠΎΡΠΎΠΆΠ΅Π½ Π΄ΠΎ ΠΎΠΊΠΎΠ½ΡΠ°Π½ΠΈΡ ΡΠ°Π·Π±ΠΈΡΠ°ΡΠ΅Π»ΡΡΡΠ²Π°.
Π’ΠΎΠΊΠ΅Π½ Π΄ΠΎΡΡΡΠΏΠ° ΠΊ ΡΡΡΡΠ½ΠΎΠΉ Π·Π°ΠΏΠΈΡΠΈ LiteLLM Π² PyPI ΠΏΠΎΠΏΠ°Π» Π² ΡΡΠΊΠΈ Π°ΡΠ°ΠΊΡΡΡΠΈΡ ΠΈΠ·-Π·Π° ΠΈΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°Π½ΠΈΡ Π² ΡΠΈΡΡΠ΅ΠΌΠ΅ Π½Π΅ΠΏΡΠ΅ΡΡΠ²Π½ΠΎΠΉ ΠΈΠ½ΡΠ΅Π³ΡΠ°ΡΠΈΠΈ ΡΠΊΠ°Π½Π΅ΡΠ° Π±Π΅Π·ΠΎΠΏΠ°ΡΠ½ΠΎΡΡΠΈ Π·Π°Π²ΠΈΡΠΈΠΌΠΎΡΡΠ΅ΠΉ trivvy. ΠΠΎ ΡΡΠΎΠ³ΠΎ Π² ΠΊΠΎΠ½ΡΠ΅ ΡΠ΅Π²ΡΠ°Π»Ρ Π°ΡΠ°ΠΊΡΡΡΠΈΠ΅ ΡΠΌΠΎΠ³Π»ΠΈ ΠΏΠΎΠ»ΡΡΠΈΡΡ Π΄ΠΎΡΡΡΠΏ ΠΊ ΠΈΠ½ΡΡΠ°ΡΡΡΡΠΊΡΡΡΠ΅ ΠΏΡΠΎΠ΅ΠΊΡΠ° Trivy, Π²ΠΎΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°Π²ΡΠΈΡΡ ΡΡΠ·Π²ΠΈΠΌΠΎΡΡΡΡ Π² ΠΎΠ±ΡΠ°Π±ΠΎΡΡΠΈΠΊΠ΅ pull_request_target, Π·Π°ΠΏΡΡΠΊΠ°Π΅ΠΌΠΎΠΌ Π² ΡΠΈΡΡΠ΅ΠΌΠ΅ Π½Π΅ΠΏΡΠ΅ΡΡΠ²Π½ΠΎΠΉ ΠΈΠ½ΡΠ΅Π³ΡΠ°ΡΠΈΠΈ Trivy. ΠΠΎΡΠ»Π΅ ΠΊΠΎΠΌΠΏΡΠΎΠΌΠ΅ΡΠ°ΡΠΈΠΈ Π°ΡΠ°ΠΊΡΡΡΠΈΠ΅ ΠΎΠΏΡΠ±Π»ΠΈΠΊΠΎΠ²Π°Π»ΠΈ Π²ΡΠ΅Π΄ΠΎΠ½ΠΎΡΠ½ΡΠ΅ Π²ΡΠΏΡΡΠΊΠΈ Trivy 0.69-0.69, ΠΏΠΎΠ΄ΠΌΠ΅Π½ΠΈΠ»ΠΈ GitHub Action ΠΎΠ±ΡΠ°Π±ΠΎΡΡΠΈΠΊ trivy-action ΠΈ ΡΠ°Π·ΠΌΠ΅ΡΡΠΈΠ»ΠΈ ΠΌΠΎΠ΄ΠΈΡΠΈΡΠΈΡΠΎΠ²Π°Π½Π½ΡΠΉ Docker-ΠΎΠ±ΡΠ°Π· Ρ Trivy.
24 ΠΌΠ°ΡΡΠ° Π² 11:30 (MSK) ΠΏΠ΅ΡΠ΅Ρ Π²Π°ΡΠ΅Π½Π½ΡΠ΅ ΡΡΡΡΠ½ΡΠ΅ Π΄Π°Π½Π½ΡΠ΅ ΡΠΎΠΏΡΠΎΠ²ΠΎΠΆΠ΄Π°ΡΡΠ΅Π³ΠΎ LiteLLM (krrishdholakia) Π±ΡΠ»ΠΈ ΠΈΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°Π½Ρ Π΄Π»Ρ ΠΏΡΡΠΌΠΎΠΉ ΠΏΡΠ±Π»ΠΈΠΊΠ°ΡΠΈΠΈ Π²ΡΠ΅Π΄ΠΎΠ½ΠΎΡΠ½ΡΡ ΡΠ΅Π»ΠΈΠ·ΠΎΠ² LiteLLM 1.82.7 ΠΈ 1.82.8 Π² PyPI Π² ΠΎΠ±Ρ ΠΎΠ΄ ΠΎΡΠΈΡΠΈΠ°Π»ΡΠ½ΠΎΠ³ΠΎ GitHub CI/CD. Π Π΅ΠΏΠΎΠ·ΠΈΡΠΎΡΠΈΠΉ ΠΏΡΠΎΠ΅ΠΊΡΠ° Π½Π° GitHub Π½Π΅ ΠΏΠΎΡΡΡΠ°Π΄Π°Π» β Π²ΡΠ΅Π΄ΠΎΠ½ΠΎΡΠ½Π°Ρ Π°ΠΊΡΠΈΠ²Π½ΠΎΡΡΡ Π½Π°Π±Π»ΡΠ΄Π°Π»Π°ΡΡ ΡΠΎΠ»ΡΠΊΠΎ Π² PyPI. Π Π²ΡΠΏΡΡΠΊΠ΅ LiteLLM 1.82.7 Π²ΡΠ΅Π΄ΠΎΠ½ΠΎΡΠ½ΡΠΉ ΠΊΠΎΠ΄ Π±ΡΠ» Π²ΡΡΡΠΎΠ΅Π½ Π² ΡΠ°ΠΉΠ» litellm/proxy/proxy_server.py ΠΈ Π°ΠΊΡΠΈΠ²ΠΈΡΠΎΠ²Π°Π»ΡΡ ΠΏΡΠΈ ΠΈΠΌΠΏΠΎΡΡΠ΅ litellm.proxy. Π Π²ΡΠΏΡΡΠΊΠ΅ 1.82.8 Π² ΡΠΎΡΡΠ°Π² Π±ΡΠ» Π²ΠΊΠ»ΡΡΡΠ½ ΡΠ°ΠΉΠ» site-packages/litellm_init.pth, Π° Π² ΡΠ°ΠΉΠ» proxy_server.py Π±ΡΠ» Π΄ΠΎΠ±Π°Π²Π»Π΅Π½ ΠΎΠ±ΡΠ°Π±ΠΎΡΡΠΈΠΊ, ΡΠΏΠ°ΠΊΠΎΠ²Π°Π½Π½ΡΠΉ Π² ΡΠΎΡΠΌΠ°ΡΠ΅ base64 ΠΈ Π°ΠΊΡΠΈΠ²ΠΈΡΡΠ΅ΠΌΡΠΉ ΠΏΡΠΈ Π»ΡΠ±ΠΎΠΌ Π·Π°ΠΏΡΡΠΊΠ΅.
ΠΠΎΠ±Π°Π²Π»Π΅Π½Π½ΡΠΉ Π²ΡΠ΅Π΄ΠΎΠ½ΠΎΡΠ½ΡΠΉ ΠΊΠΎΠ΄ ΠΎΡΡΡΠ΅ΡΡΠ²Π»ΡΠ» ΡΠΊΠ°Π½ΠΈΡΠΎΠ²Π°Π½ΠΈΠ΅ ΠΈ ΠΎΡΠΏΡΠ°Π²ΠΊΡ ΠΊΠΎΠ½ΡΠΈΠ΄Π΅Π½ΡΠΈΠ°Π»ΡΠ½ΡΡ Π΄Π°Π½Π½ΡΡ . ΠΡΠΏΡΠ°Π²Π»ΡΠ»ΠΈΡΡ Π½Π°ΠΉΠ΄Π΅Π½Π½ΡΠ΅ Π² ΡΠΈΡΡΠ΅ΠΌΠ΅ ΠΊΠ»ΡΡΠΈ SSH ΠΈ SSL/TLS, ΡΠΎΠ΄Π΅ΡΠΆΠΈΠΌΠΎΠ΅ ΠΏΠ΅ΡΠ΅ΠΌΠ΅Π½Π½ΡΡ ΠΎΠΊΡΡΠΆΠ΅Π½ΠΈΡ, ΡΡΡΡΠ½ΡΠ΅ Π΄Π°Π½Π½ΡΠ΅ ΠΊ AWS, GCP, Azure ΠΈ K8s, ΠΊΠ»ΡΡΠΈ ΠΎΡ ΠΊΡΠΈΠΏΡΠΎΠΊΠΎΡΠ΅Π»ΡΠΊΠΎΠ², ΠΏΠ°ΡΠΎΠ»ΠΈ ΠΊ Π‘Π£ΠΠ, ΠΈΡΡΠΎΡΠΈΡ ΠΎΠΏΠ΅ΡΠ°ΡΠΈΠΉ Π² ΠΊΠΎΠΌΠ°Π½Π΄Π½ΠΎΠΌ ΠΈΠ½ΡΠ΅ΡΠΏΡΠ΅ΡΠ°ΡΠΎΡΠ΅, ΡΠ°ΠΉΠ»Ρ ΠΊΠΎΠ½ΡΠΈΠ³ΡΡΠ°ΡΠΈΠΈ ΠΎΡ Git, CI/CD, ΠΏΠ°ΠΊΠ΅ΡΠ½ΡΡ ΠΌΠ΅Π½Π΅Π΄ΠΆΠ΅ΡΠΎΠ² ΠΈ Docker. ΠΠ±Π½Π°ΡΡΠΆΠ΅Π½Π½ΡΠ΅ Π΄Π°Π½Π½ΡΠ΅ ΡΠΈΡΡΠΎΠ²Π°Π»ΠΈΡΡ Ρ ΠΈΡΠΏΠΎΠ»ΡΠ·ΠΎΠ²Π°Π½ΠΈΠ΅ΠΌ Π°Π»Π³ΠΎΡΠΈΡΠΌΠΎΠ² AES-256-CBC + RSA-4096 ΠΈ ΠΎΡΠΏΡΠ°Π²Π»ΡΠ»ΠΈΡΡ HTTP POST-Π·Π°ΠΏΡΠΎΡΠΎΠΌ Π½Π° ΡΠ°ΠΉΡ Β«https://models.litellm.cloud/Β» (Π΄ΠΎΠΌΠ΅Π½ litellm.cloud Π±ΡΠ» Π·Π°ΡΠ΅Π³ΠΈΡΡΡΠΈΡΠΎΠ²Π°Π½ Π·Π° Π½Π΅ΡΠΊΠΎΠ»ΡΠΊΠΎ ΡΠ°ΡΠΎΠ² Π΄ΠΎ ΠΏΡΠ±Π»ΠΈΠΊΠ°ΡΠΈΠΈ Π²ΡΠ΅Π΄ΠΎΠ½ΠΎΡΠ½ΡΡ ΡΠ΅Π»ΠΈΠ·ΠΎΠ²).
ΠΠΎΠ»ΡΠ·ΠΎΠ²Π°ΡΠ΅Π»ΡΠΌ LiteLLM ΡΠ΅ΠΊΠΎΠΌΠ΅Π½Π΄ΠΎΠ²Π°Π½ΠΎ ΡΠ±Π΅Π΄ΠΈΡΡΡΡ Π² ΠΎΡΡΡΡΡΡΠ²ΠΈΠΈ Π² ΠΊΠ°ΡΠ°Π»ΠΎΠ³Π΅ site-packages ΡΠ°ΠΉΠ»Π° litellm_init.pth, ΠΎΠ±Π½ΠΎΠ²ΠΈΡΡ Π²ΡΠ΅ ΠΊΠ»ΡΡΠΈ ΠΈ ΡΡΡΡΠ½ΡΠ΅ Π΄Π°Π½Π½ΡΠ΅ Π² ΡΠ»ΡΡΠ°Π΅ ΡΡΡΠ°Π½ΠΎΠ²ΠΊΠΈ Π²Π΅ΡΡΠΈΠΈ 1.82.7 ΠΈΠ»ΠΈ 1.82.8, Π·Π°ΠΊΡΠ΅ΠΏΠΈΡΡ ΠΊΠΎΠ½ΠΊΡΠ΅ΡΠ½ΡΠ΅ Π²Π΅ΡΡΠΈΠΈ LiteLLM Π² ΠΏΠ°ΡΠ°ΠΌΠ΅ΡΡΠ°Ρ
Π·Π°Π³ΡΡΠ·ΠΊΠΈ Π·Π°Π²ΠΈΡΠΈΠΌΠΎΡΡΠ΅ΠΉ ΠΈ ΡΠ²Π΅ΡΠΈΡΡ ΠΈΡΠΏΠΎΠ»ΡΠ·ΡΠ΅ΠΌΡΠ΅ Π²ΡΠΏΡΡΠΊΠΈ LiteLLM Ρ ΠΊΠΎΠ΄ΠΎΠΌ ΡΠ΅Π»ΠΈΠ·ΠΎΠ² Π½Π° GitHub.
ΠΡΡΠΎΡΠ½ΠΈΠΊ: opennet.ru
