Ollama 0.30.7

در تاریخ: 1405/03/20 1:26:56

توضیحات

Ollama ، اولاما (Ollama) یک فریمورک و ابزار خط فرمان متن‌ باز است که با هدف ساده‌ سازی فرآیند اجرا، مدیریت و تعامل با مدل‌های زبانی بزرگ (LLMs) به صورت محلی روی سیستم شخصی شما طراحی شده است. اولاما با حذف پیچیدگی‌های راه‌اندازی و پیکربندی سخت‌افزار، به کاربران اجازه می‌دهد تا مدل‌های متن‌باز (مانند Llama 3، Mistral، Gemma و Qwen) را به راحتی دانلود، اجرا و شخصی‌سازی کنند و تجربه‌ای یکپارچه، آفلاین، خصوصی و بسیار کارآمد از هوش مصنوعی محلی را فراهم می‌کند.

امکانات و ویژگی های برنامه Ollama :

رابط خط فرمان (CLI) روان: یک رابط خط فرمان قدرتمند و شهودی که به کاربران اجازه می‌دهد با دستورات ساده (مانند ollama run llama3) به راحتی مدل‌های محلی را دانلود (pull)، اجرا، لیست و مدیریت کنند.
شخصی‌سازی با Modelfile: یک سیستم “Modelfile” (مشابه Dockerfile) ارائه می‌دهد که به کاربران اجازه می‌دهد با تغییر پرامپت‌های سیستم، پارامترها و قالب‌ها، نسخه‌های سفارشی از مدل‌ها را به سادگی ایجاد کنند.
کتابخانه مدل‌های گسترده: دسترسی به یک رجیستری جامع از مدل‌های متن‌باز محبوب، از جمله Llama، Mistral، Phi، Gemma و مدل‌های چندوجهی مانند LLaVA را فراهم می‌کند.
REST API محلی: به طور خودکار یک سرور API محلی را راه‌اندازی می‌کند و به توسعه‌دهندگان اجازه می‌دهد تا مدل‌های زبانی محلی را به راحتی در برنامه‌ها، اسکریپت‌ها یا رابط‌های کاربری شخص ثالث (مانند Open WebUI) ادغام کنند.
شتاب‌دهی سخت‌افزاری: برای استنتاج محلی با عملکرد بالا بهینه‌سازی شده و به صورت پیش‌فرض از پردازنده‌های Apple Silicon (Metal) و همچنین کارت گرافیک‌های NVIDIA (CUDA) و AMD (ROCm) پشتیبانی می‌کند.
سازگاری چندسکویی: به طور کامل از سیستم‌عامل‌های اصلی، از جمله macOS، Windows و Linux پشتیبانی می‌کند و همچنین می‌توان آن را به راحتی از طریق Docker مستقر کرد.
قابلیت‌های چندوجهی (Multimodal): از مدل‌های چندوجهی پشتیبانی می‌کند و به کاربران اجازه می‌دهد تا تصاویر را در کنار متن، مستقیماً از طریق خط فرمان یا API پردازش و تحلیل کنند.
مدیریت پنجره زمینه (Context Window): به کاربران اجازه می‌دهد تا اندازه پنجره زمینه و سایر پارامترهای تولید (مانند temperature و top_p) را در لحظه پیکربندی و تنظیم کنند.