LM Studio

LM Studio е популярно десктоп приложение (достъпно за macOS, Windows и Linux), което улеснява търсенето, изтеглянето и стартирането на големи езикови модели (LLM) локално на потребителския компютър.

Инструментът предоставя интуитивен графичен интерфейс за чат с моделите, управление на изтеглените файлове (обикновено в GGUF формат, базиран на llama.cpp) и фина настройка на параметрите на инференцията. Една от най-важните му функции е възможността за стартиране на локален HTTP сървър, който е напълно съвместим с OpenAI API спецификацията, позволявайки лесна интеграция на локални модели в софтуерни инструменти и ИИ агенти.