Установить LM Studio и запустить локальную модель
Программа: LM Studio
📥 Скачать программу с официального сайта
Ссылка: https://www.lmstudio.ai/ (free / open-source)
Платформы: windows
Версия UI в источнике: LM Studio 0.3.5
🎥 Видео-инструкция
https://drive.google.com/file/d/1fGbS06cF81vzIqZerjTOKUTFV3L6eoxB/view
Ниже — текстовый гайд со скриншотами.
Шаг 1. Перейти на сайт lmstudio.ai
Откройте браузер и перейдите на официальный сайт LM Studio по адресу lmstudio.ai. Это позволит вам скачать установочный файл программы.
Шаг 2. Скачать LM Studio для вашей операционной системы
На главной странице сайта выберите и нажмите кнопку для скачивания LM Studio, соответствующую вашей операционной системе (Mac, Windows или Linux). Дождитесь завершения загрузки установочного файла.
Шаг 3. Открыть LM Studio
После установки запустите LM Studio.
После завершения установки запустите приложение LM Studio. Вы увидите основной интерфейс программы с полем для ввода сообщений.
Шаг 4. Перейти на вкладку ‘Обзор моделей’
В левой боковой панели LM Studio нажмите на иконку лупы с надписью ‘Обзор моделей’. Это откроет страницу с доступными для скачивания моделями.
Шаг 5. Выбрать модель Hermes 3 Llama 3.1 8B
В списке моделей найдите и выберите ‘Hermes 3 Llama 3.1 8B’. Эта модель хорошо подходит для начала работы. Нажмите на неё, чтобы просмотреть детали и опции загрузки.
Шаг 6. Выбрать опцию загрузки Q4_K_M
В разделе ‘4 download options available’ выберите опцию ‘Q4_K_M’. Эта опция обеспечивает хороший баланс между производительностью и размером модели. Нажмите на неё, чтобы начать загрузку.
Шаг 7. Нажать кнопку ‘Download’
Нажмите кнопку ‘Download 4.92 GB’ для начала загрузки выбранной модели. Дождитесь завершения загрузки, это может занять некоторое время в зависимости от скорости вашего интернет-соединения.
Шаг 8. Нажать ‘Load Model’
После завершения загрузки модели появится уведомление.
После того как модель будет полностью загружена, появится уведомление ‘Download Completed!’. Нажмите кнопку ‘Load Model’ в этом уведомлении, чтобы загрузить модель в чат.
Шаг 9. Ввести запрос в поле ввода
В поле ввода ‘Type a message and press Enter to send…’ введите ваш запрос, например, ‘Напиши текст на 1000 символов про пользу использования нейросетей’.
Шаг 10. Получить ответ от модели
После отправки запроса модель начнет генерировать ответ. Дождитесь, пока ассистент предоставит полный текст, соответствующий вашему запросу.
