Локальный AI-помощник через Ollama

Программа: Ollama

📥 Скачать программу с официального сайта

Ссылка: https://ollama.com/ (free / open-source)

Платформы: windows

Версия UI в источнике: SuperPuTTY - UBT-SVR-02

Шаг 1. Скачать Ollama с https://ollama.com/

Откройте https://ollama.com/. Скачайте установочный файл для Windows.

Шаг 2. Запустить установщик

После скачивания.

Дважды щелкните на загруженный файл и следуйте инструкциям установщика для завершения установки Ollama.

Шаг 3. Скачать необходимые модели

После скачивания.

После установки откройте командную строку и выполните команду ‘ollama pull ’ для загрузки нужных моделей.

Шаг 4. Скачать необходимые модели

После установки программы.

После установки программы нужно скачать модели:

• ollama models (~0.5 GB) — https://ollama.com/models ollama pull <model_name>

Модели нужны для работы программы.

Шаг 5. Ввести команду ‘ollama run llama3’ в терминале

В открытом терминале введите команду ‘ollama run llama3’ и нажмите Enter. Это запустит модель Llama 3.

Шаг 6. Ввести ‘Hello’ в качестве сообщения

После запуска модели Llama 3 появится приглашение ‘>>> Send a message (/? for help)’

После появления приглашения ‘>>>’ введите ‘Hello’ и нажмите Enter. Модель Llama 3 ответит на ваше сообщение.

Шаг 7. Ввести ‘/bye’ для выхода из чата

Чтобы завершить сеанс чата с моделью Llama 3, введите ‘/bye’ и нажмите Enter. Вы вернетесь к командной строке.

Шаг 8. Ввести команду ‘sudo apt update’ для обновления списка пакетов

Введите команду ‘sudo apt update’ и нажмите Enter, чтобы обновить список доступных пакетов. Это обеспечит установку последних версий программ.

Шаг 9. Ввести команду ‘sudo apt install net-tools git curl -y’ для установки необходимых утилит

После обновления списка пакетов

Введите команду ‘sudo apt install net-tools git curl -y’ и нажмите Enter. Эта команда установит утилиты net-tools, git и curl, необходимые для дальнейшей настройки. Флаг ‘-y’ автоматически подтвердит установку.

Шаг 10. Скопировать команду установки Ollama

Откройте текстовый файл с инструкциями

Выделите и скопируйте команду ‘sudo curl -fsSL https://ollama.com/install.sh | sh’ из текстового файла. Эта команда используется для установки Ollama.

Шаг 11. Вставить и выполнить команду установки Ollama

Вернитесь в терминал

Вставьте скопированную команду в терминал и нажмите Enter. Начнется процесс установки Ollama.

Шаг 12. Проверить версию Ollama

После завершения установки Ollama

Введите команду ‘ollama –version’ и нажмите Enter, чтобы убедиться, что Ollama успешно установлена и отобразить ее версию.

Шаг 13. Ввести команды для запуска и включения сервиса Ollama

Введите ‘sudo systemctl start ollama’ для запуска сервиса Ollama, затем ‘sudo systemctl enable ollama’ для его автоматического запуска при загрузке системы. Нажмите Enter после каждой команды.

Шаг 14. Проверить статус сервиса Ollama

Введите команду ‘sudo systemctl status ollama’ и нажмите Enter, чтобы убедиться, что сервис Ollama активен и работает.

Шаг 15. Ввести команду ‘ollama pull llama3’ для загрузки модели Llama 3

Введите команду ‘ollama pull llama3’ и нажмите Enter. Начнется загрузка модели Llama 3. Дождитесь завершения процесса.

Шаг 16. Ввести команду ‘ollama run llama3’ для запуска чата с моделью Llama 3

После успешной загрузки модели Llama 3

Введите команду ‘ollama run llama3’ и нажмите Enter, чтобы начать интерактивный чат с моделью Llama 3.