ДенниБлогСделано в России

Локальный ИИ

Нейросеть без интернета на телефоне: как скачать и запустить

Устанавливаем совместимую модель, проверяем новый ответ без связи и разбираем частые проблемы. Практический путь к локальному текстовому чату на Android.

Команда AFTEAM · · Обновлено · 8 мин чтения

Денни с телефоном и символами локального текстового чата — иллюстрация

Без интернета работают только локальные нейросети — небольшие модели, которые один раз скачиваются на телефон или компьютер и дальше отвечают прямо на устройстве. Для облачного диалога требуется связь с сервером. Отдельные функции некоторых помощников могут работать на устройстве — это зависит от приложения и режима. Ниже — как устроены офлайн-нейросети, какие из них есть и как запустить такую на телефоне.

Почему обычные нейросети без интернета не работают

Большие нейросети вроде ChatGPT настолько тяжёлые, что работают на мощных серверах с дорогими видеокартами. Приложение на телефоне — это только «окошко»: оно отправляет ваш текст на сервер, а сервер присылает ответ. Нет интернета — нет и связи с сервером.

Не стоит путать облачный диалог с отдельными офлайн-командами: их доступность зависит от устройства и настроек помощника.

Денни — светлый робот с тёплой подсветкой, без логотипов на корпусе
Персонаж Денни. Актуальный интерфейс — в интерактивном нотче: голос, текст, личные дела, агенты и Office на VPS. Пример использует демонстрационные данные.

Что такое локальная нейросеть

Локальная нейросеть выполняет вычисления на вашем устройстве. Часто для этого используют компактные модели или квантование — уменьшение точности хранения чисел, позволяющее сократить размер файла и расход памяти. Её скачивают один раз (обычно это файл от одного до нескольких гигабайт), а дальше она работает без интернета.

Самые известные семейства открытых моделей, которые запускают локально:

  • Gemma — от Google, есть маленькие версии специально для телефонов;
  • Llama — от Meta;
  • Qwen — от Alibaba, неплохо понимает русский;
  • Phi — от Microsoft, компактная.

Сами модели — это файлы. Чтобы с ними поговорить, нужна программа-«оболочка», которая загрузит модель и покажет окно чата.

Какие нейросети работают без интернета

На компьютере (для тех, кто готов немного разобраться):

  • LM Studio — программа с привычным окном чата, модели выбираются из каталога;
  • Ollama — доступна с графическим чатом, а также через командную строку и API;
  • GPT4All — простая бесплатная оболочка для Windows, Mac и Linux.

На телефоне:

  • Google AI Edge Gallery — приложение Google для локальных моделей, работы с текстом, изображениями и другими сценариями;
  • PocketPal AI — бесплатная оболочка для загрузки открытых моделей;
  • Денни — ИИ-помощник, в котором локальная модель встроена в приложение с задачами, заметками и напоминаниями.

Возможности этих приложений различаются и развиваются. В Денни локальный ИИ — один из режимов помощника с задачами, заметками и напоминаниями.

Какая нейросеть без интернета подойдёт телефону

Начни с совместимой компактной модели из каталога приложения. Сверяй точное название, формат и требования: один размер файла не показывает, сколько оперативной памяти потребуется для ответа.

  • Короткие тексты и списки: проверь небольшую модель на нескольких своих запросах, прежде чем скачивать более тяжёлую.
  • Русский язык: сравни понимание дат, названий и обычных просьб. Качество зависит от конкретной версии модели.
  • Длинные разговоры: больший контекст требует дополнительной памяти. Начни с короткого нового чата.

Размеры файлов, платформы и ограничения вынесены в каталог моделей Денни. Объяснение форматов и локального запуска — в статью о локальных нейросетях; здесь сосредоточимся на установке и проверке без связи.

Что нужно телефону

  • Совместимое приложение и модель. Поддержку точного файла проверяют для установленной версии, а не только по расширению GGUF.
  • Место на накопителе. Сверь размер загрузки с каталогом и оставь запас для файлов приложения и обновлений.
  • Доступная оперативная память. Она нужна модели, контексту и системе одновременно. Объём свободного накопителя не заменяет RAM; единого минимума для всех моделей нет.
  • Интернет для подготовки. Сначала скачай приложение и модель. Затем отдельно проверь автономный текстовый ответ.

Скорость, нагрев и расход батареи зависят от устройства и модели. Для первого запуска используй короткую задачу; если телефон закрывает приложение, переходи к разбору проблем.

Как запустить нейросеть без интернета на телефоне

Ниже — порядок для Денни на Android. Внешний вид и набор моделей зависят от версии приложения. В некоторых версиях есть действие «Скачать и включить»; в других загрузка и выбор выполняются отдельно. Актуальный APK и обновление можно запросить в поддержке AFTEAM.

  1. Подключись к интернету и установи приложение. До первой загрузки модели связь понадобится. Если начинаешь с установки APK, используй инструкцию первого запуска Android.
  2. Открой раздел «Локальный ИИ». В других версиях он может называться «Локальная модель». Посмотри, какую загрузку предлагает приложение, и сравни размер файла и требования с каталогом моделей Денни. Свободное место на накопителе и доступная оперативная память — разные ограничения.
  3. Дождись окончания загрузки. Не рассчитывай на работу без сети, пока файл скачан частично. Выполни предложенное приложением действие включения или загрузки модели в память.
  4. Выбери локальную модель для текстового чата. Убедись, что выбран именно режим обработки на устройстве. Настроенный облачный провайдер сам по себе не становится автономным.
  5. Проверь короткую фразу при включённой сети. Напиши: «Предложи три варианта завтрака из яиц, сыра и хлеба». Если модель ещё не загрузилась или не хватает памяти, сначала реши эту проблему.
  6. Проведи проверку без связи. Включи режим полёта и отдельно убедись, что Wi-Fi не остался включён. Закрой и снова открой приложение. Напиши новый текстовый запрос, например: «Сократи этот список до трёх пунктов: …».
Схема проверки: загрузить модель, выключить передачу данных и задать новый вопрос
Схема проверки локального текстового чата: новый ответ при выключенных мобильных данных и Wi-Fi.

Что считать результатом: новый ответ появился после повторного запуска при выключенных мобильных данных и Wi-Fi. Просмотр уже сохранённого разговора ещё не проверяет автономную генерацию. Если ответа нет, включи связь обратно и пройди подсказки ниже.

Это последовательность самостоятельной проверки, а не отчёт о новом испытании на конкретной модели телефона. Она относится к текстовому чату. Голос, интернет-поиск, синхронизацию и работу инструментов проверяют отдельно.

Если локальная нейросеть не запускается

Что происходитЧто проверить
Модель не скачивается или загрузка оборваласьВерни подключение, проверь свободное место и состояние загрузки в приложении. Для первого запуска нужен полный файл модели.
Файл есть, но модель не включаетсяПроверь совместимость формата и конкретной модели с версией Денни. Для первого теста используй модель, загрузку которой предлагает установленная версия приложения.
Приложение закрывается при запуске моделиПроверь доступную оперативную память. Закрой тяжёлые приложения, попробуй меньшую совместимую модель или более короткий контекст. Сам по себе размер файла GGUF не показывает полный расход RAM.
При выключенной сети появляется ошибка провайдераПосмотри, какая модель выбрана в чате. Облачный режим, поиск и внешний голосовой сервис требуют своих подключений.
Текст отвечает, голос не работаетРаспознавание речи и озвучивание — отдельные компоненты. Проверь их настройки и наличие локальных ресурсов; для диагностики вводи запрос вручную.
Ответ очень медленный или телефон нагреваетсяНачни с короткого запроса, меньшей модели и небольшого контекста. Скорость зависит от устройства; одинаковый файл не даёт одинаковую производительность на всех телефонах.

Если нужна другая модель, используй поддерживаемый приложением импорт GGUF. Проверяй точное семейство, версию и требования; название формата не гарантирует совместимость любого файла. Объяснение устройства локального ИИ вынесено в отдельную статью, размеры и совместимость — в каталог.

Работает в России без VPN

Для вычислений на устройстве VPN не нужен. Загрузка приложения и модели требует интернета; доступность сервера загрузки зависит от сети и региона. Интернет-поиск и облачные функции имеют свои условия доступа.

Что без интернета всё равно не работает

Честно о границах:

  • Поиск свежей информации. Локальная модель знает только то, чему её научили, — новостей, курса валют и погоды у неё нет.
  • Факты. Маленькие модели чаще ошибаются и иногда уверенно выдумывают. Важное проверяйте.
  • Загрузки и облачные функции. Скачать новую модель, синхронизировать данные между устройствами, использовать облачный ИИ — всё это требует сети.
  • Некоторые варианты голосового ввода тоже используют интернет — зависит от телефона и настроек.

Зачем вообще нейросеть без интернета

  • В дороге: самолёт, поезд, метро, дача.
  • Приватность: в локальном режиме Денни обрабатывает текстовые запросы прямо на устройстве, без отправки в облачную нейросеть.
  • Независимость: не нужен VPN, не страшны блокировки и сбои сервисов.
  • Без подписок на сторонние ИИ: локальная модель не требует ключей и оплаты облачных провайдеров.

Локальный режим не требует облачного ИИ. Если вы отдельно включаете облачный ИИ или интернет-поиск, запросы для этих функций передаются соответствующим сервисам. Голосовой ввод также может использовать внешний сервис — это зависит от выбранного способа распознавания.

Частые вопросы

Работает ли Алиса без интернета? Для облачного диалога нужен интернет. Наличие отдельных офлайн-функций проверяйте для конкретного устройства и приложения.

Есть ли офлайн-версия ChatGPT? Для диалога с облачной моделью нужна сеть. Если нужен офлайн-режим, выбирайте приложение, которое запускает совместимую модель на самом устройстве.

Можно ли запустить нейросеть без интернета на старом телефоне? Иногда — самую маленькую модель. Скорость и возможность запуска зависят от конкретной модели и доступной памяти. Сверяй требования приложения и начинай с небольшого совместимого варианта.

Опасно ли скачивать модели? Скачивайте только из известных источников или через приложение, которому доверяете. Используйте актуальную версию приложения, проверяйте источник файла и его контрольную сумму, если она опубликована. Не запускайте неизвестные установщики и скрипты вместе с моделью.

Коротко

  • Без интернета работают только локальные нейросети, скачанные на устройство.
  • Облачный диалог требует интернета; отдельные офлайн-функции зависят от приложения.
  • Для телефона начинайте с совместимой компактной модели. Сверяйте размер файла с каталогом и оставляйте запас оперативной памяти для контекста и системы.
  • Для самого локального ответа VPN не нужен. Свежие новости требуют внешнего источника; важные факты из ответа проверяйте.

Узнать больше о Денни →

Денни для Mac можно получить через поддержку AFTEAM. Это платный личный помощник в нотче. Для Android открытие продаж готовится; действующие владельцы получают APK и обновления через поддержку. iOS — в разработке. Условия и шаги запуска — в инструкции Денни.

ДЕННИ · ПРАКТИКА

Дальше — по твоей задаче