ДенниЖурнал
← Все статьи

Локальный ИИ

Нейросеть без интернета: какие работают и как запустить на телефоне

Как запустить локальную модель, что она умеет и где заканчиваются возможности без интернета.

Команда AFTeam · · 7 мин чтения

Без интернета работают только локальные нейросети — небольшие модели, которые один раз скачиваются на телефон или компьютер и дальше отвечают прямо на устройстве. Для облачного диалога требуется связь с сервером. Отдельные функции некоторых помощников могут работать на устройстве — это зависит от приложения и режима. Ниже — как устроены офлайн-нейросети, какие из них есть и как запустить такую на телефоне.

Почему обычные нейросети без интернета не работают

Большие нейросети вроде ChatGPT настолько тяжёлые, что работают на мощных серверах с дорогими видеокартами. Приложение на телефоне — это только «окошко»: оно отправляет ваш текст на сервер, а сервер присылает ответ. Нет интернета — нет и связи с сервером.

Не стоит путать облачный диалог с отдельными офлайн-командами: их доступность зависит от устройства и настроек помощника.

Список задач в Android-приложении Денни
Задачи в Денни для Android. Пример интерфейса; оформление зависит от версии.

Что такое локальная нейросеть

Локальная нейросеть выполняет вычисления на вашем устройстве. Часто для этого используют компактные модели или квантование — уменьшение точности хранения чисел, позволяющее сократить размер файла и расход памяти. Её скачивают один раз (обычно это файл от одного до нескольких гигабайт), а дальше она работает без интернета.

Самые известные семейства открытых моделей, которые запускают локально:

  • Gemma — от Google, есть маленькие версии специально для телефонов;
  • Llama — от Meta;
  • Qwen — от Alibaba, неплохо понимает русский;
  • Phi — от Microsoft, компактная.

Сами модели — это файлы. Чтобы с ними поговорить, нужна программа-«оболочка», которая загрузит модель и покажет окно чата.

Какие нейросети работают без интернета

На компьютере (для тех, кто готов немного разобраться):

  • LM Studio — программа с привычным окном чата, модели выбираются из каталога;
  • Ollama — доступна с графическим чатом, а также через командную строку и API;
  • GPT4All — простая бесплатная оболочка для Windows, Mac и Linux.

На телефоне:

  • Google AI Edge Gallery — приложение Google для локальных моделей, работы с текстом, изображениями и другими сценариями;
  • PocketPal AI — бесплатная оболочка для загрузки открытых моделей;
  • Денни — ИИ-помощник, в котором локальная модель встроена в приложение с задачами, заметками и напоминаниями.

Возможности этих приложений различаются и развиваются. В Денни локальный ИИ — один из режимов помощника с задачами, заметками и напоминаниями.

Какая нейросеть без интернета лучше

Универсально лучшей нет — есть подходящая вашему устройству. Ниже — приблизительные ориентиры для сжатых моделей. Размер файла зависит от формата и степени сжатия; для запуска нужна дополнительная оперативная память под контекст и работу приложения. Это не гарантия совместимости с конкретным телефоном:

Размер модели Сколько весит Где работает Что умеет
Маленькая (1–3 млрд параметров) 1–2 ГБ телефоны с достаточным объёмом доступной памяти короткие ответы, простые планы, переформулировать текст
Средняя (4–8 млрд) 3–5 ГБ мощные телефоны, ноутбуки обычно лучше справляется со сложными запросами; длина диалога зависит от контекста
Большая (12 млрд и больше) от 7 ГБ компьютеры с большим объёмом памяти сложные текстовые задачи; качество зависит от конкретной модели

Более крупные модели обычно лучше справляются со сложными задачами, но требуют больше памяти и могут работать медленнее. Размер — не единственный фактор: важны семейство и версия модели, степень сжатия и сама задача. Для телефона разумно начинать с небольшой модели и проверять качество и скорость на своих вопросах.

Про русский язык. Не все маленькие модели хорошо говорят по-русски. Проверяйте выбранную модель на своих вопросах: качество зависит от версии, размера и задачи.

Что нужно телефону

  • Свободное место — от 1 ГБ под маленькую модель, для моделей побольше — несколько гигабайт.
  • Оперативная память — ориентир от 6–8 ГБ. На слабых телефонах модель может не запуститься или отвечать очень медленно.
  • Современный процессор — чем новее телефон, тем быстрее ответы.
  • Интернет для загрузки — чтобы скачать приложение и модель. Для дальнейшего локального текстового диалога сеть не нужна.

Учтите: локальная модель заметно разряжает батарею при долгих разговорах и может греть телефон.

Как запустить нейросеть без интернета на телефоне

На примере обновлённой версии Денни для Android с кнопкой «Скачать и включить». В старых версиях этой кнопки может не быть. Проверьте доступность обновления в нашем боте. Новые продажи пока отмечены «Скоро».

  1. Установите Денни и подключитесь к Wi-Fi.
  2. Откройте карточку «Денни без интернета» и нажмите «Скачать и включить». Приложение скачает компактную модель Qwen3-0.6B (около 639 МБ), проверит файл и само включит локальный режим. Если связь оборвётся, загрузку можно продолжить с того же места.
  3. Проверьте без сети. Включите режим полёта и напишите: «Составь план на завтра: утром работа, вечером хочу время для себя». Ответ придёт без интернета.

Если вам нужна другая модель, в Денни можно подключить свой совместимый файл в формате GGUF. Более крупная модель может лучше справляться с вашими задачами, но потребует больше памяти. Приложение проверит файл и оценит требования к памяти; совместимость зависит от конкретной модели и устройства.

Подробности и ограничения — в описании возможностей Денни.

Работает в России без VPN

Для вычислений на устройстве VPN не нужен. Загрузка приложения и модели требует интернета; доступность сервера загрузки зависит от сети и региона. Интернет-поиск и облачные функции имеют свои условия доступа.

Что без интернета всё равно не работает

Честно о границах:

  • Поиск свежей информации. Локальная модель знает только то, чему её научили, — новостей, курса валют и погоды у неё нет.
  • Факты. Маленькие модели чаще ошибаются и иногда уверенно выдумывают. Важное проверяйте.
  • Загрузки и облачные функции. Скачать новую модель, синхронизировать данные между устройствами, использовать облачный ИИ — всё это требует сети.
  • Некоторые варианты голосового ввода тоже используют интернет — зависит от телефона и настроек.

Зачем вообще нейросеть без интернета

  • В дороге: самолёт, поезд, метро, дача.
  • Приватность: в локальном режиме Денни обрабатывает текстовые запросы прямо на устройстве, без отправки в облачную нейросеть.
  • Независимость: не нужен VPN, не страшны блокировки и сбои сервисов.
  • Без подписок на сторонние ИИ: локальная модель не требует ключей и оплаты облачных провайдеров.

Локальный режим не требует облачного ИИ. Если вы отдельно включаете облачный ИИ или интернет-поиск, запросы для этих функций передаются соответствующим сервисам. Голосовой ввод также может использовать внешний сервис — это зависит от выбранного способа распознавания.

Частые вопросы

Работает ли Алиса без интернета? Для облачного диалога нужен интернет. Наличие отдельных офлайн-функций проверяйте для конкретного устройства и приложения.

Есть ли офлайн-версия ChatGPT? Для диалога с облачной моделью нужна сеть. Если нужен офлайн-режим, выбирайте приложение, которое запускает совместимую модель на самом устройстве.

Можно ли запустить нейросеть без интернета на старом телефоне? Иногда — самую маленькую модель. Но ответы будут медленными, а на телефонах с 4 ГБ памяти и меньше модель может не запуститься.

Опасно ли скачивать модели? Скачивайте только из известных источников или через приложение, которому доверяете. Используйте актуальную версию приложения, проверяйте источник файла и его контрольную сумму, если она опубликована. Не запускайте неизвестные установщики и скрипты вместе с моделью.

Коротко

  • Без интернета работают только локальные нейросети, скачанные на устройство.
  • Облачный диалог требует интернета; отдельные офлайн-функции зависят от приложения.
  • Для телефона начинайте с маленькой модели: ей хватит около 1 ГБ места, для моделей побольше желательно 6–8 ГБ оперативной памяти.
  • Локальная нейросеть не нуждается в VPN, но не знает свежих новостей и чаще ошибается в фактах.

Узнать больше о Денни →