Нейросети, которые работают прямо на вашем компьютере, без подписок и без отправки данных в интернет. Здесь разбираем, как их установить, какая модель пойдёт на вашей видеокарте и чего от них ждать. Все цифры скорости - собственные замеры.
Лучшие нейросети для учёбы в России: какая объяснит тему, разберёт задачу по фото, сделает конспект и проверит текст, что бесплатно и где начинается списывание.
Нейросеть для написания текста бесплатно и на русском: проверил 7 локальных моделей на 10 задачах, от письма до заголовков. Оценки, фрагменты ответов, ГигаЧат и Алиса AI.
ГигаЧат бесплатно: где пользоваться GigaChat от Сбера, какие лимиты, что умеет с текстом и картинками, что с данными, бесплатный API и 10 готовых запросов.
Нейросеть для презентаций бесплатно на русском: Gamma, Slidy, Сократик, ГигаЧат, Алиса AI и Kimi. Лимиты, водяные знаки, экспорт в PPTX, цены и готовые промпты.
Калькулятор видеопамяти для нейросетей: какие модели пойдут на видеокарте 4, 8, 12, 16 и 24 ГБ, как считать память самому и что будет, если модель не влезет.
Как установить Ollama на Windows, какую модель выбрать для видеокарты с 4 ГБ и как сделать чат в браузере. Замеры 7 моделей на видеокарте и процессоре.
Локальная нейросеть работает без интернета, бесплатно и без ограничений на число запросов. Документы и переписка никуда не уходят, поэтому ей можно спокойно давать разбирать личные файлы. Взамен она слабее больших облачных моделей и требует нормального железа, прежде всего видеопамяти.
Проще всего начать с программы Ollama: она скачивает модель и запускает её одной командой, а веб-интерфейс Open WebUI превращает её в привычный чат в браузере. Пошаговая установка с замерами на видеокарте с 4 ГБ памяти - в статье Ollama с нуля.
Скорость локальной нейросети определяет не «мощность» видеокарты, а объём её памяти. Если модель помещается в видеокарту целиком, ответ пишется в несколько раз быстрее, чем на процессоре. Если не помещается, часть работы уходит на процессор, и скорость падает. Прикинуть, какая модель влезет в вашу карту, можно калькулятором в статье Какая нейросеть пойдёт на моей видеокарте.
Можно, на процессоре. Маленькие модели будут работать, но медленно. Для комфортной работы нужна видеокарта хотя бы с 6-8 ГБ памяти.
Для моделей на 7-8 миллиардов параметров хватит 16 ГБ. Если модель не помещается в видеокарту целиком, лучше 32 ГБ.
Только чтобы один раз скачать программу и модель. Дальше всё работает без сети.
