Похоже, мне нужна вторая RTX 3090.
Нет, не потому, что первая плохо справляется. Скорее наоборот. После прошлого поста ещё поигрался с настройками запуска и контекст удалось поднять до 164к токенов. Можно запускать и на 192к, но там уже придётся…
Инструменты для разработки и работы
Полезные сервисы, программы и оборудование из личной практики.
Что я получил, купив б/у RTX 3090 за 75 тысяч рублей
Короткий ответ: вполне серьёзную локальную альтернативу большим облачным LLM. Цена удовольствия: нужно вникать. Параметры запуска, кванты, софт, архитектура, инфраструктура и тонны тестов. Большие LLM дают комфорт,…
Что если дизайн в Figma больше не нужен: собираем фронт нейросетью
На днях обсуждали с госпожой @Mirtelir как удешевить разработку её пэт-проекта. Я предложил не рисовать экраны в Figma, а сразу собирать фронтенд через нейросеть. Диана попробовала, и ... получается неплохо. Чем…
Один промпт — 20 000 токенов: эксперимент с расходом контекста
Промпт, которым обычно проверяешь, не отвалилась ли модель. Может VPN тупит, может что-то программно сломалось и т.д. Знаете, сколько контекстного окна отжирает этот промпт из одного слова у Гермеса? 20 тысяч…
Приехала оперативка!
Теперь комплект для запуска LLM локально собран полностью. Радуюсь, как ребёнок)
Нанял ИИ-агента разработчиком: без собеседования и зарплаты
Как вы догадались, это ИИ-агент. Чтобы это заработало, нужно было дать агенту не только доступ к коду, но и к таск-трекеру. Мы используем менеджер проектов Planka. Когда-то она начиналась как self-hosted-клон Trello.…
~Счастливый обладатель 24 ГБ VRAM.
Чтобы проверить RTX 3090, пришлось купить киловаттный блок питания с тремя отдельными PCIe 8-pin и взять у друга системник, куда эта махина хотя бы физически помещается. Полчаса "бублик" FurMark-а с потреблением на…
Не даёт покоя мысль.
Qwen 3.6-27B — неплохая модель для кодинга, если нормально её настроить. Она дороже DeepSeek V4 Flash, которую я сейчас использую для большинства повседневных задач. GPT-5.6 Sol при этом всё равно остаётся мозгами…
Покупайте длинные кабели для зарядки!
1,5-2 метра. Можно нормально пользоваться телефоном, планшетом или декой, пока они заряжаются. Не сидеть скрючившись около розетки. Не анплагинить девайс каждым неосторожным движением. Не выбирать между зарядом…
Как я собираю коммерческие проекты с помощью ИИ
И не обычные сайты-визитки без функционала, а сложные по функционалу и ответственные проекты. Схема такая. Взял 10–15 проектов на любимой Evolution CMS, которые мы делали раньше, попросил нейронку разобрать их и…