Бэкдор в нейросети за $50: что показал эксперимент ProjectDiscovery
Anthropic и ProjectDiscovery показали: скрытую «закладку» в весах нейросети не убирает ни дообучение, ни аудит. А такие модели уже подключают к терминалу и продакшену.
Эксперименты с ИИ-агентами, LLM и автоматизацией работы.
Anthropic и ProjectDiscovery показали: скрытую «закладку» в весах нейросети не убирает ни дообучение, ни аудит. А такие модели уже подключают к терминалу и продакшену.
Скилл Grill Me заставляет ИИ мучать вас вопросами по требованиям, а не наоборот. Как «добавь бонусы» превращается в выяснение, как всё должно работать.
Облачная модель декомпозирует итерацию на карточки, локальный агент забирает их с доски сам. Схема, роли и главный профит: я больше не диспетчер для ИИ.
Виджет на рабочий стол, управление PI-харнесом с телефона и ревью кода, которое токены не жрёт, а нюхает. Как живётся локальной модели на RTX 3090.
Чаты обсуждают конец профессии, а практика приносит вторые сутки без сна из-за взлома. О контрасте хайпа вокруг ИИ и реальной работы — из первых рук.
Две модели работы ИИ с сайтом: агент-единственный редактор (релизы вместо правок) и совместная работа с людьми — чекпоинты и откат. Плюс Content Branching в Payload CMS 4.
В 2022 году домашний сервер был отдельным хобби: Linux, сети, конфиги и обновления вручную. Четыре года спустя агент Гермес берёт на себя развёртывание проектов, исправление багов и обслуживание софта.
История о том, как ИИ-агент понял задачу буквально: просил убрать системное окно на киоске — убрал рекламный блок со страницы infodm.ru.
Админка больше не главный интерфейс: тексты диктуются голосом, а правки и публикацию делает ИИ-агент — от мысли до живой страницы.
Как повысить точность распознавания счетов для 1С с помощью ИИ: кропы, QR-коды, проверка реквизитов и повторная обработка ошибок.