Бэкдор в нейросети за $50: что показал эксперимент ProjectDiscovery
Anthropic и ProjectDiscovery показали: скрытую «закладку» в весах нейросети не убирает ни дообучение, ни аудит. А такие модели уже подключают к терминалу и продакшену.
Личный журнал Александра Андреева
Технологии меняются.
Опыт остаётся.
Разрабатываю проекты, управляю командами, экспериментирую с ИИ. Здесь — то, что проверил в работе. Вместе с ошибками и выводами.
Последние записи
229 в архивеПрожарка требований: скилл Grill Me для ИИ-агентов
Скилл Grill Me заставляет ИИ мучать вас вопросами по требованиям, а не наоборот. Как «добавь бонусы» превращается в выяснение, как всё должно работать.
Самая дорогая строчка в техническом задании
Одна строчка в ТЗ про промокоды и бонусы разворачивается в десятки вопросов: возвраты, лимиты, совместные скидки. Почему оценка «там всё просто» почти всегда врёт.
Вся современная цифровая инфраструктура держится на числе 4.
Восемь приватных ключей УЦ eMudhra оказались маленькими числами, один — четвёркой. Полтора года никто не замечал, а вскрылось одним промптом.
Канбан для ИИ-агентов: от багов к целым итерациям разработки
Облачная модель декомпозирует итерацию на карточки, локальный агент забирает их с доски сам. Схема, роли и главный профит: я больше не диспетчер для ИИ.
Как дела у моей локальной ИИ-модели
Виджет на рабочий стол, управление PI-харнесом с телефона и ревью кода, которое токены не жрёт, а нюхает. Как живётся локальной модели на RTX 3090.
Программисты больше не нужны? Что говорят чаты — и что говорит практика
Чаты обсуждают конец профессии, а практика приносит вторые сутки без сна из-за взлома. О контрасте хайпа вокруг ИИ и реальной работы — из первых рук.
ИИ сам редактирует сайты: как не потерять контроль
Две модели работы ИИ с сайтом: агент-единственный редактор (релизы вместо правок) и совместная работа с людьми — чекпоинты и откат. Плюс Content Branching в Payload CMS 4.
Выдуманные эксперты: как подделывают авторитетность ради SEO и GEO
Интернет обрастает выдуманной живой реальностью: от фейковых «экспертов» до целиком вымышленных конференций. Разбор схемы и докладов про паразитное GEO.
Домашний сервер: от ручной настройки в 2022 году до ИИ-агента
В 2022 году домашний сервер был отдельным хобби: Linux, сети, конфиги и обновления вручную. Четыре года спустя агент Гермес берёт на себя развёртывание проектов, исправление багов и обслуживание софта.
