Андрей Карпати, ранее занимавший пост директора по ИИ в Tesla, опубликовал детальный обзор Claws — новой категории персональных ИИ-агентов, возникшей на основе популярного проекта OpenClaw, который собрал свыше 217 000 звезд на GitHub. По словам Карпати, Claws представляют собой новый архитектурный слой, добавляющий к LLM-агентам такие функции, как оркестрация, планирование и возможность непрерывной работы. Для исследований он приобрел Mac Mini, но пока размышляет над практическим применением Claws.
По его мнению, текущее состояние OpenClaw напоминает «дикий запад», с проблемами безопасности, такими как утечки инстансов и уязвимости. Альтернативой Карпати считает NanoClaw — компактный агент на 4000 строк TypeScript, где настройки реализуются с помощью «skills». Также он упомянул другие проекты, такие как nanobot и ZeroClaw, но локальная установка и возможность интеграции с домашней автоматизацией его привлекают больше. Claws, считает он, станут массовой категорией ИИ-агентов, что открывает новые вопросы безопасности.
Вопрос-ответ
Какую концепцию представляет Claws и чем он отличается от обычных LLM-агентов?
Claws — это новый архитектурный слой поверх LLM-агентов, который добавляет такие функции как оркестрация, планирование и возможность непрерывной работы. В отличие от базовых LLM-агентов, Claws фокусируется на координации действий между агентами и поддержке длительных, автономных задач, что позволяет более сложное взаимодействие и устойчивый цикл выполнения.
Какие риски и проблемы безопасности выделяет Анджей Карпати в текущем состоянии OpenClaw?
Карпати отмечает проблемы безопасности, включая утечки инстансов и потенциальные уязвимости в инфраструктуре и поведении агентов. В «диком западe» OpenClaw отсутствует централизованная безопасность и контроль над автономными действиями, что может привести к нежелательным экспериментам или компрометированным системам без надлежащего аудита и защиты.
Какие альтернативы и сравнительные подходы он рассматривает помимо Claws?
Он рассматривает NanoClaw — компактный агент на 4000 строк TypeScript с настройками через «skills», а также проекты nanobot и ZeroClaw. Эти альтернативы предлагают более локальные установки, простую интеграцию с домашней автоматизацией и меньшие требования к ресурсам, что может быть полезно для прототипирования и бытовых сценариев.
Каковы перспективы массового распространения и безопасности для новой категории ИИ-агентов?
По оценке Карпати, Claws и подобные решения могут стать массовой категорией ИИ-агентов, что поднимает вопросы кибербезопасности, приватности и контроля за автономной деятельностью. Необходимы стандартизованные подходы к безопасной оркестрации, мониторингу действий агентов, аудиту процессов и возможным ограничителям, чтобы предотвратить неконтролируемое поведение в домашних и коммерческих условиях.