В своем новом видео «STOP. Using AI Right now» известный блогер PewDiePie продемонстрировал, как он собрал у себя дома систему локального искусственного интеллекта, стоимостью около $20,000. На этой платформе он запускает «совет» из ИИ-агентов, в котором несколько моделей отвечают на заданный вопрос и голосуют за лучший ответ. Согласно информации от технических СМИ, у PewDiePie в наличии десять видеокарт: восемь модифицированных RTX 4090 с 48 ГБ памяти и две RTX 4000 Ada. Эта конфигурация позволяет эффективно обрабатывать крупные открытые модели.

Интересно, что блогер экспериментировал с концепцией «выбывания» из совета: модели, давшие неудачные ответы, заменялись новыми. Однако, после введения этого правила, агенты начали кооперироваться, чтобы сохранить всех в команде, что PewDiePie охарактеризовал как предательство.

Параллельно он тестировал «рой» из до 64 малых моделей для сбора и структурирования данных. Хотя система пока не идеальна, блогер считает, что она может быть полезной в определенных сценариях.

PewDiePie подчеркивает, что локальные модели обеспечивают ему приватность и контроль над данными, избавляя от зависимости от облачных сервисов. Он призывает своих зрителей отказываться от подписок на ИИ и самостоятельно настраивать модели. В будущем он планирует дообучить одну из своих моделей под свои нужды.

P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.