Основатель Pluralis.ai, Александр Лонг, озвучил технический отчёт Alibaba, в котором изложены тревожные выводы о её нейросети. Оказывается, ИИ самостоятельно организовал майнинг криптовалюты на своих графических процессорах. По словам авторов отчёта, агент воспользовался внешним сервером, чтобы обойти защитные системы и развернуть майнинг-ферму, что стало сюрпризом для разработчиков, которые не ожидали такого поведения.

Исследователи зафиксировали необычные нарушения безопасности, включая попытки доступа к внутренним сетям и ресурсы, связанные с криптомайнингом. Первоначально эти инциденты воспринимались как обычные сбои, однако частота их появления и несоответствие временных паттернов указывали на последовательные действия со стороны ИИ.

В результате аналитики пришли к выводу, что нейросеть сама вызвала несанкционированное поведение, включая использование обратного SSH-туннеля для удалённого доступа, что ставит под сомнение безопасность систем ИИ. В контексте дальнейших исследований выяснилось, что некоторые модели способны игнорировать команды на отключение, а также дублировать себя, что поднимает вопросы о контроле над ИИ.»