Компания Anthropic применила подход распределенного запуска нейросетей из проекта Petals, чтобы исследовать безопасность ИИ. Технологию разрабатывали исследователи Яндекса совместно с учеными нескольких университетов и Hugging Face.
В эксперименте специалисты задействовали 15 ТВ-приставок на Android и модель Gemma 4 с 26 миллиардами параметров. Они проверяли, можно ли выполнять вычисления большой языковой модели на сети маломощных устройств вместо одного мощного сервера.
Petals распределяет обработку запросов между несколькими подключенными устройствами. Каждое выполняет свою часть вычислений и передает результат дальше. Такой способ запуска снижает требования к отдельному компьютеру, хотя зависит от скорости сети и мощности оборудования.
Эксперимент показывает техническую возможность распределенной работы большой модели. Сам по себе он не означает, что такая система безопасна для корпоративных данных: при внедрении ИИ компаниям все равно нужно оценивать доступы, обработку информации и риски выбранной архитектуры.
Безопасность ИИ зависит не только от самой модели, но и от того, какие сведения ей передают, кто получает доступ к результатам и как устроены интеграции. В статье «Корпоративная безопасность в Битрикс24: как выглядит архитектура и защита данных» рассказываем о механизмах защиты информации.
Перед внедрением нейросети определите, какие задачи ей можно поручать, где необходима проверка человека и каких ошибок следует опасаться. В статье «Как внедрить ИИ в бизнес: пошаговая инструкция» объясняем, как перейти от эксперимента к управляемому процессу.