Sonata

Perplexity и Nvidia выпустили локального ИИ-агента Portable Computer

image source

Perplexity совместно с Nvidia выпустила локальную версию своего ИИ-агента Computer для персональных компьютеров под названием Portable Computer. Для работы приложения понадобится достаточно мощное и дорогое оборудование.

Перенос агента на ПК потребовал не просто замены облачной модели на компактную. Приложению нужно уметь читать и редактировать файлы, выполнять команды оболочки, работать с PDF локально и подключаться к внешним сервисам, для чего требуется локальная песочница.

Компании пришлось почти полностью пересмотреть технологический стек, значительная часть работы ушла на настройку под конкретное оборудование. При этом модель должна планировать задачи, вызывать инструменты и выполнять многошаговые операции с меньшим числом параметров, чем у облачных аналогов Perplexity.

Среда разработки учитывает практические ограничения контекста: у модели Alibaba Qwen3.8-27B заявлено 260 000 токенов, но реальные затруднения начинаются уже на отметке в 100 000 токенов. Поэтому основной интерфейс и набор инструментов Portable Computer остаются компактными, а дополнительные навыки подгружаются по мере необходимости.

Часто используемые коннекторы реализованы как инструменты командной строки, а не через протокол MCP. В тестах Local Knowledge Work Bench (53 задачи) Computer набрал 82,6% против 77,6% у Pi и 74% у Hermes.

В бенчмарке ParseBench-100, где проверяется работа с диаграммами, таблицами и форматированием, результат Computer составил 65,1%, у Hermes — 34,6%, у Pi — 13,9%. Каждая задача выполняется локально на устройстве пользователя.

Если локальная модель не справляется с шагом, она может обратиться за помощью к облачной версии. Система заранее отбирает нужный контекст, помечает конфиденциальные данные, показывает пользователю, что будет отправлено вовне, и запрашивает подтверждение перед отправкой.

Проще всего запустить Portable Computer на настольном компьютере Nvidia DGX Spark с фирменной ОС DGX стоимостью около $4800. Также подойдёт ПК на Ubuntu с процессором Arm или x64 и видеокартой Nvidia RTX минимум с 24 Гбайт видеопамяти — например, GeForce RTX 3090 за $1500 и выше.

Из-за дефицита памяти на рынке снижения цен на подходящее оборудование в ближайшее время ждать не стоит. Работой агента управляет оркестратор — детерминированный код, а не нейросеть.

Локальная модель предлагает действие, а оркестратор формирует контекст, следит за соблюдением политик безопасности и запускает подтверждённые вызовы инструментов внутри песочницы на уровне операционной системы.

Песочница ограничивает доступные процессы, пути в файловой системе и сетевые подключения. Если песочница недоступна по каким-то причинам, среда разработки отключается и приложение не выполняет вызовы инструментов вне защищённого окружения.

Portable Computer поддерживает коннекторы для Google Диска, Gmail, Slack и GitHub. Веб-поиск и работа коннекторов требуют подключения к интернету, тогда как инференс модели и обработка личных документов остаются полностью на компьютере пользователя.

Не стоит путать новинку с ранее выпущенным приложением Personal Computer для Windows и macOS — это разные продукты. На старте доступны модели Alibaba Qwen3.8-27B и специально дообученная Perplexity версия PPLX 27B.

Чуть позже добавится поддержка модели Nvidia Nemotron 3.5 Lightning, а пользователи смогут подключать собственные модели по желанию. На компьютерах Apple Mac запуск Portable Computer пока недоступен, а версию для Windows обещают выпустить в сентябре.

источник

Загрузка страницы