NVIDIA продолжает внедрять инновации во всех сферах рынка ИИ

Новейший комплект разработчика для периферийного ИИ Jetson AGX Thor позволяет разработчикам проектировать решения и развёртывать их на базе новейшей мощной архитектуры GPU Blackwell от NVIDIA.

NVIDIA Jetson AGX Thor

Плюсы

  • превосходная производительность ИИ при компактных размерах;
  • надёжный программный стек для физического ИИ;
  • широкие возможности ввода‑вывода для задач разработчиков;
  • отличная документация и демонстрационные материалы;
  • поддержка от NVIDIA должна обеспечить дополнительную производительность.

Минусы

  • высокая цена;
  • программную поддержку можно расширить.

С момента, когда NVIDIA анонсировала Project DIGITS и впервые рассказала о чипе Grace Blackwell, способном дать импульс очередной революции ИИ на периферии, прошло уже немало времени. Этот чип, NVIDIA GB10, станет основой для целого ряда платформ, включая часто упоминаемый компактный настольный ПК DGX Spark.

Однако то, что NVIDIA недавно представила и что мы рассмотрим в этом практическом подробном обзоре, — это физически более крупная платформа, основанная на другом модуле Jetson T5000. Этот комплект поставляется с рядом функций, которые помогут разработчикам быстрее освоить новейшую графическую архитектуру Blackwell компании для перспективных периферийных ИИ-приложений. Это более мощная машина, чем DGX Spark, и название у нее соответствующе внушительное, так что познакомимся с NVIDIA Jetson AGX Thor Developer Kit.

Технические характеристики NVIDIA Jetson AGX Thor Developer Kit:

  • ProcessorNVIDIA Jetson T5000 module (14x Arm64 Neoverse CPU cores, 2,560 CUDA GPU cores, 96 TensorRT cores)
  • Storage1TB NVMe M.2 SSD
  • Memory128GB 256-bit LPDDR5x, 276 GB/sec
  • Frequency1.57 GHz max GPU, 2.6 GHz max CPU
  • PCI ExpressM.2 M-key slot with 4x PCIe Gen5 for SSDM.2 E-key slot with WiFi 6E + Bluetooth
  • Storage2TB PCIe 4.0 SSD
  • USB2x USB Type-A 3.2 Gen22x USB Type-C 3.1 Gen11x USB Type-C (Debug only)
  • Wired Networking1x 5GbE RJ45 connector1x QSFPS8 (4x 25GbE)
  • Wireless Networking802.11ax WiFi 6E + Bluetooth 5
  • Other I/O2x 13-pin CAN header2x 6-pin Automation header2x 5-pin header JTAG Connector1x 4-pin Fan Connector—12V, PWM, and Tach2x 5-pin Audio Panel Header2-pin RTC Backup Battery ConnectorMicrosoft Power JackPower, Force Recovery, and Reset buttons
  • Power140W - 160W
  • Dimensions (LxWxH)243.19 mm x 112.40 mm x 56.88 mm (height includes feet, carrier board, module, and thermal solution)

Комплект Jetson AGX Thor оснащен самым крупным и самым мощным вычислительным модулем Jetson от NVIDIA на сегодняшний день — Jetson T5000. Он включает GPU архитектуры Blackwell с 2 560 ядрами CUDA, 96 тензорными ядрами пятого поколения и 14-ядерный CPU на базе Arm Neoverse — все на одном кристалле. Процессорная часть располагает 1 МБ кэша L2 на ядро и общим кэшем L3 объемом 16 МБ. Все это обслуживается пулом памяти LPDDR5x объемом 128 ГБ, подключенной через 256-битную шину памяти, что обеспечивает пропускную способность 276 ГБ/с.

С точки зрения производительности новый модуль NVIDIA T5000 обеспечивает 2070 TFLOPs в формате FP4. Blackwell приносит поддержку этого нового типа данных, преимущество которого заключается в практически двукратном росте производительности. Поскольку многим сценариям периферийного ИИ-вывода не требуется высокая точность, это дает выигрыш в скорости выполнения различных моделей — при условии, что они оптимизированы под данный формат. NVIDIA также заявляет производительность на уровне 1035 TOPS в FP8. Операции с плавающей запятой низкой точности все же обходятся дороже по производительности, чем минимальная точность INT8, доступная в Jetson AGX Orin Developer Kit, который на максимальном уровне производительности достигал 275 TOPS. Соответственно, NVIDIA отмечает, что пиковая производительность Thor дает 7,5-кратное преимущество над прошлым поколением при использовании NVFP4 для точного вывода с низкой точностью.

NVIDIA Jetson AGX Thor 1

Графическая архитектура Blackwell, используемая в Jetson AGX Thor, также поддерживает Multi-Instance GPU (MIG), что позволяет разделять графический процессор на семь разделов для одновременного запуска нескольких моделей. Это действительно очень важно, потому что хотя ИИ по своей природе является параллельной задачей, переключение между моделями требует затратного переключения контекста. Наличие огромного количества GPU-ресурсов даже в таком встраиваемом периферийном устройстве, как Jetson T5000, означает, что запуск полноценного ИИ-конвейера становится вполне реальной возможностью без тех накладных расходов, которые были характерны для предыдущих поколений.

Наконец, последнее крупное архитектурное улучшение заключается в том, что память представляет собой единый большой пул унифицированных ресурсов — во многом как обширная унифицированная память в компьютерах Apple Silicon Mac. Это означает, что независимо от того, лучше ли задача подходит для GPU или CPU, все 128 ГБ памяти доступны для обработки. Если сравнивать это с x86-устройствами с большим объемом памяти, такими как HP Zbook Ultra G1a на базе AMD Strix Halo, который мы недавно рассматривали, здесь отсутствует статическое разделение. Будь то 96 МБ или 96 ГБ, с Jetson Thor нам не следует сталкиваться с нехваткой памяти ни в какой задаче.

Комплект включает все необходимое для начала работы: сам Jetson AGX Thor Developer Kit, адаптер питания переменного тока мощностью 240 Вт и пару USB-кабелей, полезных для последовательных соединений. На самом комплекте имеются два разъема USB-C, оба из которых поддерживают подключение адаптера питания, а также два порта USB 3 Type-A, порт HDMI 2.1, Gigabit Ethernet и порт 100 GbE для объединения множества таких устройств в сеть. Также предусмотрены Wi‑Fi 6E и Bluetooth для беспроводного подключения, а еще 1 ТБ накопителя, что полезно для установки Ubuntu 24.04 LTS, а также для хранения множества гигабайт обучающих данных и контейнеров.

NVIDIA Jetson AGX Thor 2

Физический ИИ и необходимость ускоренного машинного обучения

Разумеется, большую часть времени память этой машины будет отводиться под задачи физического ИИ. То есть ИИ, который управляет объектами в реальном мире, например робототехническими приложениями. У NVIDIA весьма развитый стек продуктов — как с аппаратной стороны, так и в рамках программной экосистемы. И это становится все более очевидным по мере того, как индустрия лучше понимает, как оптимизировать производительность и точность моделей. Благодаря прорывам в оптимизации программного стека ИИ-аппаратное обеспечение NVIDIA со временем обычно становится быстрее. Именно наличие обеих составляющих и способность заставить программное обеспечение работать на благо аппаратной части делает NVIDIA уникальной.

Однако прежде чем углубляться в это, необходимо разобраться, что именно NVIDIA относит ко всему процессу физического ИИ и какое программное обеспечение компания предоставляет на каждом его этапе. Очевидно, что первое, что требуется для создания модели под какую-либо задачу, — это ее обучение. А для этого нужны данные. В реальном мире данные, безусловно, существуют, но NVIDIA дополняет их еще и синтетической генерацией данных. Мы уже подробно говорили о Cosmos и Omniverse, которые генерируют синтетические обучающие данные и превращают их в визуальную среду для обучения роботов — нечто вроде ИИ-полигона.

Генерация этих данных — первый этап процесса. Она осуществляется посредством своего рода собственного вывода на основе реальных данных. NVIDIA утверждает, что достигла одной из вех в развитии ИИ: пригодные обучающие данные могут генерироваться другим ИИ, а не человеком. Разумеется, с чего-то нужно начать, и для этого необходимы реальные данные. Однако вместо того чтобы создавать потенциально миллиарды операций, снятых со всех ракурсов, Cosmos может ускорить процесс генерации данных. Симулируя реальный мир с учетом физики и материалов, Cosmos создает точки данных, показывающие модели, чему именно нужно учиться. Omniverse превращает эти данные в реалистичное видео с помощью дополнительного генеративного ИИ, на котором затем можно обучать модель.

Второй этап — обучение. Модель использует эти данные для формирования своего интеллекта. Ей необходимо понимать, какой результат, по ее прогнозу, будут иметь ее действия, и именно для этого нужно обучение. Кстати, хотя большие языковые модели можно обучать на реальных данных, роботов в том масштабе, который представляет себе NVIDIA, пока не так много. По словам NVIDIA, это означает, что обучение робототехники почти полностью происходит на сгенерированных данных, и ситуация начнет меняться по мере более широкого внедрения роботов.

NVIDIA Jetson AGX Thor 3

Третий этап после обучения — моделирование. Роботы в реальном мире довольно опасны, если они не находятся под контролем, и, к слову, своевременные научно-фантастические ассоциации здесь вполне уместны; кроме того, их создание может стоить очень дорого. Поэтому до обучения роботов нет большой необходимости строить их физически. Те же инструменты, которые генерируют обучающие данные, могут использоваться и для моделирования роботов в синтетическом пространстве. Cosmos интерпретирует смоделированные действия робота, генерируя данные как результат, а Omniverse визуализирует это для последующей проверки человеком.

И наконец, можно создать и развернуть физического робота. Разумеется, NVIDIA безусловно предпочла бы чтобы исследователи строили роботов на аппаратной платформе Jetson и именно поэтому она предусматривает входы для множества датчиков. Будь то камеры и микрофоны термометры и гигрометры или датчики скорости и крутящего момента эти данные должны быстро и точно поступать в модель.

gr00t nvidia jetson agx thor

Там где физический ИИ встречается с реальным физическим миром

NVIDIA полагает что опрос датчиков 100 раз в секунду — это необходимый минимум а предпочтительнее выполнять опрос на частоте 1 кГц чтобы гарантировать актуальность данных Никому не нужны роботы которые падают или беспорядочно размахивают конечностями потому что именно здесь возникает значительная часть упомянутой ранее опасности И модели и аппаратное обеспечение должны проектироваться с учетом низкой задержки поскольку данные с датчиков по необходимости поступают очень быстро.

Разумеется тот факт что датчик отправил новый сигнал не всегда означает что модель должна немедленно отреагировать Иногда эти данные просто нужно накопить чтобы отследить изменения за короткий промежуток времени Восприятие и планирование скорее всего будут происходить с частотой порядка 30 Гц Это включает самопозиционирование то есть определение текущего местоположения по входным данным проверку текущего захвата и движения планирование следующего действия и так далее При частоте опроса до 1 кГц это означает что может потребоваться проверить до 300 входных сигналов от каждого датчика а планы должны быть окончательно сформированы в пределах 33-миллисекундного окна.

И наконец высокоуровневое рассуждение происходит примерно на частоте 10 Гц Сюда входят долгосрочное планирование — например робот складывающий коробки должен оценить текущее состояние объекта и определить дальнейшие шаги — распознавание естественного языка и понимание того что происходит в окружающей его среде Все это основывается на том чему обучена модель что именно датчики сообщают модели о текущем состоянии и какие еще параметры разработчики считают необходимым учитывать роботу.

NVIDIA Jetson AGX Thor 4

На всех этапах NVIDIA предлагает программные инструменты и аппаратное обеспечение как цельный отшлифованный пакет Наряду с Cosmos и Omniverse у компании есть также Isaac — платформа ИИ для робототехники предназначенная для создания моделей которые в конечном итоге приводят к развертыванию роботов под управлением оборудования NVIDIA Isaac включает три компонента Модели GR00T — это универсальные робототехнические модели для таких задач как наблюдение за движением и выполнение действий роботизированными манипуляторами У Isaac есть собственный симулятор робототехники работающий в Omniverse А Isaac ROS (Robot Operating System) — это система которая принимает входные данные с датчиков и передает их в модель чтобы та могла воспринимать окружающий мир и выполнять свои задачи.

NVIDIA Jetson AGX Thor 5

Демонстрация Isaac Simulation от NVIDIA производит впечатление

Одной из наиболее интересных демонстраций которые NVIDIA подготовила для разработчиков стал сценарий «hardware-in-the-loop» в котором ее базовая модель Isaac GR00T N1 работает на Jetson AGX Thor Этот модель управляет смоделированным роботом виртуально развернутым в Isaac Sim на самом устройстве В данном случае робот имитирует задачу «пересыпания гайки» он берет сосуд с гайками высыпает одну гайку в миску а затем помещает ее на весы для измерения массы.

NVIDIA Jetson AGX Thor 6Модель GR00T N1 работающая на Thor сама по себе выглядит не слишком впечатляюще

Это первые три этапа проектирования робота в действии — генерация данных обучение и моделирование NVIDIA утверждает что при таком рабочем процессе физический робот может быть собран на основе смоделированных компонентов и выполнить ту же самую задачу уже в реальном мире NVIDIA записала небольшой набор демонстраций в Isaac Sim расширила его с помощью шаблонов Isaac GR00T на базе Omniverse и дообучила модель Vision-Language-Action N1 под данную задачу По словам компании на генерацию более 750 000 смоделированных траекторий потребовалось около 11 часов а результатом стало повышение производительности на 40% благодаря добавлению смоделированных данных к наблюдениям из реального мира.

NVIDIA Jetson AGX Thor 7Пример Python-скрипта который генерирует данные датчиков на рабочей станции

Чтобы проверить это на практике мы запустили два разных контейнера Docker один на Jetson AGX Thor Developer Kit а другой — на обычном ПК под управлением Linux с графической картой GeForce RTX В данном случае мы использовали Core i7-13700K и GeForce RTX 5080 с Ubuntu 24.043 LTS На Thor мы просто запускаем контейнер в Docker а затем активируем модель простой командой И дальше ничего не происходит потому что роботу необходимо получать сигналы от другой машины Однако «мозг» робота уже запущен и работает хотя сенсорных входных данных он не получает а значит не может начать действовать.

NVIDIA Jetson AGX Thor 8Результатом становится моделируемый робот пересыпающий металлическую гайку из сосуда для проверки точности

Наш Linux-ПК на котором работает другой контейнер Docker генерирует все сенсорные данные которых ожидает робот Такие параметры как положения и перемещения моторов в каждом шарнире сама гайка высыпаемая из емкости и тому подобное — все это критически важные потоки данных Смоделированный робот работающий на Jetson Thor принимает эти данные датчиков и передает их модели которая затем выполняет вывод по ним и определяет что следует сделать дальше после этого результат отправляется обратно на наш ПК Наконец Isaac Sim визуализирует действия смоделированного робота для наблюдения.

Безусловно это интересная и впечатляющая демонстрация а сам рабочий процесс наглядно показывает каким NVIDIA видит набор средств необходимых разработчикам для воплощения их собственных проектов в жизнь.

Хотя у нас пока не было возможности действительно глубоко изучить полный робототехнический рабочий процесс NVIDIA у нас есть собственные ИИ-нагрузки для других задач и теперь пришло время посмотреть как Jetson AGX Thor справляется с ними Чтобы узнать больше о результатах нашего тестирования производительности просто переверните страницу...


NVIDIA Jetson AGX Thor: Тесты производительности пользовательских систем компьютерного зрения и LLM/VLM, а также выводы.

Демонстрации — это увлекательно и интересно, но разработка собственного программного обеспечения не менее привлекательна. Ещё в июне мы рассказывали о нашей собственной работе в области исследований компьютерного зрения и тестирования производительности, и настало время взять часть этих наработок и применить к Jetson AGX Thor Developer Kit. На тот момент мы придерживались ONNX Runtime, поскольку цель заключалась в том, чтобы начать с proof-of-concept и оценить производительность, а также время до создания минимально жизнеспособного продукта (MVP). Это означало использование главным образом ONNX и TensorFlow Lite, поскольку это кроссплатформенные среды разработки, которые поддерживаются многими поставщиками, включая NVIDIA, через библиотеки C++ и API Python/C++. Сначала давайте посмотрим на результаты, а затем поговорим о самом приложении.

Мы создали базовое приложение на Python, способное принимать несколько видеопотоков и выполнять одновременное компьютерное зрение по каждому кадру в каждом потоке в режиме реального времени — или настолько близко к реальному времени, насколько это возможно при таком объёме проходящего видео. Здесь выполняется большой объём обработки, потому что ни одна задача ИИ не сводится исключительно к самой модели. Мы декодируем видео в 1080p, изменяем его размер под модель (в данном случае до 640x640 с letterboxing). Затем приложение запускает инференс по пакетам кадров (по 32 за раз, чтобы максимально загрузить GPU) и считывает обнаруженные объекты. После этого эти объекты наносятся на исходный видеокадр и снабжаются метками.

Часть этой работы выполняется на CPU, однако, с учётом заметной разницы в производительности и того факта, что наш CPU не был полностью загружен, это не становится существенным узким местом. И здесь ситуация сохраняется: Jetson AGX Thor оказался быстрее, чем RTX A4000, который мы тестировали ранее, особенно с YOLOv8l. Но до абсолютного гиганта в лице GeForce RTX 5080 путь всё ещё очень длинный. Измерение некоторых из этих показателей не имеет большого практического смысла в контексте робототехники, где инференс в режиме «как можно быстрее» обычно остаётся прерогативой дата-центров, но понимание относительной производительности всё равно полезно.

Мы экспериментировали с попытками запускать на одном GPU сразу несколько моделей, поскольку видеопамяти оставалось с запасом, однако переключение контекста делало такой сценарий медленнее, чем простой запуск одного экземпляра. Теоретически ситуация меняется с таким продуктом, как Jetson AGX Thor (а также с GPU Blackwell, например GeForce RTX 5080), поскольку GPU можно разделять на части, а в распоряжении имеется 128 ГБ памяти, то есть запас весьма велик. Одному экземпляру YOLOv8l требуется всего около 5 ГБ для работы, и одного worker-процесса оказалось недостаточно, чтобы полностью загрузить наш GPU, поскольку ему приходилось тратить время на извлечение видеокадров из буфера и начало их обработки. Два раздела (а возможно, и три или четыре, поскольку памяти более чем достаточно) должны были бы работать быстрее, чем один, однако за то короткое время, что Jetson AGX Thor был у нас, мы не смогли найти способ принудительно реализовать это.

NVIDIA Jetson AGX Thor 10

NVIDIA Jetson AGX Thor 11

Вывод MIG — NVIDIA Jetson AGX Thor Dev Kit

Хотя MIG поддерживается на T5000, нам удалось разделить GPU только на один-единственный раздел, что не особенно удобно. Для Jetson AGX Thor Developer Kit это пока ранний этап, и NVIDIA утверждает, что вскоре выйдет обновление программного обеспечения, которое должно помочь в нашей ситуации. Но, как видно выше, вне зависимости от наличия MIG, GPU T5000 более чем уверенно обеспечивал высокую производительность в задачах компьютерного зрения, даже с учётом того, что ему приходилось аннотировать результаты своей работы, а затем повторно кодировать видеокадры с нанесёнными на них рамками.

NVIDIA Jetson AGX Thor 12

Мы пока не готовы признать поражение в этом вопросе и, учитывая грядущие обновления ПО, надеемся, что действительно сможем полноценно опробовать разделение GPU на этом устройстве. Наш настольный GeForce RTX 5080 справлялся с этим без проблем, отчасти потому, что для отрисовки графической среды рабочего стола мы использовали встроенную графику Core i7-13700K, поэтому дискретный GPU действительно мог оставаться свободным. Впрочем, это не обзор MIG на RTX 5080, так что вернёмся к основной теме.

NVIDIA AI Benchmarking

Наряду с нашим собственным тестированием, которое также показало Jetson AGX Thor Developer Kit в положительном свете, мы смогли запустить и предоставленные самой NVIDIA бенчмарки. Нам очень хотелось сравнить его с другим оборудованием Blackwell, но контейнер был предоставлен только для Arm64. Единственная другая крупная Arm64-система в лаборатории — это Mac Studio, и, как нетрудно догадаться, внутри у него нет GPU NVIDIA.

К сожалению, наш Jetson AGX Orin Developer Kit тоже не смог запустить этот контейнер. Это особенно досадно, поскольку NVIDIA публикует показатели для Orin. Возможно, нам просто не хватало какого-то обновления ПО, но у нас уже не оставалось времени, чтобы устранить проблему к моменту запуска Thor. Не исключено, что решение столь же простое, как полная переустановка системы с последней доступной версией программного обеспечения. Мы исходим из того, что производительность Orin примерно соответствующая уровню RTX 3050 просто не может соперничать с тем что в случае Thor представляет собой примерно уровень RTX 5070 по GPU и опубликованные NVIDIA бенчмарки это подтверждают.

Как бы то ни было вот краткий взгляд на то что Thor способен делать с некоторыми большими языковыми моделями.

Модели LLM — Jetson AGX Thor Developer Kit

Интересно, что NVIDIA включила в тест производительность модели LLM с 70 миллиардами параметров, потому что, честно говоря, для такой большой модели этого недостаточно. 

Тем не менее 12 токенов в секунду — это лучше чем мы ожидали а производительность почти в 80 токенов/с на Qwen 3 32B выглядит превосходно. Этого более чем достаточно как для неё так и для Deepseek R1 32B. LLM — одна из тех областей где Jetson действительно силен и ему это необходимо поскольку от гуманоидных роботов ожидается сочетание языковой обработки с визуальными входными данными. Именно для этого и предназначен VLM. Мы предполагаем что со временем производительность Jetson AGX Thor на крупных моделях таких как Llama 3.3 70B будет улучшаться. У NVIDIA есть прочная репутация компании повышающей производительность ИИ-решений на протяжении жизненного цикла своего оборудования и нет причин полагать что здесь произойдёт иначе по мере развития программной платформы. Возможно прирост не дойдёт до уровня при котором модели с 70B+ параметров будут работать достаточно быстро для действительно комфортного использования но представленные здесь показатели вероятнее всего отражают наихудший сценарий и почти наверняка улучшатся.

NVIDIA Jetson AGX Thor 13

Модели VLM — Jetson AGX Thor Developer Kit

Тесты компьютерного зрения в этом смысле гораздо интереснее чем LLM. Llama 3.2 11B Vision принимает визуальные входные данные и выдаёт текстовый результат. Как мы уже говорили ранее это именно тот тип задач который ИИ-робот должен уметь выполнять быстро. По мере уменьшения размеров моделей — вплоть до всего лишь 7 миллиардов параметров — производительность становится значительно значительно выше. Показатели свыше 250 токенов в секунду в Qwen — это именно то что обеспечит очень быстрое мышление на уровне 10 Гц которое по словам NVIDIA необходимо роботам для реальной жизнеспособности в физическом мире.

NVIDIA Jetson AGX Thor 14

NVIDIA Jetson AGX Thor Developer Kit — выводы

NVIDIA Jetson AGX Thor 15

Одним из главных преимуществ NVIDIA в гонке ИИ, разумеется, является её аппаратное обеспечение, но не менее важно отметить и программную экосистему компании, интеграцию платформ и удобство использования. Программный стек NVIDIA наполнен звучными именами, за которыми скрываются по-настоящему мощные инструменты. Название GR00T может вызвать ассоциации с разумным деревом из Guardians of the Galaxy, но это таже мощная серия моделей, предназначенных для робототехники общего назначения. Omniverse и Cosmos совместно используются для генерации синтетических обучающих данных. Isaac ROS представляет собой робототехническую операционную систему для сбора данных с датчиков и запуска моделей, управляющих машинами в реальном мире. Программный стек здесь разнообразен и практически безграничен.

К счастью, аппаратное обеспечение, на котором работает это ПО, отличается разнообразием и широкой доступностью. В дата-центре это мощные платформы DGX компании и полнофункциональные GPU Blackwell, а на периферии — Jetson T5000, лежащий в основе Jetson AGX Thor Developer Kit. Это компактное автономное устройство для edge computing обладает колоссальной вычислительной мощностью, а благодаря новым возможностям, таким как разделение GPU на несколько экземпляров, оно умеет выполнять многозадачную работу на очень высоком уровне.

Цена Jetson AGX Thor Developer Kit может стать самым серьёзным препятствием, с которым столкнутся разработчики. Предшественник, NVIDIA Jetson AGX Orin, в 2023 году стоил $1999 за dev kit. Сегодня же представленный здесь 130-ваттный Jetson AGX Thor Developer Kit обойдётся в солидные $3499. Впрочем, за эту сумму вы действительно получаете много аппаратных ресурсов и вычислительной мощности. Помимо мощной SoC на базе Blackwell, здесь есть 128 ГБ очень быстрой памяти, 1 ТБ хранилища, а также достаточно ядер Arm64 CPU и интерфейсов ввода-вывода, чтобы вести разработку непосредственно на самом устройстве. Оно исключительно гибкое и очень быстрое. И если вы уже инвестировали в экосистему NVIDIA AI, то, как мы подозреваем, несколько тысяч долларов для вас вряд ли станут критической проблемой.

В конечном итоге вам, вероятно, и не нужно было читать это заключение, чтобы понять, нужен ли вам Jetson AGX Thor Developer Kit. Если вы хотите запускать очень крупные ИИ-модели в удобной многозадачной среде, используя программный стек NVIDIA, Jetson AGX Thor Developer Kit — это превосходный новый инструмент для вашего арсенала. Хорошая новость заключается в том, что со всеми этими задачами он справляется уверенно и элегантно. И весьма вероятно, со временем устройство станет ещё лучше по мере того, как NVIDIA будет продолжать совершенствовать и обновлять свой программный стек, добавляя новые возможности в области edge AI. Приобрести NVIDIA Jetson AGX Thor уже возможно на веб-рессурсе Интернет-сервис ABGREYD_S — сервис специализирующаяся на продаже электроники, компьютерных комплектующих и периферийных устройств. 

Яндекс.Метрика