Система AI Pyramid Pro от M5Stack сочетает в себе серьезные возможности интеллекта на периферии сети и компактные настольные компоненты, созданные для локального использования ИИ.
Компания M5Stack представила свой настольный персональный компьютер Pyramid Pro с производительностью 24 TOPS, выполненный в форме пирамиды. Помимо оригинального дизайна, это новое устройство специально разработано для локального запуска систем искусственного интеллекта (ИИ), а не в облаке.
В этом смысле его можно рассматривать скорее как «устройство с искусственным интеллектом», чем как традиционный ПК. Его форма пирамиды в основном служит для развлечения и продвижения бренда, но внутри находится серьезное оборудование для обработки данных на периферии сети с использованием ИИ.
Устройство компактное, оснащено 8 ГБ оперативной памяти, мощными функциями кодирования/декодирования видео, поддержкой нескольких камер, широким набором портов ввода/вывода и низким энергопотреблением. Также имеется 32 ГБ встроенной памяти eMMC, два порта HDMI 2.0, четыре порта USB-A 3.0 и два порта USB Type-C.
Что касается заявленной вычислительной мощности, то 24 TOPS — это довольно впечатляющий показатель. TOPS расшифровывается как «триллион операций в секунду», что означает, что он может выполнять 24 триллиона математических операций в секунду, связанных с искусственным интеллектом.
Мощность ИИ в форме пирамиды
Хотя это и далеко не мощность игрового ПК, для работы с искусственным интеллектом на устройстве это всё ещё очень хороший показатель, особенно учитывая заявленную цену в 250 долларов. Согласно сообщениям, это новое устройство разработано для работы в области компьютерного зрения в реальном времени, распознавания речи и обнаружения объектов.
Он также оптимизирован для одновременной работы с небольшими и средними LLM (квантованными, а не масштабами ChatGPT) и несколькими видеопотоками с камер. Чтобы уместить все это в компактном устройстве, M5Stack отказался от графического процессора (GPU) и использовал так называемый центральный процессор Arm (CPU).
Это очень эффективное устройство, требующее для работы очень мало энергии. В устройство также входит специально разработанный нейронный процессор, который быстр для искусственного интеллекта, но медленен для всего остального.
Благодаря этому пирамидальный компьютер работает быстро для интерфейса искусственного интеллекта, тихо и потребляет относительно мало энергии. Однако он недостаточно хорош для игр, ресурсоемких приложений для программирования или обычного использования настольного компьютера.
Одной из его выдающихся особенностей является способность, как утверждается, декодировать до шестнадцати видеопотоков в разрешении 1080p. Это означает, что он может одновременно обрабатывать данные с нескольких камер и анализировать их одновременно.
Это означает, что устройство способно легко осуществлять обнаружение, отслеживание и распознавание лиц. Это делает его идеальным решением для интеллектуальных систем безопасности, центров управления камерами с искусственным интеллектом или в качестве периферийного шлюза для заводов и других зданий.
Не для широкого потребителя
Возможность размещать ИИ локально (а не в облаке) также имеет ряд интересных преимуществ. Например, она обеспечивает значительно улучшенную конфиденциальность, поскольку записанные видео- или аудиоматериалы никогда не покидают сеть.
Новый компьютер также обеспечивает значительно меньшую задержку (фактически мгновенный отклик) и не взимает плату за использование, как это часто бывает в облачных сервисах. Кроме того, он может работать без постоянного подключения к интернету.
В теории это должно сделать его очень привлекательным для домашних помощников, малого бизнеса и инженеров, занимающихся прототипированием продуктов на основе искусственного интеллекта. Устройство также оснащено специальным микроконтроллером, способным управлять мониторингом энергопотребления, кнопками, экраном состояния и светодиодным кольцом RGB.
Учитывая весьма специфический характер нового пирамидального компьютера, неудивительно, что он не предназначен для широкого распространения. Скорее всего, его целевой аудиторией станут разработчики периферийных ИИ, инженеры, работающие со встроенными системами, и разработчики, занимающиеся серьезными проектами в области искусственного интеллекта.
Она также должна понравиться всем, кто хочет получить возможности в стиле «Джетсонов», но без цен, характерных для Nvidia.
Sourse: interestingengineering.com
