Advantech

Serveur Edge AI de nouvelle génération AIR-520

Solution d'IA hautes performances, sécurisée et évolutive d'Advantech pour les grands modèles linguistiques et les applications d'IA génératives

Image du serveur Edge AI de nouvelle génération AIR-520 d'AdvantechL’essor de l’IA générative transforme les industries, et le serveur Edge AI AIR-520 d'Advantech est conçu pour répondre à ces demandes en constante évolution. Doté de la technologie aiDAPTIV+ brevetée par Phison, et alimenté par le processeur AMD EPYC série 7003, l'AIR-520 intègre de manière transparente les SSD SQ ai100 AI, les cartes de processeurs graphiques NVIDIA RTX, le SDK Edge AI et NVIDIA AI Enterprise. Cette solution tout-en-un, prête à être déployée, permet aux entreprises d'affiner les grands modèles linguistiques (LLM) en périphérie avec jusqu'à quatre cartes de processeurs graphiques, préservant ainsi la sécurité des données sensibles tout en minimisant les coûts d'infrastructure.

Le SKD Edge AI d'Advantech inclut le studio de formation GenAI, qui est préchargé avec des modèles Llama-2 (13B/33B/70B) pour des applications allant des chatbots à l'analyse de données ; ceci simplifie la formation et l'inférence des modèles LLM personnalisés. L'AIR-520 propose quatre configurations sur mesure : AIR-520-L13B, L33B, L70B et L70B-Plus, garantissant une évolutivité pour répondre aux divers besoins des applications d'IA.

Caractéristiques

  • Serveur Edge AI 4U avec processeur AMD EPYC 7003 : fournit jusqu'à 64 cœurs et 768 Go de DRAM, garantissant des performances robustes de niveau serveur pour les charges de travail d'IA
  • Extension puissante et prise en charge graphique : équipé de quatre emplacements d'extension PCIe x 16 et d'un bloc d'alimentation de 1200 W pour un TDP de carte graphique jusqu'à 700 W, prenant en charge les processeurs graphiques NVIDIA RTX hautes performances
  • Capacités avancées d'IA générative : prend en charge le réglage fin et l'inférence pour les LLM avec des modèles comme Llama-2 (13B, 33B, 70B) dans un environnement sécurisé et basé sur la périphérie
  • Options de formation de modèles flexibles : le studio de formation GenAI et le SDK Edge AI offrent une expérience transparente pour la formation et l'évaluation des LLM personnalisés
  • Des configurations personnalisables sont disponibles en quatre options : AIR-520-L13B, L33B, L70B et L70B-Plus, répondant à une gamme de besoins d'entreprise
Applications
  • Applications basées sur LLM telles que les chatbots et l'analyse de données
  • Solutions d'IA basées sur Edge pour la finance, la santé et la vente au détail
  • Déploiement sécurisé de modèles d'IA pour les environnements de données sensibles
  • Solutions d'IA génératives rentables pour la R&D des entreprises

AIR-520 Next-Gen Edge AI Server

ImageRéférence fabricantDescriptionQuantité disponiblePrixAfficher les détails
LLM 13B AIDAPTIV AIR-520-L13BAIR-520-L13A1LLM 13B AIDAPTIV AIR-520-L13B0 - Immédiatement$14,450.00Afficher les détails
LLM 33B AIDAPTIV AIR-520-L33BAIR-520-L33A1LLM 33B AIDAPTIV AIR-520-L33B0 - Immédiatement$19,550.00Afficher les détails
LLM 70B AIDAPTIV AIR-520-L70BAIR-520-L70A1LLM 70B AIDAPTIV AIR-520-L70B0 - Immédiatement$36,720.00Afficher les détails
Date de publication : 2024-11-26