في الماضي، كان الجميع يسعى للوصول إلى السحابة، لكن تكلفة قوة الحوسبة أثناء مرحلة الاستدلال جعلت العديد من الفرق تدرك: أن الاستدلال على الذكاء الاصطناعي على المدى الطويل وبحجم كبير يكلف الكثير في السحابة. التطبيقات الأصلية للذكاء الاصطناعي تناسب بشكل أفضل نقل المهام الأساسية للاستدلال إلى مراكز البيانات المحلية، مما يقلل من وقت الإستجابة ويوفر النطاق الترددي وتكاليف استئجار السحابة.

تعتبر المنافسة على الذاكرة سمة نموذجية في المراحل المبكرة من تدريب التعلم العميق ( من لديه ذاكرة فيديو أكبر هو الفائز ) ، لكن اليوم:

تؤثر حدود سعة نقل البيانات المخزنة في GPU مباشرةً على QPS للاستدلال

سرعة التفاعل بين وحدة معالجة الرسومات (GPU) ووحدة المعالجة المركزية (CPU)/بطاقة التسريع هي الحد الأقصى لأداء خطوط الأنابيب.

يمكن أن تصل استهلاكات الطاقة في مجموعة AI على خادم واحد إلى عشرات الكيلووات، وسيتسبب التصميم غير المعقول لوحدة PD في توقف مباشر لمقياس نشر قوة الحوسبة.

إذا كانت تخطيط مراكز البيانات لا يزال عالقًا في نماذج تصميم الأعمال التقليدية للويب / قاعدة البيانات لعام 2015، فسوف يتعرض للفشل مباشرة تحت أعباء العمل الذكاء الاصطناعي.

راجع رؤانا:
20 خبيرًا تقنيًا حول الاتجاهات الناشئة في الأجهزة التي يجب على الشركات مراقبتها عبر @forbes