إدارة الذاكرة تتصدر تحديات الأداء في نماذج الذكاء الاصطناعي

قفزت أسعار شرائح DRAM نحو سبعة أضعاف خلال عام مع استعداد شركات الحوسبة السحابية الكبرى لتوسيع مراكز البيانات ما يعكس تحولًا في هيكل تكاليف صناعة الذكاء الاصطناعي.

التحدي اليوم لم يعد امتلاك أقوى المعالجات بل إدارة الذاكرة بكفاءة لضمان وصول البيانات الصحيحة للنماذج في الوقت المناسب. الشركات القادرة على ذلك تقلل عدد الرموز المستخدمة في الاستدلال ما يؤثر على ربحية المشاريع، وفق تقرير "TechCrunch".

دوغ أو’لوغلين، محلل أشباه الموصلات، أشار في حوار مع فال بيركوفيتشي من شركة Weka إلى أهمية الذاكرة في تحسين أداء النماذج الحديثة.

شركة "أنثروبيك" استخدمت نظام تسعير التخزين المؤقت Prompt Caching حيث تطورت الإرشادات من تعليمات بسيطة لتقليل التكلفة إلى دليل مفصل يحدد مستويات شراء الذاكرة المؤقتة وفترات زمنية من خمس دقائق إلى ساعة. احتفاظ البيانات لفترة أطول يقلل التكلفة بينما إدخال بيانات جديدة قد يخرج بيانات قديمة ما يتطلب موازنة دقيقة بين الأداء والكلفة.

تحسين إدارة الذاكرة يشمل اختيار نوع الذاكرة بين DRAM وHBM عالية النطاق الترددي وتصميم أسراب النماذج لاستغلال الذاكرة المشتركة وتقليل إعادة معالجة البيانات. شركات ناشئة مثل "Tensormesh" تركز على تحسين طبقات التخزين المؤقت ضمن منظومة الذكاء الاصطناعي.

نتيجة هذه التحسينات انخفاض تكاليف الاستدلال وزيادة كفاءة النماذج ما يجعل تطبيقات كانت غير مجدية اقتصاديًا قابلة للربح مع انخفاض تكاليف الخوادم والبنية التحتية وفتح المجال أمام شركات لتوسيع نطاق الخدمات أو تقديم منتجات جديدة.