تطلق جوجل ميزة في تطبيق برمجة الذكاء الاصطناعي جيميني، لخفض تكلفة استخدام المطورين الخارجيين لأحدث نماذج الذكاء الاصطناعي التي تقدمها الشركة الأمريكية.

وتطلق جوجل على الخاصية الجديدة اسم "التخزين المؤقت الضمني"، وتشير إلى أنها توفر 75% من تكلفة " السياق المتكرر" الذي يتم تمريره إلى نماذج الذكاء الاصطناعي عبر واجهة برمجة تطبيقات جيمني. وتدعم هذه الخاصية إصداري نموذج الذكاء الاصطناعي جيمني 5ر2 برو وجيمني 5ر2 فلاش من جوجل.

وذكر موقع تك كرانش المتخصص في موضوعات التكنولوجيا إلى أنه من المرجح أن يكون هذا خبرا سارا للمطورين مع استمرار ارتفاع تكلفة استخدام نماذج الذكاء الاصطناعي.

يذكر أن التخزين المؤقت من الممارسات الشائعة على نطاق واسع في مجال الذكاء الاصطناعي حيث يعيد استخدام البيانات المستخدمة بكثرة أو المحسوبة مسبقا من النماذج لتقليل متطلبات الحوسبة والتكلفة عند أداء كل مهمة. على سبيل المثال، يمكن لذاكرة التخزين المؤقت الاحتفاظ بإجابات الأسئلة التي يطرحها المستخدمون عادة على النموذج، مما يغني النموذج عن إعادة البحث عن إجابات كل مرة يطرح فيها الطلب نفسه.

وكانت جوجل تقدم سابقا تخزينا مؤقتا للطلبات المقدمة لنماذج الذكاء الاصطناعي، ولكن كان تخزينا مؤقتا صريحًا، مما يعني أنه على المطورين تحديد مطالباتهم الأكثر تكرارا. وبينما كان من المفترض ضمان توفير التكاليف، إلا أن التخزين المؤقت الصريح للمطالبات عادة ما يتطلب جهدا يدويًّا كبيرا.

ولم يكن بعض المطورين راضين عن أداء تطبيق جوجل للتخزين المؤقت الصريح في إصدار جيمني 5ر2 برو، الذي قالوا إنه قد يتسبب في ارتفاع تكلفة الاستخدام بشكل غير متوقع.وبلغت الشكاوى ذروتها الأسبوع الماضي، مما دفع فريق جيمني إلى الاعتذار والتعهد بإجراء تغييرات.

وعلى عكس التخزين المؤقت الصريح، فإن التخزين المؤقت الضمني تلقائي ويتم تفعيله افتراضيا في نماذج جيمني 5ر2 وينقل وفورات التكلفة إذا وصل طلب متكرر في واجهة برمجة تطبيقات جيمني إلى نموذج ذكاء اصطناعي ما في ذاكرة تخزين مؤقت.