Cost minimization in function-as-a-service computing

Abstract

Cost in Function-as-a-Service computing is influenced by a number of factors. One of these factors is the amount of memory reserved during the deployment of serverless functions. Reservation of an excessive amount increases costs unnecessarily. On the other hand, decreasing this amount increases the function execution time, which is also a factor that contributes to cost. Moreover, insufficient memory can degrade the quality of service. In this thesis, we propose an automated approach for optimizing the amount of memory to be reserved for serverless functions. First, we measure the running time of a given function in various memory settings and derive a regression model. We define an objective function and a set of constraints based on this regres- sion model and the configuration space. We obtain a nonlinear integer programming model, which is solved to determine the optimal memory setting for minimizing cost. We evaluate our approach with an industrial case study on the use of Amazon Web services in the context of Smart Home applications. We show that our approach is effective in accurately estimating the impact of memory settings on runtime perfor- mance and determining optimal settings leading to significant cost reductions. It is also useful in detecting functions with performance issues.

Hizmet olarak işlev (Function-as-a-Service) mimarilerinde fiyatlandırma bir çok faktör hesaba katılarak yapılmaktadır. Bu faktörlerden birisi, bir bulut servis sağlayıcıya konuşlandırılan işlev için ayrılacak olan hafıza miktarıdır. Hafıza miktarının yüksek seçilmesi fiyatlandırmayı gereksiz arttıracaktır. Diğer yandan hafızanın düşük seçilmesi fiyatlandırmada rol oynayan diğer bir faktör olan çalışma süresini arttıracaktır. Ayrıca, yetersiz hafıza miktarı işlevin kalitesini de düşürecektir. Bu tez çalışmasında, sunucusuz işlevler için ayrılan hafıza miktarını otomatik olarak eniyileyen bir yaklaşım sunulmaktadır. İlk olarak söz konusu işlevin farklı hafıza değelerindeki performans ölçümleri kullanılarak bir regresyon modeli oluşturulmaktadır. Konfigürasyon uzayı ve regresyon modeli kullanılarak amaç fonksiyonu ve kısıtları belirlenmektedir. Bu verileri kullanarak elde edilen doğrusal olmayan programlama modelininin çözümü ise seçilmesi gereken en iyi hafıza miktarını vermektedir. Önerilen yaklaşımı değerlendir-mek için Amazon Web hizmetlerinin kullanıldığı bir Akıllı Ev Sistemleri Bulut Uygulaması kullanılmıştır. Önerilen yaklaşım ile işlevlerin çalışma performansları göz önünde bulundurularak en düşük seviyede fiyatlandırma ve istenen kaliteyi sağlayacak hafıza seçimlerinin yapıldığı görülmüştür. Ayrıca, bu yaklaşımın kullanılması ile bazı işlevlere ilişkin performans problemlerinin de tespit edilebildiği ortaya çıkmıştır.