Productivity estimation of serverless computing

Abstract

Cloud computing has enabled organizations to focus less on their IT infrastructure and more on their core products and services. In fact, Cloud is no longer viewed as an alternative to hosting infrastructure. Serverless computing is a technology, also known as function-as-a-service, that gives the cloud provider complete management over the container function run on as necessary to serve requests. As a result, the architectures remove the need for continuously running systems and serve as event driven computing. Serverless computing presents new opportunities to architects and developers of Cloud-oriented solutions. Primarily, it provides a simplified programming model for distributed Cloud-based systems development, with the infrastructure abstracted away. It is no longer the concern of the developer to manage load balancers, provisioning and resource allocation (although system implementers need to be aware of such things). This reduced focus on operational concerns should allow greater attention to be paid to delivering value, functionality and an ability to adapt rapidly to changes. Such issues as deployment, monitoring, quality of service and fault tolerance are moved into the hands of the Cloud provider and still need to be actively considered and managed. Serverless computing is still in its infancy and while the model matures further, tools will be created to allow developers and architects to cre-ate patterns and processes to fully exploit the advantages of the Serverless model. This paper explores the performance profile of a Serverless ecosystem under low latency and high availability. The results of application and performance tests for image recognition by using neural networks are presented. The proposed implementation uses open source libraries and tools: TensorFlow for the study of machine learning and LabelImg for data preparation. A correlation between the amount of experimental training data and recognition accuracy is studied and shown. For experiments, the software package was developed using the Python scripting pro-gramming language and .Net technology. The developed software showed excellent accuracy of recognition using regular computer with low-cost hardware. Interaction of the client side with the “server” is carried out using HTTP-requests in any browser with low-speed network connection.

Хмарні обчислення дозволили організаціям менше зосередитися на своїй ІТ-інфраструктурі і більше на своїх основних продуктах і послугах. Serverless – це технологія, також відома як функція-як-послуга, яка за необхідності надає постачальнику послуг хмарних обчислень повний контроль над контейнером для обслуговування запитів, на якому викону-ється функція. Як наслідок, архітектури виключають необхідність постійно працюючих систем і слугують обчислюваль-ним процесом, керованим подіями. Serverless-обчислення відкривають нові можливості для архітекторів та розробників, орієнтованих на хмарні обчислення. Вона забезпечує спрощену модель програмування для розробки розподілених Cloud-систем, з відстороненою інфраструктурою. Serverless обчислення все ще перебувають у зародковому стані та з подаль-шим розвитком моделі будуть створені інструменти, що дозволять розробникам і архітекторам створювати моделі та процеси, щоб більш повно використовувати переваги моделі Serverless. У даній роботі розглянуто профіль продуктивності Serverless екосистеми в умовах низьких затримок і високої доступності. Представлено результати застосування і тести продуктивності для розпізнавання образів з використанням нейронних мереж. У реалізації використовуються відкриті бібліотеки та інструменти: TensorFlow для вивчення машинного навчання і LabelImg для підготовки даних. Показана коре-ляція між кількістю експериментальних навчальних даних і точністю розпізнавання. Для експериментів був розроблений програмний пакет з використанням скриптової мови програмування Python і технології .Net. Розроблене програмне забез-печення показало відмінну точність розпізнавання використовуючи звичайний комп'ютер з недорогим обладнанням. Взає-модія клієнтської сторони з «сервером» здійснюється за допомогою HTTP-запитів.

Облачные вычисления позволили организациям меньше сосредоточиться на своей ИТ-инфраструктуре и более на своих основных продуктах и услугах. Serverless - это технология, также известная как функция-как услуга, при необходимости предоставляет поставщику услуг облачных вычислений полный контроль над контейнером для обслуживания запросов, на котором выполняется функция. Как следствие, архитектуры исключают необходимость постоянно работающих систем и служат вычислительным процессом, управляемым событиями. Serverless-вычисления открывают новые возможности для архитекторов и разработчиков, ориентированных на облачные вычисления. Она обеспечивает упрощенную модель программирования для разработки распределенных Cloud-систем, с отстраненной инфраструктурой. Serverless вычисления все еще находятся в зачаточном состоянии и с дальнейшим развитием модели будут созданы инструменты, которые позволят разработчикам и архитекторам создавать модели и процессы, более полно использовать преимущества модели Serverless. В данной работе рассмотрен профиль производительности Serverless экосистемы в усло-виях низких задержек и высокой доступности. Представлены результаты применения и тесты производительности для распознавания изображений с использованием нейронных сетей. В реализации используются открытые библиотеки и ин-струменты: TensorFlow для изучения машинного обучения и LabelImg для подготовки данных. Показана корреляция между количеством экспериментальных обучающих данных и точностью распознавания. Для экспериментов был разработан программный пакет с использованием скриптового языка программирования Python и технологии .Net. Разработанное про-граммное обеспечение показало отличную точность распознавания используя обычный компьютер с недорогим оборудова-нием. Взаимодействие клиентской стороны с «сервером» осуществляется с помощью HTTP-запросов.