A model and method for enhancing the efficiency of processing operation queues at maximum server equipment load

Abstract

Existing solutions aimed at preventing excessive parallelization, reducing processing times, and forecasting load accuracy in operation queues were analyzed. Subsequently, a new model and method designed to enhance the efficiency of processing operation queues, particularly when operating at maximum server equipment load, were evaluated against traditional methods. These methods, including sequential execution, maximal, and constrained parallelism, were assessed. The new method uses two strategies: ‘first-in, first-out’, useful because parallelism does not guarantee sequential order of results, and maximizing equipment utilization for optimal performance. Utilizing the new adaptive monitoring model based on linear regression, the new method achieves operation execution times comparable to sequential execution and total execution times similar to those achieved with constrained parallelism. Constrained parallelism, although it reduces resource conflicts compared to maximal parallelism, still increases the processing time of each operation, emphasizing the importance of balancing the number of parallel operations with the available system resources. We estimated the complexity of the new model using asymptotic complexity and analyzed it with multi-server queueing models under conditions of both limited and unlimited parallelism. Two series of experiments were carried out for the comparative analysis of a new method for managing loads in operation queues versus traditional approaches. Additionally, the potential for resource flexibility in load management within digital infrastructures is highlighted.

Було проведено аналіз існуючих рішень з метою запобігання надмірній паралелізації, скорочення часу обробки та точного прогнозування навантаження в чергах операцій. Потім було оцінено нову модель та методику, розроблені для підвищення ефективності обробки черг операцій, особливо при максимальному навантаженні серверного обладнання, у порівнянні з традиційними методами. Ці методи, включаючи послідовне виконання, максимальну та обмежену паралелізацію, були оцінені. Новий метод використовує дві підстратегії: ‘перший прийшов-перший пішов’, яка особливо корисна, оскільки паралелізм не гарантує послідовного порядку результатів, і максимізацію використання обладнання для оптимізації продуктивності. Завдяки новій адаптивній моделі моніторингу, що базується на лінійній регресії, новий метод досягає часу виконання операцій, порівнянного з послідовним виконанням, і загального часу виконання, подібного до обмеженої паралелізації. Обмежена паралелізація, хоча й зменшує конфлікти за ресурси порівняно з максимальною паралелізацією, все ж збільшує час обробки кожної операції, що підкреслює важливість балансування кількості паралельних операцій з наявними ресурсами системи. Комплексність нової моделі була оцінена за допомогою асимптотичної складності та проаналізована за допомогою моделі масового обслуговування з паралельними каналами в умовах обмеженої та необмеженої паралелізації. Було проведено дві серії експериментів для порівняльного аналізу нового методу управління навантаженнями в чергах операцій у порівнянні з традиційними підходами. Додатково підкреслюється потенціал гнучкого використання ресурсів у управлінні навантаженнями в цифрових інфраструктурах