Xception transfer learning with early stopping for facial age estimation

Abstract

The rapid development of deep learning attracts more attention to the analysis of person's face images. Deep learning methods of facial age estimation are more effective compared to methods based on anthropometric models, models of active appearance, texture models, subspace of aging patterns. However, deep learning networks require more computing power to process images. Pretrained models do not need a large training set and their training time is less. However, the parameters obtained as a result of transfer learning of the pre-training network significantly affect its efficiency. It is also necessary to take into account the properties of the processed images, in particular, the conditions under which they were obtained. Recently, the facial age estimation is implemented in applications in devices with limited resources of computing, for example, in smartphones. The memory size and power consumption of such applications are limited by the computing power of mobile devices. In addition, when photographing a person's face with a smartphone camera, it is very difficult to ensure the uniform lighting. The aim of the research is reducing the error of faci al age estimation from uneven illuminated images by applying an early stopping of transfer learning of the Xception network. The proposed technique of transfer learning includes an early stopping of training, if the improvement of the results is not observed within a certain number of epochs. Then the network weights from the epoch with the lowest validation loss are saved. As a result of the proposed technique applying, the average absolute error of age estimation was about five years from unevenly illuminated test images. A number of parameters of the used in this case Xception network is less than that of other deep learning neural networks which solved the age estimation problem. Then applying of the Xception network reduces the resource consumption of devices with limited computing power. Prospects for further research are reducing the unevenness of facial image lighting to decrease the error of age estimation. Also, to reduce the computing resources, it is promising to use fast transforms in the Xception convolutional layers.

Швидкий розвиток глибокого навчання привертає більше уваги до аналізу зображень обличчя людини. Методи оцінки віку людини за зображеннями обличчя на основi глибокого навчання бiльш ефективнi порівняно з методами на основі антропометричних моделей, моделей активного зовнішнього вигляду, текстурних моделей, підпростору шаблонів старіння. Однак мережі глибокого навчання потребують більшої обчислювальної потужності для обробки зображень. Попередньо навчені моделі працюють без потреби у великій кількості зразків, а час навчання менший. Однак значення параметpiв, отриманих в результатi навчання, значно впливають на ефективність попередньо навченої нейронної мережі. Також потрібно враховувати особливості оброблюваних зображень, зокрема, умови, у яких їх отримано. Останнім часом визначення вiку людини за зображенням обличчя реалізується у додатках пристроїв з обмеженим джерелом обчислень, наприклад, у смартфоні. Під час фотографування обличчя людини камерою смартфона дуже складно забезпечити рівномірне освітлення. Метою дослідження, є зниження помилки оцiнки вiку людини за нерiвномiрно освiтленим зображенням обличчя шляхом застосування ранньої зупинки передавального навчання мережi Xception. Запропоновано методику попереднього навчання нейронних мереж, яка використовує ранню зупинку навчання, якщо покращення результатів не спостерігається протягом певної кількості епох. Потім відновлюються мережеві ваги з епохи з найкращим значенням функцiї втрат на валiдацiйних даних. У результаті середня абсолютна помилка оцінки віку шляхом застосування навченою за запропонованою методикою мережею Xception за нерівномірно освітленими тестовими зображеннями становила близько п'яти рокiв. Обрання Xception обумовлене тим, що кількість параметрів цієї мережі менша, ніж у iнших мереж, якi застосовувалися для оцiнювання вiку людини. Це зменшує споживання ресурсів пристроїв з обмеженими обчислювальними можливостями. Перспективами подальших досліджень є зменьшення рiвня нерiвномiрності освiтлення зображеннь обличчя для зменьшення помилки оцiнки вiку людини. Також для зменшення споживання обчислювальних ресурсів перспективним є застосування швидких перетворень у згорткових шарах мережі Xception.