Дослідження процедури квантування для оптимізації нейронних мереж за умови застосування граничних обчислень

• Опубліковано в: : Проблеми керування та інформатики
• Дата: 2025
• Автори: Головін, О.М., Зелінський, В.С.
• Формат: Стаття
• Мова: Українська
• Опубліковано: Інститут кібернетики ім. В.М. Глушкова НАН України 2025
• Теми: Роботи та системи штучного інтелекту
• Онлайн доступ: https://nasplib.isofts.kiev.ua/handle/123456789/211473
• Назва журналу: Digital Library of Periodicals of National Academy of Sciences of Ukraine
• Цитувати: Дослідження процедури квантування для оптимізації нейронних мереж за умови застосування граничних обчислень / О.М. Головін, В.С. Зелінський // Проблемы управления и информатики. — 2025. — № 6. — С. 88-112. — Бібліогр.: 35 назв. — укр.

Метою дослідження є комплексний аналіз процедури квантування нейронних мереж детекції об’єктів для граничних обчислень та розробка практичних рекомендацій щодо вибору оптимальних конфігурацій моделей та апаратних платформ. Експериментальне дослідження виконано на двох контрастних платформах (високопродуктивній NVIDIA GeForce RTX 4060Ti та граничній NVIDIA Jetson Orin Nano Super) із застосуванням моделей YOLOv8 та YOLO11 різного розміру. The research aim is a comprehensive analysis of neural network quantization procedures for object detection in edge computing and the development of practical recommendations for selecting optimal model configurations and hardware platforms. The experimental study was conducted on two contrasting platforms: the high-performance NVIDIA GeForce RTX 4060Ti and the edge NVIDIA Jetson Orin Nano Super, using YOLOv8 and YOLO11 models of various sizes.