Дослідження процедури квантування для оптимізації нейронних мереж за умови застосування граничних обчислень

• Published in: Проблеми керування та інформатики
• Date: 2025
• Main Authors: Головін, О.М., Зелінський, В.С.
• Format: Article
• Language: Ukrainian
• Published: Інститут кібернетики ім. В.М. Глушкова НАН України 2025
• Subjects: Роботи та системи штучного інтелекту
• Online Access: https://nasplib.isofts.kiev.ua/handle/123456789/211473
• Journal Title: Digital Library of Periodicals of National Academy of Sciences of Ukraine
• Cite this: Дослідження процедури квантування для оптимізації нейронних мереж за умови застосування граничних обчислень / О.М. Головін, В.С. Зелінський // Проблемы управления и информатики. — 2025. — № 6. — С. 88-112. — Бібліогр.: 35 назв. — укр.

Метою дослідження є комплексний аналіз процедури квантування нейронних мереж детекції об’єктів для граничних обчислень та розробка практичних рекомендацій щодо вибору оптимальних конфігурацій моделей та апаратних платформ. Експериментальне дослідження виконано на двох контрастних платформах (високопродуктивній NVIDIA GeForce RTX 4060Ti та граничній NVIDIA Jetson Orin Nano Super) із застосуванням моделей YOLOv8 та YOLO11 різного розміру. The research aim is a comprehensive analysis of neural network quantization procedures for object detection in edge computing and the development of practical recommendations for selecting optimal model configurations and hardware platforms. The experimental study was conducted on two contrasting platforms: the high-performance NVIDIA GeForce RTX 4060Ti and the edge NVIDIA Jetson Orin Nano Super, using YOLOv8 and YOLO11 models of various sizes.