Modelling videocard memory performance for LLM neural networks

Modelling videocard memory performance for LLM neural networks

The paper covers the analysis of performance characteristics of neural network-based algorithms class Generative pre-trained transformer, also known as Large Language Model, for contemporary videocards. The goal is to check the application limitations for this class of neural networks for mobile com...

Повний опис

Збережено в:

Бібліографічні деталі
Дата:	2024
Автори:	Rahozin, D.V., Doroshenko, A.Yu.
Формат:	Стаття
Мова:	Ukrainian
Опубліковано:	PROBLEMS IN PROGRAMMING 2024
Теми:	videocard large language model computing performance neural network computational capability UDC 681.3
Онлайн доступ:	https://pp.isofts.kiev.ua/index.php/ojs1/article/view/617
Теги:	Додати тег Немає тегів, Будьте першим, хто поставить тег для цього запису!
Назва журналу:	Problems in programming
Завантажити файл:

Репозитарії

Problems in programming

Схожі ресурси

Extended performance accounting using Valgrind tool
за авторством: Rahozin, D.V., та інші
Опубліковано: (2021)

Performance analysis of massively parallel programs for graphics processing units
за авторством: Rahozin, D.V.
Опубліковано: (2023)

A resource limited parallel program model
за авторством: Rahozin, D.V.
Опубліковано: (2019)

UWN: The ontological basе of knowledge of the Ukrainian language
за авторством: Anisіmov, A.V., та інші
Опубліковано: (2015)

A generalized methodology of sign language recognition on video streams based on neural networks and transformers
за авторством: Кузнєцова, Н. В., та інші
Опубліковано: (2023)

Method for political propaganda detection in internet content using neural network natural language processing tools
за авторством: Krak, Iu.V., та інші
Опубліковано: (2024)

Simulation of ion-atom interactions at the corpuscular bombardment of the surface of steel samples
за авторством: Гончаров, Виталий Викторович, та інші
Опубліковано: (2014)

Simulation of ion-atom interactions at the corpuscular bombardment of the surface of steel samples
за авторством: Гончаров, Виталий Викторович, та інші
Опубліковано: (2014)

Optimization of auto-tuning of programs using neural networks
за авторством: Doroshenko, А.Yu., та інші
Опубліковано: (2018)

Recurrent neural networks for the problem of improving numerical meteorological forecasts
за авторством: Doroshenko, А.Yu., та інші
Опубліковано: (2023)

-calculus as a realistic formalization of a class of rewriting systems
за авторством: Shevchenko, R.S., та інші
Опубліковано: (2025)

Features of building recommendation systems based on neural network technology using multithreading
за авторством: Komleva, N.O., та інші
Опубліковано: (2023)

Self-learning neural network technologies in the systems of structural recognition of visual objects
за авторством: Berestovskii, A. E., та інші
Опубліковано: (2015)

Algebra-dynamic models for program parallelization
за авторством: Doroshenko, A.Yu., та інші
Опубліковано: (2025)

One model of optimal resource allocation in homogeneous multiprocessor system
за авторством: Doroshenko, A.Yu., та інші
Опубліковано: (2025)

Formalized design and synthesis of parallel programs for videographic shortcuts
за авторством: Doroshenko, A.Yu., та інші
Опубліковано: (2025)

Neural networks’ learning process acceleration
за авторством: Katerynych, L., та інші
Опубліковано: (2020)

Developing a semantic image model using machine learning based on convolutional neural networks
за авторством: Andon, P.I., та інші
Опубліковано: (2020)

Formalized designing and generation of parallel program for numerical weather forecasting task
за авторством: Doroshenko, A.Yu., та інші
Опубліковано: (2025)

Automatic development of deep neural networks for improving numerical meteorological forecast
за авторством: Doroshenko, А.Yu., та інші
Опубліковано: (2024)

Neural and Bayesian networks in the problem of credit risk analysis
за авторством: Kuznietsova, N. V., та інші
Опубліковано: (2015)

Automated generation of programs for a class of parametric neuroevolution algorithms
за авторством: Doroshenko, A.Yu., та інші
Опубліковано: (2023)

The formal basic developing and testing the distributed program systems
за авторством: Lavrischeva, K.M., та інші
Опубліковано: (2025)

Programming gestures simulator with statistical modeling
за авторством: Doroshenko, А.Yu., та інші
Опубліковано: (2017)

Means of designing object-oriented programs based on algebra of algorithmics
за авторством: Doroshenko, А.Yu., та інші
Опубліковано: (2015)

Implementation of tools for designing and generating of programs on the basis of algebra of algorithms with data
за авторством: Akulovskiy, V.G., та інші
Опубліковано: (2017)

Low frequency signal classification using clustering methods
за авторством: Rahozin, D.V., та інші
Опубліковано: (2024)

Prediction of Flow Accelerated Corrosion of NPP Pipeline Elements by Network Simulation Method
за авторством: Biblik, Irina V., та інші
Опубліковано: (2018)

Prediction of Flow Accelerated Corrosion of NPP Pipeline Elements by Network Simulation Method
за авторством: Biblik, Irina V., та інші
Опубліковано: (2018)

Automated program design for solution of weather forecasting problem
за авторством: Doroshenko, A.Yu., та інші
Опубліковано: (2018)

Method of parallelization of loops for grid calculation problems on GPU accelerators
за авторством: Doroshenko, А.Yu., та інші
Опубліковано: (2018)

Software package for adaptive training of robot controllers based on neural networks
за авторством: Vitiuk, A.Y., та інші
Опубліковано: (2023)

Convolutional neural network model and software for classification of typical pests
за авторством: Bezliudnyi, Y.S., та інші
Опубліковано: (2022)

Distributed implementation of neuroevolution of augmenting topologies method
за авторством: Achour, I.Z., та інші
Опубліковано: (2021)

Neural network application to pseudorandom sequence generation simulation
за авторством: Lesyk, V.O., та інші
Опубліковано: (2024)

Organization of the Schemes of Interaction of Departmental Information Systems in the Integrated Interdepartmental Information System
за авторством: Alekseev, V.A., та інші
Опубліковано: (2015)

Application of problem domain ontological description for relevantness increasing of informational retrieval
за авторством: Rogushina, J.V.
Опубліковано: (2015)

Technological Model for the Process of Software Automated Production
за авторством: Slabospitska, O.O.
Опубліковано: (2025)

On application of machine-learning for designing adaptive sorting programs in algebra of algorithms
за авторством: Yatsenko, O.A.
Опубліковано: (2025)

Algorithmization of the decision of magneto-elasticity thin bodies problems with the help of the R-functions method
за авторством: Назиров, Ш. А., та інші
Опубліковано: (2016)