Концептуальні основи гарантоздатних систем штучного інтелекту

Запропоновано концепцію гарантоздатних систем штучного інтелекту (ШІ) на базі розвитку парадигми фон-Неймана (von Neumann paradigm, VNP), яку представлено теоретико-множинним описом з урахуванням різних складових — характеристик якості ШІ та систем ШІ (СШІ). Модель якості СШІ описується як упорядков...

Ausführliche Beschreibung

Gespeichert in:

Bibliographische Detailangaben
Datum:	2025
1. Verfasser:	Харченко, В.С.
Format:	Artikel
Sprache:	Ukrainian
Veröffentlicht:	Видавничий дім "Академперіодика" НАН України 2025
Schriftenreihe:	Доповіді НАН України
Schlagworte:	Інформатика і кібернетика
Online Zugang:	https://nasplib.isofts.kiev.ua/handle/123456789/206497
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!
Назва журналу:	Digital Library of Periodicals of National Academy of Sciences of Ukraine
Zitieren:	Концептуальні основи гарантоздатних систем штучного інтелекту / В.С. Харченко // Доповіді Національної академії наук України. — 2025. — № 2. — С. 11-23. — Бібліогр.: 36 назв. — укр.

Institution

Digital Library of Periodicals of National Academy of Sciences of Ukraine

id	irk-123456789-206497
record_format	dspace
fulltext
spelling	irk-123456789-2064972025-09-15T00:05:17Z Концептуальні основи гарантоздатних систем штучного інтелекту Conceptual fundamentals of dependable artificial intelligence systems Харченко, В.С. Інформатика і кібернетика Запропоновано концепцію гарантоздатних систем штучного інтелекту (ШІ) на базі розвитку парадигми фон-Неймана (von Neumann paradigm, VNP), яку представлено теоретико-множинним описом з урахуванням різних складових — характеристик якості ШІ та систем ШІ (СШІ). Модель якості СШІ описується як упорядкована ієрархія характеристик довірчоздатності, поясненності, етичності, законності, відповідальності та їх підхарактеристик, що дозволяє визначити можливості застосування VNP для забезпечення виконання вимог до окремих характеристик. Розроблено модель відповідності перетворення вхідних та вихідних даних СШІ з врахуванням декомпозиції універсальної множини наборів даних (датасетів) на підмножини тих, що використовувалися для навчання та можливих некоректностей за певними характеристиками якості та різних типів відмов та кібератак на СШІ. Запропоновано використання принципу диверсності для впровадження VNP для забезпечення довірчоздатності та інших характеристик ШІ та створення гарантоздатних СШІ. The concept of dependent artificial intelligence (AI) systems based on the development of the von Neumann paradigm (VNP) is proposed. It is presented by a set-theoretic description that takes into account different qualitative characteristics of AI and AI systems (AIS). The stages and formulations of the evolution of VNPs from simple relay units to complex digital infrastructures and AIS are analyzed. One of the stages of VNP development is related to the fundamental work on the concepts and taxonomy of reliable and secure computing (A. Avizienis et. al., 2004). The AIS Quality Model (QM) is described as an ordered hierarchy of attributes (characteristics) of trustworthiness, explainability, ethicality, legality, responsibility and their specific sub-characteristics, which allows to determine the possibilities of applying VNP to ensure the required values of the characteristics. VNP is formulated for AIS in various representations such as “ trustworthy AIS form untrustworthy components”. AIS QM consists of the AI quality model and the QM of the system’s hardware-software platform. Application examples of AIS QM are analyzed. A model for matching and transforming input data into AIS output data is proposed, taking into account the decomposition of a universal data set into subsets used for training and possible anomalies in certain quality characteristics, as well as different types of failures and cyberattacks on AIS. It is proposed to use the principle of diversity in the implementation of VNP to ensure reliability and other characteristics of AI and to create dependent AIS. Models of reliable multiversion AIS are described and methods of reliability improvement are considered. These methods are based on various online testing schemes and application of versioning and structural redundancy. 2025 Article Концептуальні основи гарантоздатних систем штучного інтелекту / В.С. Харченко // Доповіді Національної академії наук України. — 2025. — № 2. — С. 11-23. — Бібліогр.: 36 назв. — укр. 1025-6415 https://nasplib.isofts.kiev.ua/handle/123456789/206497 004.8.05 https://doi.org/10.15407/dopovidi2025.02.011 uk Доповіді НАН України application/pdf Видавничий дім "Академперіодика" НАН України
institution	Digital Library of Periodicals of National Academy of Sciences of Ukraine
collection	DSpace DC
language	Ukrainian
topic	Інформатика і кібернетика Інформатика і кібернетика
spellingShingle	Інформатика і кібернетика Інформатика і кібернетика Харченко, В.С. Концептуальні основи гарантоздатних систем штучного інтелекту Доповіді НАН України
description	Запропоновано концепцію гарантоздатних систем штучного інтелекту (ШІ) на базі розвитку парадигми фон-Неймана (von Neumann paradigm, VNP), яку представлено теоретико-множинним описом з урахуванням різних складових — характеристик якості ШІ та систем ШІ (СШІ). Модель якості СШІ описується як упорядкована ієрархія характеристик довірчоздатності, поясненності, етичності, законності, відповідальності та їх підхарактеристик, що дозволяє визначити можливості застосування VNP для забезпечення виконання вимог до окремих характеристик. Розроблено модель відповідності перетворення вхідних та вихідних даних СШІ з врахуванням декомпозиції універсальної множини наборів даних (датасетів) на підмножини тих, що використовувалися для навчання та можливих некоректностей за певними характеристиками якості та різних типів відмов та кібератак на СШІ. Запропоновано використання принципу диверсності для впровадження VNP для забезпечення довірчоздатності та інших характеристик ШІ та створення гарантоздатних СШІ.
format	Article
author	Харченко, В.С.
author_facet	Харченко, В.С.
author_sort	Харченко, В.С.
title	Концептуальні основи гарантоздатних систем штучного інтелекту
title_short	Концептуальні основи гарантоздатних систем штучного інтелекту
title_full	Концептуальні основи гарантоздатних систем штучного інтелекту
title_fullStr	Концептуальні основи гарантоздатних систем штучного інтелекту
title_full_unstemmed	Концептуальні основи гарантоздатних систем штучного інтелекту
title_sort	концептуальні основи гарантоздатних систем штучного інтелекту
publisher	Видавничий дім "Академперіодика" НАН України
publishDate	2025
topic_facet	Інформатика і кібернетика
url	https://nasplib.isofts.kiev.ua/handle/123456789/206497
citation_txt	Концептуальні основи гарантоздатних систем штучного інтелекту / В.С. Харченко // Доповіді Національної академії наук України. — 2025. — № 2. — С. 11-23. — Бібліогр.: 36 назв. — укр.
series	Доповіді НАН України
work_keys_str_mv	AT harčenkovs konceptualʹníosnovigarantozdatnihsistemštučnogoíntelektu AT harčenkovs conceptualfundamentalsofdependableartificialintelligencesystems
first_indexed	2025-09-17T02:50:58Z
last_indexed	2025-09-17T02:50:58Z
_version_	1844167161158828032

Концептуальні основи гарантоздатних систем штучного інтелекту

Institution

Ähnliche Einträge