Концептуальні основи гарантоздатних систем штучного інтелекту

Концептуальні основи гарантоздатних систем штучного інтелекту

Запропоновано концепцію гарантоздатних систем штучного інтелекту (ШІ) на базі розвитку парадигми фон-Неймана (von Neumann paradigm, VNP), яку представлено теоретико-множинним описом з урахуванням різних складових — характеристик якості ШІ та систем ШІ (СШІ). Модель якості СШІ описується як упорядков...

Ausführliche Beschreibung

Gespeichert in:
Bibliographische Detailangaben
Veröffentlicht in:Доповіді НАН України
Datum:2025
1. Verfasser: Харченко, В.С.
Format: Artikel
Sprache:Ukrainian
Veröffentlicht: Видавничий дім "Академперіодика" НАН України 2025
Schlagworte:
Інформатика і кібернетика
Online Zugang:https://nasplib.isofts.kiev.ua/handle/123456789/206497
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
Назва журналу:Digital Library of Periodicals of National Academy of Sciences of Ukraine
Zitieren:Концептуальні основи гарантоздатних систем штучного інтелекту / В.С. Харченко // Доповіді Національної академії наук України. — 2025. — № 2. — С. 11-23. — Бібліогр.: 36 назв. — укр.

Institution

Digital Library of Periodicals of National Academy of Sciences of Ukraine
id nasplib_isofts_kiev_ua-123456789-206497
record_format dspace
spelling Харченко, В.С.
2025-09-12T14:19:31Z
2025
Концептуальні основи гарантоздатних систем штучного інтелекту / В.С. Харченко // Доповіді Національної академії наук України. — 2025. — № 2. — С. 11-23. — Бібліогр.: 36 назв. — укр.
1025-6415
https://nasplib.isofts.kiev.ua/handle/123456789/206497
004.8.05
https://doi.org/10.15407/dopovidi2025.02.011
Запропоновано концепцію гарантоздатних систем штучного інтелекту (ШІ) на базі розвитку парадигми фон-Неймана (von Neumann paradigm, VNP), яку представлено теоретико-множинним описом з урахуванням різних складових — характеристик якості ШІ та систем ШІ (СШІ). Модель якості СШІ описується як упорядкована ієрархія характеристик довірчоздатності, поясненності, етичності, законності, відповідальності та їх підхарактеристик, що дозволяє визначити можливості застосування VNP для забезпечення виконання вимог до окремих характеристик. Розроблено модель відповідності перетворення вхідних та вихідних даних СШІ з врахуванням декомпозиції універсальної множини наборів даних (датасетів) на підмножини тих, що використовувалися для навчання та можливих некоректностей за певними характеристиками якості та різних типів відмов та кібератак на СШІ. Запропоновано використання принципу диверсності для впровадження VNP для забезпечення довірчоздатності та інших характеристик ШІ та створення гарантоздатних СШІ.
The concept of dependent artificial intelligence (AI) systems based on the development of the von Neumann paradigm (VNP) is proposed. It is presented by a set-theoretic description that takes into account different qualitative characteristics of AI and AI systems (AIS). The stages and formulations of the evolution of VNPs from simple relay units to complex digital infrastructures and AIS are analyzed. One of the stages of VNP development is related to the fundamental work on the concepts and taxonomy of reliable and secure computing (A. Avizienis et. al., 2004). The AIS Quality Model (QM) is described as an ordered hierarchy of attributes (characteristics) of trustworthiness, explainability, ethicality, legality, responsibility and their specific sub-characteristics, which allows to determine the possibilities of applying VNP to ensure the required values of the characteristics. VNP is formulated for AIS in various representations such as “ trustworthy AIS form untrustworthy components”. AIS QM consists of the AI quality model and the QM of the system’s hardware-software platform. Application examples of AIS QM are analyzed. A model for matching and transforming input data into AIS output data is proposed, taking into account the decomposition of a universal data set into subsets used for training and possible anomalies in certain quality characteristics, as well as different types of failures and cyberattacks on AIS. It is proposed to use the principle of diversity in the implementation of VNP to ensure reliability and other characteristics of AI and to create dependent AIS. Models of reliable multiversion AIS are described and methods of reliability improvement are considered. These methods are based on various online testing schemes and application of versioning and structural redundancy.
uk
Видавничий дім "Академперіодика" НАН України
Доповіді НАН України
Інформатика і кібернетика
Концептуальні основи гарантоздатних систем штучного інтелекту
Conceptual fundamentals of dependable artificial intelligence systems
Article
published earlier
institution Digital Library of Periodicals of National Academy of Sciences of Ukraine
collection DSpace DC
title Концептуальні основи гарантоздатних систем штучного інтелекту
spellingShingle Концептуальні основи гарантоздатних систем штучного інтелекту
Харченко, В.С.
Інформатика і кібернетика
title_short Концептуальні основи гарантоздатних систем штучного інтелекту
title_full Концептуальні основи гарантоздатних систем штучного інтелекту
title_fullStr Концептуальні основи гарантоздатних систем штучного інтелекту
title_full_unstemmed Концептуальні основи гарантоздатних систем штучного інтелекту
title_sort концептуальні основи гарантоздатних систем штучного інтелекту
author Харченко, В.С.
author_facet Харченко, В.С.
topic Інформатика і кібернетика
topic_facet Інформатика і кібернетика
publishDate 2025
language Ukrainian
container_title Доповіді НАН України
publisher Видавничий дім "Академперіодика" НАН України
format Article
title_alt Conceptual fundamentals of dependable artificial intelligence systems
description Запропоновано концепцію гарантоздатних систем штучного інтелекту (ШІ) на базі розвитку парадигми фон-Неймана (von Neumann paradigm, VNP), яку представлено теоретико-множинним описом з урахуванням різних складових — характеристик якості ШІ та систем ШІ (СШІ). Модель якості СШІ описується як упорядкована ієрархія характеристик довірчоздатності, поясненності, етичності, законності, відповідальності та їх підхарактеристик, що дозволяє визначити можливості застосування VNP для забезпечення виконання вимог до окремих характеристик. Розроблено модель відповідності перетворення вхідних та вихідних даних СШІ з врахуванням декомпозиції універсальної множини наборів даних (датасетів) на підмножини тих, що використовувалися для навчання та можливих некоректностей за певними характеристиками якості та різних типів відмов та кібератак на СШІ. Запропоновано використання принципу диверсності для впровадження VNP для забезпечення довірчоздатності та інших характеристик ШІ та створення гарантоздатних СШІ. The concept of dependent artificial intelligence (AI) systems based on the development of the von Neumann paradigm (VNP) is proposed. It is presented by a set-theoretic description that takes into account different qualitative characteristics of AI and AI systems (AIS). The stages and formulations of the evolution of VNPs from simple relay units to complex digital infrastructures and AIS are analyzed. One of the stages of VNP development is related to the fundamental work on the concepts and taxonomy of reliable and secure computing (A. Avizienis et. al., 2004). The AIS Quality Model (QM) is described as an ordered hierarchy of attributes (characteristics) of trustworthiness, explainability, ethicality, legality, responsibility and their specific sub-characteristics, which allows to determine the possibilities of applying VNP to ensure the required values of the characteristics. VNP is formulated for AIS in various representations such as “ trustworthy AIS form untrustworthy components”. AIS QM consists of the AI quality model and the QM of the system’s hardware-software platform. Application examples of AIS QM are analyzed. A model for matching and transforming input data into AIS output data is proposed, taking into account the decomposition of a universal data set into subsets used for training and possible anomalies in certain quality characteristics, as well as different types of failures and cyberattacks on AIS. It is proposed to use the principle of diversity in the implementation of VNP to ensure reliability and other characteristics of AI and to create dependent AIS. Models of reliable multiversion AIS are described and methods of reliability improvement are considered. These methods are based on various online testing schemes and application of versioning and structural redundancy.
issn 1025-6415
url https://nasplib.isofts.kiev.ua/handle/123456789/206497
citation_txt Концептуальні основи гарантоздатних систем штучного інтелекту / В.С. Харченко // Доповіді Національної академії наук України. — 2025. — № 2. — С. 11-23. — Бібліогр.: 36 назв. — укр.
work_keys_str_mv AT harčenkovs konceptualʹníosnovigarantozdatnihsistemštučnogoíntelektu
AT harčenkovs conceptualfundamentalsofdependableartificialintelligencesystems
first_indexed 2025-11-28T00:23:16Z
last_indexed 2025-11-28T00:23:16Z
_version_ 1850853059770449920

Ähnliche Einträge