Изучение влияния величины поглощенной дозы радиации на вероятность развития злокачественных новообразований

Исследовано влияние величины поглощенной дозы радиации на вероятность возникновения злокачественных новообразований (ЗН) у ликвидаторов последствий аварии на Чернобыльской АЭС. Основным объектом исследования является так называемый модифицированный полигон распределения поглощенных доз радиации у ли...

Повний опис

Збережено в:

Бібліографічні деталі
Дата:	2005
Автори:	Демина, Э.А., Петунин, Ю.И., Клюшин, Д.А., Савкина, М.Ю.
Формат:	Стаття
Мова:	Russian
Опубліковано:	Інститут проблем безпеки атомних електростанцій НАН України 2005
Назва видання:	Проблеми безпеки атомних електростанцій і Чорнобиля
Онлайн доступ:	https://nasplib.isofts.kiev.ua/handle/123456789/128021
Теги:	Додати тег Немає тегів, Будьте першим, хто поставить тег для цього запису!
Назва журналу:	Digital Library of Periodicals of National Academy of Sciences of Ukraine
Цитувати:	Изучение влияния величины поглощенной дозы радиации на вероятность развития злокачественных новообразований / Э.А. Демина, Ю.И. Петунин, Д.А. Клюшин, М.Ю. Савкина // Проблеми безпеки атомних електростанцій і Чорнобиля: наук.-техн. зб. — 2005. — Вип. 3, ч. 2. — С. 142-149. — Бібліогр.: 10 назв. — рос.

Репозитарії

Digital Library of Periodicals of National Academy of Sciences of Ukraine

id	nasplib_isofts_kiev_ua-123456789-128021
record_format	dspace
spelling	nasplib_isofts_kiev_ua-123456789-1280212025-02-09T14:58:50Z Изучение влияния величины поглощенной дозы радиации на вероятность развития злокачественных новообразований Вивчення впливу величини поглинутої дози радіації на ймовірність розвитку злоякісних новоутворень The study of influence value of absorbed dose of radiation on probability of development of malignant tumors Демина, Э.А. Петунин, Ю.И. Клюшин, Д.А. Савкина, М.Ю. Исследовано влияние величины поглощенной дозы радиации на вероятность возникновения злокачественных новообразований (ЗН) у ликвидаторов последствий аварии на Чернобыльской АЭС. Основным объектом исследования является так называемый модифицированный полигон распределения поглощенных доз радиации у ликвидаторов с ЗН. Используя разработанные статистические методы сплайновой регрессии, вычислена точка перехода u модифицированного полигона, которая указывает величину поглощенной дозы радиации, начиная с которой вероятность развития ЗН резко уменьшается. Основное влияние при этом оказывают дозы, величины которых расположены в окрестности точки перехода u* = 7,024 cГр. Исследована проблема аппроксимации модифицированного полигона с помощью линейной, линейно-квадратичной функций и кусочно-линейным сплайном. Установлено, что наилучшее приближение достигается в случае применения кусочно-линейных сплайнов. Досліджено вплив величини поглинутої дози радіації на ймовірність виникнення злоякісних новоутворень (ЗН) у ліквідаторів наслідків аварії на ЧАЕС. Основним об’єктом дослідження є так званий модифікований полігон розподілу поглинутих доз радіації у ліквідаторів із ЗН. Використовуючи розроблені статистичні методи сплайнової регресії, вираховано точку переходу u модифікованого полігона, що вказує на величину поглинутої дози радіації, починаючи з якої ймовірність розвитку ЗН різко зменшується. Основний вплив при цьому мають дози, величини яких розміщені навколо точки переходу u* = 7,024 cГр. Досліджено проблему апроксімації модифікованого полігону за допомогою лінійної, лінійно-квадратичної функції та кусково-лінійним сплайном. Встановлено, що найкраще наближення досягається у випадку застосування кусково-лінійних сплайнів. This study is based on the investigation of the development of tumor growth among persons who suffered from the Chernobyl accident. It is shown that radiation damage in low dose range of 3- 15 cGy was the main reason of malignant neoplasm formation. Modified polygon of distribution of absorbed doses of radiation of liquidators, with indicated malignant neoplasm formation after their staying in Chernobyl zone was the main object of presented study. Linear, linear-square functions and piecewise linear splines were used for the investigation of modified polygon approximation problem. It was established that the best approximation is provided by piecewise linear splines. 2005 Article Изучение влияния величины поглощенной дозы радиации на вероятность развития злокачественных новообразований / Э.А. Демина, Ю.И. Петунин, Д.А. Клюшин, М.Ю. Савкина // Проблеми безпеки атомних електростанцій і Чорнобиля: наук.-техн. зб. — 2005. — Вип. 3, ч. 2. — С. 142-149. — Бібліогр.: 10 назв. — рос. 1813-3584 https://nasplib.isofts.kiev.ua/handle/123456789/128021 61:551.521 ru Проблеми безпеки атомних електростанцій і Чорнобиля application/pdf Інститут проблем безпеки атомних електростанцій НАН України
institution	Digital Library of Periodicals of National Academy of Sciences of Ukraine
collection	DSpace DC
language	Russian
description	Исследовано влияние величины поглощенной дозы радиации на вероятность возникновения злокачественных новообразований (ЗН) у ликвидаторов последствий аварии на Чернобыльской АЭС. Основным объектом исследования является так называемый модифицированный полигон распределения поглощенных доз радиации у ликвидаторов с ЗН. Используя разработанные статистические методы сплайновой регрессии, вычислена точка перехода u модифицированного полигона, которая указывает величину поглощенной дозы радиации, начиная с которой вероятность развития ЗН резко уменьшается. Основное влияние при этом оказывают дозы, величины которых расположены в окрестности точки перехода u* = 7,024 cГр. Исследована проблема аппроксимации модифицированного полигона с помощью линейной, линейно-квадратичной функций и кусочно-линейным сплайном. Установлено, что наилучшее приближение достигается в случае применения кусочно-линейных сплайнов.
format	Article
author	Демина, Э.А. Петунин, Ю.И. Клюшин, Д.А. Савкина, М.Ю.
spellingShingle	Демина, Э.А. Петунин, Ю.И. Клюшин, Д.А. Савкина, М.Ю. Изучение влияния величины поглощенной дозы радиации на вероятность развития злокачественных новообразований Проблеми безпеки атомних електростанцій і Чорнобиля
author_facet	Демина, Э.А. Петунин, Ю.И. Клюшин, Д.А. Савкина, М.Ю.
author_sort	Демина, Э.А.
title	Изучение влияния величины поглощенной дозы радиации на вероятность развития злокачественных новообразований
title_short	Изучение влияния величины поглощенной дозы радиации на вероятность развития злокачественных новообразований
title_full	Изучение влияния величины поглощенной дозы радиации на вероятность развития злокачественных новообразований
title_fullStr	Изучение влияния величины поглощенной дозы радиации на вероятность развития злокачественных новообразований
title_full_unstemmed	Изучение влияния величины поглощенной дозы радиации на вероятность развития злокачественных новообразований
title_sort	изучение влияния величины поглощенной дозы радиации на вероятность развития злокачественных новообразований
publisher	Інститут проблем безпеки атомних електростанцій НАН України
publishDate	2005
url	https://nasplib.isofts.kiev.ua/handle/123456789/128021
citation_txt	Изучение влияния величины поглощенной дозы радиации на вероятность развития злокачественных новообразований / Э.А. Демина, Ю.И. Петунин, Д.А. Клюшин, М.Ю. Савкина // Проблеми безпеки атомних електростанцій і Чорнобиля: наук.-техн. зб. — 2005. — Вип. 3, ч. 2. — С. 142-149. — Бібліогр.: 10 назв. — рос.
series	Проблеми безпеки атомних електростанцій і Чорнобиля
work_keys_str_mv	AT deminaéa izučenievliâniâveličinypogloŝennojdozyradiaciinaveroâtnostʹrazvitiâzlokačestvennyhnovoobrazovanij AT petuninûi izučenievliâniâveličinypogloŝennojdozyradiaciinaveroâtnostʹrazvitiâzlokačestvennyhnovoobrazovanij AT klûšinda izučenievliâniâveličinypogloŝennojdozyradiaciinaveroâtnostʹrazvitiâzlokačestvennyhnovoobrazovanij AT savkinamû izučenievliâniâveličinypogloŝennojdozyradiaciinaveroâtnostʹrazvitiâzlokačestvennyhnovoobrazovanij AT deminaéa vivčennâvplivuveličinipoglinutoídoziradíacíínajmovírnístʹrozvitkuzloâkísnihnovoutvorenʹ AT petuninûi vivčennâvplivuveličinipoglinutoídoziradíacíínajmovírnístʹrozvitkuzloâkísnihnovoutvorenʹ AT klûšinda vivčennâvplivuveličinipoglinutoídoziradíacíínajmovírnístʹrozvitkuzloâkísnihnovoutvorenʹ AT savkinamû vivčennâvplivuveličinipoglinutoídoziradíacíínajmovírnístʹrozvitkuzloâkísnihnovoutvorenʹ AT deminaéa thestudyofinfluencevalueofabsorbeddoseofradiationonprobabilityofdevelopmentofmalignanttumors AT petuninûi thestudyofinfluencevalueofabsorbeddoseofradiationonprobabilityofdevelopmentofmalignanttumors AT klûšinda thestudyofinfluencevalueofabsorbeddoseofradiationonprobabilityofdevelopmentofmalignanttumors AT savkinamû thestudyofinfluencevalueofabsorbeddoseofradiationonprobabilityofdevelopmentofmalignanttumors
first_indexed	2025-11-27T02:23:03Z
last_indexed	2025-11-27T02:23:03Z
_version_	1849908464607821824
fulltext	142 ПРОБЛЕМИ БЕЗПЕКИ АТОМНИХ ЕЛЕКТРОСТАНЦІЙ І ЧОРНОБИЛЯ ВИП. 3 Ч. 2 2005 УДК 61:551.521 ИЗУЧЕНИЕ ВЛИЯНИЯ ВЕЛИЧИНЫ ПОГЛОЩЕННОЙ ДОЗЫ РАДИАЦИИ НА ВЕРОЯТНОСТЬ РАЗВИТИЯ ЗЛОКАЧЕСТВЕННЫХ НОВООБРАЗОВАНИЙ Э. А. Демина1, Ю. И. Петунин2, Д. А. Клюшин2, М. Ю. Савкина3 1 Институт экспериментальной патологии, онкологии и радиобиологии НАН Украины им. Р. Е. Кавецкого, Киев 2 Киевский национальный университет имени Тараса Шевченко, Киев 3 Институт математики НАН Украины, Киев Исследовано влияние величины поглощенной дозы радиации на вероятность возникновения злокачественных новообразований (ЗН) у ликвидаторов последствий аварии на Чернобыльской АЭС. Основным объектом исследования является так называемый модифицированный полигон распреде- ления поглощенных доз радиации у ликвидаторов с ЗН. Используя разработанные статистические методы сплайновой регрессии, вычислена точка перехода u модифицированного полигона, которая указывает величину поглощенной дозы радиации, начиная с которой вероятность развития ЗН резко уменьшается. Основное влияние при этом оказывают дозы, величины которых расположены в окрестности точки перехода u* = 7,024 cГр. Исследована проблема аппроксимации модифицирован- ного полигона с помощью линейной, линейно-квадратичной функций и кусочно-линейным сплайном. Установлено, что наилучшее приближение достигается в случае применения кусочно-линейных сплайнов. В настоящее время общепринятым является тот факт, что радиационное поражение приводит к увеличению вероятности возникновения многих заболеваний, в том числе ЗН. Эпидемиологические исследования среди лиц, пострадавших вследствие аварии на Чернобыльской АЭС (ЧАЭС), сопряжены с рядом трудностей [1]. Главное препятствие - это отсутствие либо несовершенство физической дозиметрии. Отчасти этот пробел восполняют данные биологической (цитогенетической) дозиметрии, выполненной в ранние сроки после облучения [2]. Для проведения радиационно-эпидемиологических исследований необходим выбор адекватной математической модели, поскольку используемые линейно-квадратичные модели не всегда дают удовлетворительные приближения к истинным зависимостям. В этой связи заслуживают внимания работы [3 - 5], в которых показано, что кусочно-линейные модели (модели сплайновой регрессии) являются более точными при аппроксимации эксперимен- тальных зависимостей "доза - эффект". Целью настоящей работы является исследование влияния величины поглощенной дозы радиации на вероятность возникновения ЗН в группе ликвидаторов аварии на ЧАЭС. Материалы и методы. Изучены частота и спектр заболеваний у 17 тыс. ликвида- торов, обратившихся в Киевскую региональную межведомственную экспертную комиссию с целью выявления причинной связи заболеваний с работами по ликвидации последствий аварии на ЧАЭС. Связь заболеваний с радиационным воздействием рассматривали индиви- дуально на основании характера клинических данных и документированных доз облучения. За 1990 - 1996 гг. в комиссию обратились 1680 ликвидаторов с ЗН, что составило 9,5 % от общего числа обращений. Во всех случаях диагноз онкологического заболевания морфоло- гично верифицирован. Остановимся более подробно на математических основах обработки статистических данных. Оценка плотности вероятностей случайной величины. Полигон распределения. Плотность вероятностей ( ) ( )f u u−∞ < < +∞ случайной величины представляет собой ИЗУЧЕНИЕ ВЛИЯНИЯ ВЕЛИЧИНЫ ПРОБЛЕМИ БЕЗПЕКИ АТОМНИХ ЕЛЕКТРОСТАНЦІЙ І ЧОРНОБИЛЯ ВИП. 3 Ч. 2 2005 143 функцию, позволяющую определить вероятность ( )p a x b≤ ≤ попадания возможных слу- чайных величин x в интервал ( ),a b на основании следующей формулы: ( ) ( ) b a p a x b f u du≤ ≤ = ∫ . Плотность вероятностей ( )f u является гипотетической функцией; отыскания и исследования ее хороших оценок на основании малых и средних выборок (т.е. когда число n выборочных значений 1 2, , , nx x xK не превышает 150 - 200 наблюдений) представляет достаточно трудную и нерешенную проблему: к сожалению за рамками асимптотической теории (т.е. когда n → ∞ ) имеется очень мало полезных для приложений результатов. Опишем два классических метода оценки плотности вероятностей и новый метод, предложенный в данной работе, который в дальнейшем будем именовать методом модифи- цированных полигонов. Одной из самых распространенных оценок плотности вероятностей является гистограмма, представляющая собой ступенчатую функцию, которая определяется следую- щим образом: пусть min max,a x b x= = - максимальное и минимальное выборочное значение ( ) ( )min 1 max 1min , , , max , ,n nx x x x x x= =K K ; разобьем интервал ( ),a b точками 1 2 ly y y< < <K и обозначим через 1 , , lk i ix xK выборочные значения, попавшие в интервал разбиения ( ) ( )1 1, , 1 1 ,k k ly y y a y b k n+ = = ≤ ≤ − . Пусть k k l h n = - частота таких выборочных значений, тогда гистограмма ( )nh u= определяется формулой ( ) ( ) ( )1 1 0, если / , если 1, , 1 1, если n i i k k k k u a h u h h y y y u y k n u b + + < = = − ≤ ≤ = −  ≥ % K Обозначим через 1 2 k k k y y z ++= середину интервала ( )1,k ky y + ; полигон распределения ( )P u определяется как ломаная линия, состоящая из прямолинейных отрезков, соединяющих точки ( ) ( ) ( ) ( ) ( )0 1 1 1 2 2 2 1 1 1,0 , , , , , , , , ,0 ;n n n nM a M z h M z h M z h M b− − −= = = = =% % % K за преде- лами отрезка ( ),a b функция ( )P u считается равной нулю. Таким образом, полигон распределения ( )P u случайной величины x , построенный на основании выборки 1 2, , , nx x xK , является кусочно-линейным сплайном с узлами в точках ( )0,1, ,kM k n= K . Модифицированный полигон распределения ( )kP u отличается от классического полигона ( )P u тем, что середина kz отрезка разбиения ( )1,k ky y + заменяется на выборочное среднее kz тех выборочных значений ix , которые принадлежат интервалу ( )1,k ky y + , если ( ) 1 1, , , mi i k kx x y y +∈K , то 1 1 m k ij j z x m = = ∑ . Модифицированный полигон ( )kP u представляет собой кусочно-линейный сплайн с узлами в точках Э. А. ДЕМИНА, Ю. И. ПЕТУНИН, Д. А. КЛЮШИН, М. Ю. САВКИНА ________________________________________________________________________________________________________________________ ПРОБЛЕМИ БЕЗПЕКИ АТОМНИХ ЕЛЕКТРОСТАНЦІЙ І ЧОРНОБИЛЯ ВИП. 3 Ч. 2 2005 144 ( ) ( ) ( ) ( ) ( )0 0 1 1 1 2 2 2 1 1 1,0 , , , , , , , , ,0 ;n n n nM M a M z h M z h M z h M b− − −= = = = = =% % % K если ( ),u a b∈ , то ( ) 0kP u = . Гистограмма, как и полигоны распределения, являются оценками для плотности вероятностей случайной величины, однако полигоны представляют более точные оценки. Действительно, из теории приближения [6, 7] известно, что аппроксимация непрерывной функции кусочно-линейными сплайнами имеет большую точность, чем ее приближение кусочно-постоянными функциями. Поскольку классические плотности вероятностей в своем большинстве будут непрерывными функциями, то более предпочтительна их сплайновая аппроксимация. Кроме того, полигоны – это непрерывные функции, а гистограмма имеет много точек разрыва, что затрудняет их использование в статистических вычислениях. Классические полигоны, у которых статистикой является лишь ордината узлов кусоч- но-линейного сплайна, в очень большой степени зависят от точек разбиения 1 2, , , ly y yK интервала ( ),a b , которые в свою очередь определяются субъективно и зависят от желания экспериментатора, в то время как у модифицированных полигонов ордината и абсцисса узлов сплайна представлены только статистиками. Поэтому для оценки плотности вероят- ностей случайной величины x (величина поглощенной дозы облучения у ликвидаторов с ЗН) используем модифицированный полигон. Для исследования дозовой зависимости вероятности возникновения ЗН у ликвида- торов аварии на ЧАЭС будем использовать кусочно-линейные сплайны, состоящие из двух звеньев и имеющие поэтому два узла. Целесообразность такой аппроксимации заключается в том, чтобы показать, что малые дозы радиации от 3 до 15 сГр представляют серьезную опасность для здоровья человека, поскольку увеличивают вероятность развития ЗН. Если это предположение справедливо, то плотность вероятностей вышеуказанной случайной величии- ны x , а потому и ее оценка - модифицированный полигон - будет значительно больше сосредоточена в интервале от 3 до 15 сГр, чем в интервале от 20 до 100 сГр, когда состояние ликвидатора, получившего такую дозу, квалифицируется как лучевая реакция. В связи с этим при аппроксимации таких кривых двухзвеньевым сплайном первое звено (отрезок прямой) должно иметь значительно больший по абсолютной величине угловой коэффициент по сравнению со вторым, а второй узел можно интерпретировать как точку перехода процесса (функции), описывающего зависимость вероятности ЗН от величины поглощенной дозы радиации. Аппроксимация модифицированных полигонов кусочно-линейными сплайнами с двумя узлами. Метод сплайновой регрессии. Вычисление точки перехода (абсциссы второго узла двухзвеньевого сплайна) и угловых коэффициентов первого и второго звена осуществляется на основании метода сплайновой регрессии, к описанию которого мы переходим. Предположим, что плотность вероятностей ( )f u случайной величины x удовлет- ворительно можно аппроксимировать кусочно-линейным сплайном ( )g u , состоящим из двух звеньев: ( ) ( )f u g u≈ . Поскольку модифицированный полигон ( )kP u является оценкой для плотности вероятностей ( )f u , то ( ) ( )kf u P u≈ , полигон ( )kP u можно приблизить сплайном ( ) ( ) ( ): kg u P u g u≈ и определить точку перехода u полигона ( )kP u . Вычисление точки перехода u , которая по своему смыслу указывает на начало изменения процесса, описывающего зависимость вероятности развития ЗН у ликвидаторов от величины поглощенной дозы радиации, осуществляется с помощью метода сплайновой регрессии. ИЗУЧЕНИЕ ВЛИЯНИЯ ВЕЛИЧИНЫ ПРОБЛЕМИ БЕЗПЕКИ АТОМНИХ ЕЛЕКТРОСТАНЦІЙ І ЧОРНОБИЛЯ ВИП. 3 Ч. 2 2005 145 Пусть ( ) * 1 1 * * 1 1 2 2 2 2 * * 1 1 2 2 , если 0 , , , , , , если a u b u u g u u a b a b a u b u u T a u b a u b  + ≤ ≤  = + ≤ ≤  + = + , где u - точка перехода. Необходимо по значениям модифицированного полигона ( )k iP u ( 1,2,..., )i n= в точках iu оценить точку перехода u и параметры 1 1 2 2, ; ,a b a b сплайна ( )g u . Решение этой задачи осуществляется методом минимизации остаточной суммы квадратов, предложенным одним из авторов данной работы. Предположим, что точка перехода u нам известна и совпадает с одной из точек наблюдения модифицированного полигона ( ) : ,k iP u u u= тогда задача вычисления параметров 1 1 2 2, ; ,a b a b сводится к проблеме оценки параметров в схеме линейной регрессии; в этом случае ( )m f можно представить в виде линейной комбинации фундаментальных сплайнов [7]. Используя класси- ческий метод наименьших квадратов (МНК) [8], можно получить так называемые оценки МНК ( ) ( ) ( ) ( ) 1 1 2 2, , ,i i i ia b a b для неизвестных параметров и остаточную сумму квадратов ( ) ( ) 2 2 * 1 1 2 2 1 , , , , , n i k j j i j S P u g u u u a b a b =  = − = ∑ . Выбирая среди остаточных сумм 2 2 2 0 1, , , nS S SK наименьшую сумму { }* 2 2 2 2 0 1, , , , ni S S S S= K K и определяя ее порядковый номер i , найдем оценку для точки перехода * i u u≈ и оценки ( ) ( ) ( ) ( )* * * * 1 1 2 2, , , i i i i a b a b неизвестных параметров 1 1 2 2, , ,a b a b для сплайна ( )g u , которые называются оценками, найденными по методу минимизации остаточных сумм квадратов. Эта оценка используется нами в модели сплайновой регрессии. Определение числа точек перехода. Описанный выше алгоритм определения точки перехода имеет смысл лишь в том случае, когда функция ( ) ( )kP u f u≈ имеет одну точку перехода. Очевидно, что у произвольной функции ( )kP u таких точек перехода несколько либо вообще ни одной. В связи с этим возникает сложная проблема определения точек перехода ( )kP u , которая усложняется тем обстоятельством, что модифицированный полигон ( )kP u представляет собой случайную функцию, значение которой зависит от выборки 1 2, , , nx x xK и точек разбиения ( ) 1 1,k ky y + . Предлагаем следующее решение этой задачи, основанное на критерии Стьюдента. Пусть ( )( ) ( )( )1, 1 1, , ,k n k nz P z z P z− −K - вершины модифицированного полигона. Предполо- жим, что этот полигон имеет лишь одну точку перехода u . Вычислим конечно-разностное отношение полигона ( ) :kP u ( ) ( )1 1 1,2, , 1 i ik k i i i P Z P Z i n Z Z γ + + − = = − − K . Число этих отношений на единицу меньше, чем число n вершин модифицированного полигона ( )kP u . Предположим, что случайные величины 1 2 1, , , nγ γ γ −K независимы в Э. А. ДЕМИНА, Ю. И. ПЕТУНИН, Д. А. КЛЮШИН, М. Ю. САВКИНА ________________________________________________________________________________________________________________________ ПРОБЛЕМИ БЕЗПЕКИ АТОМНИХ ЕЛЕКТРОСТАНЦІЙ І ЧОРНОБИЛЯ ВИП. 3 Ч. 2 2005 146 совокупности и имеют нормальное распределение с одинаковой дисперсией. Рассмотрим вначале первые два конечно-разностных отношения 1 2,γ γ и построим по критерию Стьюдента доверительный интервал с 5 %-ным уровнем значимости [9] ( ) ( ) ( )( ) ( )( ) ( ) ( ) ( )( ) 2 2 1 1 12 1 2 1 1 2 1 1 1 1 1 2 , , , 12,75 0,05 s a b t s t s tβ β β γ γ γ γ γ γ γ γ γ β = + = − + − = − + = = Если значения 3γ не принадлежит интервалу ( )1 1,a b , то имеет место значимое различие математических ожиданий, так что ( )1 2,γ γ и 3γ принадлежат разным генеральным совокупностям и тогда первая точка перехода находится между точками 3 4и Z Z . Если же ( )3 1 1,a bγ ∈ , то рассматриваем следующее значение 4γ и проверяем включения ( )4 1 1,a bγ ∈ и т.д. В случае, когда одно из kγ (первое) не попадается в интервале ( )1 1,a b , то существование точки перехода установлено и она расположена между точками 1,k kZ Z + . В противном случае, когда ( )1 1,k a bγ ∈ при всех k , считается, что используемые методы не позволяют найти точку перехода. Предположим, что ( )3 1 1,a bγ ∈ , так что одну точку перехода мы определили. Рассмотрим далее 3 4иγ γ , построим аналогичный интервал ( )2 2,a b и будем проверять включение 5 6, , , nγ γ γK в интервал ( )2 2,a b ; если при всех 5k ≥ ( )2 2,k a bγ ∈ , то рассмотрим доверительный интервал ( )3 3,a b ( ) ( ) ( ) ( )2 2 2 3 3 3 4 5 1 , , где 3 a t s b t sβ βγ γ γ γ γ γ= − = + = + + , ( )( ) ( )( ) ( )( )2 2 2 2 2 22 3 4 5 1 , 4,303, 2 0,05. s tβγ γ γ γ γ γ β  = − + − + − =    = Если при этом ( )3 3, 6k a b kγ ∈ ∀ ≥ , то строится интервал ( )4 4,a b , ( ) ( ) ( ) ( ) ( )( ) ( )( ) ( )( ) ( )( ) 3 3 3 4 3 3 4 5 6 2 2 2 2 3 3 3 32 3 4 5 6 1 , , где , 4 1 , 3,182, 3 0,05 a t s b t s s t β β β γ γ γ γ γ γ γ γ γ γ γ γ γ γ γ β = − = − = + + +  = − + − + − + − =    = и затем проверяется включение ( )4 4, 7k a b kγ ∈ ∀ ≥ и т.д. В том случае, когда нет выхода последующих значений kγ из всех указанных интервалов ( ),k ka b , это означает, что существует лишь одна точка перехода, расположенная между точками 3 4и Z Z . Если установлено, что существует лишь одна точка перехода u , то следует проверять статистическую значимость ее существования. Для этого необходимо разбить множество конечно-разностных отношений iγ на две группы 1 2и G G : в первую группу 1G относят те ИЗУЧЕНИЕ ВЛИЯНИЯ ВЕЛИЧИНЫ ПРОБЛЕМИ БЕЗПЕКИ АТОМНИХ ЕЛЕКТРОСТАНЦІЙ І ЧОРНОБИЛЯ ВИП. 3 Ч. 2 2005 147 ( ) ( )1 1 i ik k i i i P Z P Z Z Z γ + + + = − , значения iZ , которые не превышают * : iu Z u≤ , а вторая группа состоит из всех остальных значений kZ . Пусть { } 01 1, , ,kG γ γ= K { } 02 1 1, , ,k nG γ γ+ −= K ( ) ( ) ( )( ) ( ) ( ) ( ) ( )( ) 0 0 0 0 1 1 22 2 2 1 10 0 2 2 2 2 2 1 1 , 1 2 3 , 3 . n k n k i i i k i k s n k n k I s s γ γ γ γ γ γ − − − − = + = + = = − − − − − = − + ∑ ∑ В силу правила 3s [10], которое является более осторожным критерием, чем крите- рий Стьюдента, считается, что существование точки перехода u является статистически значимым, если хотя бы одно из конечно-разностных отношений группы 1G не принадлежат интервалу 2I . Результаты и обсуждение. Для проверки истинности гипотезы о значительном увеличении вероятности развития ЗН у ликвидаторов аварии на ЧАЭС, подвергшихся воздействию радиации в дозах 3 - 15 сГр, диапазон документированных доз (1 - 100 сГр) разбили на девять интервалов: 1 - 3, 3 - 5, 5 - 10, 10 - 15, 15 - 20, 20 - 25, 25 - 50, 50 - 75, 75 - 100 сГр. В табл.1 представлены значения абсцисс и ординат вершин модифицированного полигона для этого разбиения. Таблица 1. Координаты вершин модифицированного полигона i iZ ( )iP z 1 1,289 0,1185 2 3,812 0,0840 3 7,024 0,0364 4 12,455 0,0154 5 17,139 0,0168 6 21,513 0,0182 7 27,967 0,0056 8 53,333 0,00084 9 89,957 0,0000 Конечно-разностные отношения iγ , построенные для этого модифицированного полигона, даны в табл. 2. Таблица 2. Конечно-разностные отношения модифицированного полигона i iγ 1 -0,013674 2 -0,014819 3 -0,003866 4 0,0002988 5 0,000320 6 -0,001952 7 -0,0001876 8 -0,0000229 Э. А. ДЕМИНА, Ю. И. ПЕТУНИН, Д. А. КЛЮШИН, М. Ю. САВКИНА ________________________________________________________________________________________________________________________ ПРОБЛЕМИ БЕЗПЕКИ АТОМНИХ ЕЛЕКТРОСТАНЦІЙ І ЧОРНОБИЛЯ ВИП. 3 Ч. 2 2005 148 Доверительный интервал ( )1 1,a b , построенный по 1 2и γ γ на основании критерия Стьюдента имеет вид (-0,0240903;-0,0044025). Значение 3γ не принадлежит этому интервалу и поэтому первая точка перехода u расположена на интервале ( )3 4,Z Z =(7,024; 12,455). Следующие доверительные интервалы ( ),k ka b имеют вид (-0,028528; 0,0249608), (-0,0113551; 0,0091903), (-0,0076638; 0,0050642); (-0,006043; 0,0038884). Анализ данных, представленных в табл. 2 показывает, что все соответствующие последующие значения iγ принадлежат указанным доверительным интервалам (например, 5 6 7 8, , , ( 0,028528;0,0249608)γ γ γ γ ∈ − и т.д.), поэтому у модифицированного полигона ( )kP z , представленного в табл. 1, нет других точек перехода, кроме одной точки u . Далее, доверительный интервал 2I , построенный для основной распределенной массы значений для второй группы 2G с помощью правила 3s имеет вид 2I =(-0,0071224; 0,0053192); при этом ни одно из выборочных значений iγ из первой группы 1G (т.е. 1 2,γ γ ) не принадлежит этому интервалу, что является еще одним аргументом в пользу статистически значимого существо- вания точки перехода u в интервале ( )3 4, .Z Z Аппроксимация модифицированного полигона ( )kP u с помощью кусочно-линейного сплайна с минимальной остаточной суммы квадратов (сплайновая регрессия) имеет вид. ( ) ( ) 0,017287 0,144056,если 0 7,024 0,0003473 0,02507,если 7,024 100k u u P u S u u u − + ≤ ≤ ≈ = − + ≤ ≤ Таким образом, точка перехода равна 7,024, что хорошо согласуется с ранее полу- ченными результатами. При этом остаточная сумма квадратов, которая характеризует точность модели, равна 44,3461 10−⋅ , так что точность приближения сплайном ( )S u является достаточно высокой. Интересно отметить, что наилучшее приближение модифицированного полигона с помощью линейной функции ( )l u имеет вид ( ) 0,00089634 0,05621l u = − + ( )0 100 ,u≤ ≤ а остаточная сумма квадратов равна 8,295·10-3. Наилучшее приближение модицифированного полигона достигается с помощью функции ( ) 20,00003309 0,003851 0,08651f u u u= − + ( )0 100 ,u≤ ≤ причем ее остаточная сумма квадратов равна 33,806 10 .−⋅ Таким образом, среди трех проанали- зированных аппроксимаций наилучшее приближение модифицированного полигона пред- ставляет сплайновая регрессия. Подводя итог проведенным исследованиям можно сделать следующее заключение. Поскольку модифицированный полигон характеризует зависимость вероятности возникно- вения ЗН у ликвидаторов аварии на ЧАЭС от поглощенной дозы облучения, а его достаточно точная аппроксимация имеет точку перехода 7,024, после которой вероятность возникно- вения онкозаболеваний резко снижается, то наиболее опасными для здоровья ликвидаторов следует считать малые поглощенные дозы радиации, заключенные в 1, 2, 3 и 4 интервалах разбиения, т.е. в интервале от 3 до 15 сГр. ИЗУЧЕНИЕ ВЛИЯНИЯ ВЕЛИЧИНЫ ПРОБЛЕМИ БЕЗПЕКИ АТОМНИХ ЕЛЕКТРОСТАНЦІЙ І ЧОРНОБИЛЯ ВИП. 3 Ч. 2 2005 149 СПИСОК ЛИТЕРАТУРЫ 1. Дружина Н.А., Чехун В.Ф. Проблема оценки канцерогенного риска малых доз радиации // Онкология. - 2003. - № 3. - С . 78 - 82. 2. Дьоміна Е.А. Радіогенні цитогенетичні ефекти у учасників ліквідації аварії на Чорнобильській АЕС: Автореф. ... д-ра біол. наук. – К., 2002. - 36 с. 3. Нестеров Е.Б., Дикарев В.Г., Дикарева Н.С., Гераськин Р.А. Индукция цитогенетических эффектов в корневой меристеме облученных при разных мощностях дозы проростков ядрового ячменя // Тез. докл. междунар. конф. "Проблемы радиационной генетики на рубеже веков", Москва, 20 - 24 нояб. 2000 г. - М.: Изд-во Рос. ун-та дружбы народов, 2000. - С. 169. 4. Klyushin D.A., PetuninYu.I., M.Yu. Savkina et al. Statistical Tests for comparing two probabilities and their application to Cancer Risk analysis // Proceedings of the International Conference of Mathematics and Engineering techniques in Medicine and Biological Sciences, Las Vegas, Nevada, USA, 2002. - Vol. 1. - P. 165 - 169. 5. Демина Э.А., Клюшин Д.А., Петунин Ю.И., Савкина М.Ю. Определение калибровочных кривых для цитогенетических показателей на основе модели сплайновой регрессии при нейтронном воздействии на лимфоциты человека // Променева діагностика / Асоціація радіологів України. – К., 2001. - Вип. 11. - С. 23 - 30. 6. Корнейчук Н.А. Сплайны в теории приближения. - М.: Наука, 1984. – 230 с. 7. Завьялов Ю.С., Квасов Б.И., Мирошниченко В.Л. Методы сплайн-функций. - М.: Наука, 1980. - 352 с. 8. Себер Дж. Линейный регрессионный анализ - М.: Мир, 1980. - 456 с. 9. Ван дер Вандер Б.Л. Математическая статистика. - М.: ИИЛ, 1960. - 434 с. 10. Петунин Ю.И. Приложение теории случайных процессов в биологии и медицине. – К.: Наук. думка, 1981. - 320 с. Поступила в редакцию 25.10.04, после доработки - 07.02.05. Э. А. ДЕМИНА, Ю. И. ПЕТУНИН, Д. А. КЛЮШИН, М. Ю. САВКИНА ________________________________________________________________________________________________________________________ ПРОБЛЕМИ БЕЗПЕКИ АТОМНИХ ЕЛЕКТРОСТАНЦІЙ І ЧОРНОБИЛЯ ВИП. 3 Ч. 2 2005 150 19 ВИВЧЕННЯ ВПЛИВУ ВЕЛИЧИНИ ПОГЛИНУТОЇ ДОЗИ РАДІАЦІЇ НА ЙМОВІРНІСТЬ РОЗВИТКУ ЗЛОЯКІСНИХ НОВОУТВОРЕНЬ Е. А. Дьоміна, Ю. І. Петунін., Д. А. Клюшин, М. Ю. Савкіна Досліджено вплив величини поглинутої дози радіації на ймовірність виникнення злоякісних новоутворень (ЗН) у ліквідаторів наслідків аварії на ЧАЕС. Основним об'єктом дослідження є так званий модифікований полігон розподілу поглинутих доз радіації у ліквідаторів із ЗН. Використо- вуючи розроблені статистичні методи сплайнової регресії, вираховано точку переходу u модифіко- ваного полігона, що вказує на величину поглинутої дози радіації, починаючи з якої ймовірність розвитку ЗН різко зменшується. Основний вплив при цьому мають дози, величи- ни яких розміщені навколо точки переходу u = 7,024 cГр. Досліджено проблему апроксімації модифікованого полігону за допомогою лінійної, лінійно-квадратичної функції та кусково-лінійним сплайном. Встановлено, що найкраще наближення досягається у випадку застосування кусково- лінійних сплайнів. 19 THE STUDY OF INFLUENCE VALUE OF ABSORBED DOSE OF RADIATION ON PROBABILITY OF DEVELOPMENT OF MALIGNANT TUMORS E. A. Djomina, Ju.I. Petunin, D. A. Klushin, M. Ju. Savkina This study is based on the investigation of the development of tumor growth among persons who suffered from the Chernobyl accident. It is shown that radiation damage in low dose range of 3- 15 cGy was the main reason of malignant neoplasm formation. Modified polygon of distribution of absorbed doses of radiation of liquidators, with indicated malignant neoplasm formation after their staying in Chernobyl zone was the main object of presented study. Linear, linear-square functions and piecewise linear splines were used for the investigation of modified polygon approximation problem. It was established that the best approximation is provided by piecewise linear splines.

Изучение влияния величины поглощенной дозы радиации на вероятность развития злокачественных новообразований

Репозитарії

Схожі ресурси