О высоких скоростях замораживания и охлаждения биологических объектов в цилиндрических контейнерах при их погружении в жидкий азот
Экспериментально и теоретически исследовалась теплопередача в многокомпонентных криозащитных средах при высоких скоростях охлаждения в цилиндрических контейнерах. В качестве модели среды использован 1 М раствор глицерина на фосфатном буфере....
Saved in:
| Date: | 2005 |
|---|---|
| Main Authors: | , , |
| Format: | Article |
| Language: | Russian |
| Published: |
Інститут проблем кріобіології і кріомедицини НАН України
2005
|
| Series: | Проблемы криобиологии и криомедицины |
| Subjects: | |
| Online Access: | https://nasplib.isofts.kiev.ua/handle/123456789/137054 |
| Tags: |
Add Tag
No Tags, Be the first to tag this record!
|
| Journal Title: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| Cite this: | О высоких скоростях замораживания и охлаждения биологических объектов в цилиндрических контейнерах при их погружении в жидкий азот / В. И. Бабенко, В. И. Грищенко, А. В. Дунаевская // Проблемы криобиологии. — 2005. — Т. 15, № 2. — С. 129-136. — Бібліогр.: 10 назв. — рос. |
Institution
Digital Library of Periodicals of National Academy of Sciences of Ukraine| id |
nasplib_isofts_kiev_ua-123456789-137054 |
|---|---|
| record_format |
dspace |
| spelling |
nasplib_isofts_kiev_ua-123456789-1370542025-02-09T18:19:48Z О высоких скоростях замораживания и охлаждения биологических объектов в цилиндрических контейнерах при их погружении в жидкий азот About high rates of biological objects’ freezing and cooling in cylindrical containers when immersing them into liquid nitrogen Бабенко, В.И. Грищенко, В.И. Дунаевская, А.В. Теоретическая и экспериментальная криобиология Экспериментально и теоретически исследовалась теплопередача в многокомпонентных криозащитных средах при высоких скоростях охлаждения в цилиндрических контейнерах. В качестве модели среды использован 1 М раствор глицерина на фосфатном буфере. Експериментально і теоретично досліджувалась теплопередача в багатокомпонентних кріозахисних середовищах при високих швидкостях охолодження в циліндричних контейнерах. Як модель середовища використано 1 М розчин гліцерину на фосфатному буфері. The heat transfer in multicomponent cryoprotective media under high cooling rates in cylindrical containers was experimentally and theoretically studied. As the medium model 1M phosphate buffer glycerol solution was used. 2005 Article О высоких скоростях замораживания и охлаждения биологических объектов в цилиндрических контейнерах при их погружении в жидкий азот / В. И. Бабенко, В. И. Грищенко, А. В. Дунаевская // Проблемы криобиологии. — 2005. — Т. 15, № 2. — С. 129-136. — Бібліогр.: 10 назв. — рос. https://nasplib.isofts.kiev.ua/handle/123456789/137054 536.2:519.6 ru Проблемы криобиологии и криомедицины application/pdf Інститут проблем кріобіології і кріомедицини НАН України |
| institution |
Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| collection |
DSpace DC |
| language |
Russian |
| topic |
Теоретическая и экспериментальная криобиология Теоретическая и экспериментальная криобиология |
| spellingShingle |
Теоретическая и экспериментальная криобиология Теоретическая и экспериментальная криобиология Бабенко, В.И. Грищенко, В.И. Дунаевская, А.В. О высоких скоростях замораживания и охлаждения биологических объектов в цилиндрических контейнерах при их погружении в жидкий азот Проблемы криобиологии и криомедицины |
| description |
Экспериментально и теоретически исследовалась теплопередача в многокомпонентных криозащитных средах при высоких скоростях охлаждения в цилиндрических контейнерах. В качестве модели среды использован 1 М раствор глицерина на фосфатном буфере. |
| format |
Article |
| author |
Бабенко, В.И. Грищенко, В.И. Дунаевская, А.В. |
| author_facet |
Бабенко, В.И. Грищенко, В.И. Дунаевская, А.В. |
| author_sort |
Бабенко, В.И. |
| title |
О высоких скоростях замораживания и охлаждения биологических объектов в цилиндрических контейнерах при их погружении в жидкий азот |
| title_short |
О высоких скоростях замораживания и охлаждения биологических объектов в цилиндрических контейнерах при их погружении в жидкий азот |
| title_full |
О высоких скоростях замораживания и охлаждения биологических объектов в цилиндрических контейнерах при их погружении в жидкий азот |
| title_fullStr |
О высоких скоростях замораживания и охлаждения биологических объектов в цилиндрических контейнерах при их погружении в жидкий азот |
| title_full_unstemmed |
О высоких скоростях замораживания и охлаждения биологических объектов в цилиндрических контейнерах при их погружении в жидкий азот |
| title_sort |
о высоких скоростях замораживания и охлаждения биологических объектов в цилиндрических контейнерах при их погружении в жидкий азот |
| publisher |
Інститут проблем кріобіології і кріомедицини НАН України |
| publishDate |
2005 |
| topic_facet |
Теоретическая и экспериментальная криобиология |
| url |
https://nasplib.isofts.kiev.ua/handle/123456789/137054 |
| citation_txt |
О высоких скоростях замораживания и охлаждения биологических объектов в цилиндрических контейнерах при их погружении в жидкий азот / В. И. Бабенко, В. И. Грищенко, А. В. Дунаевская // Проблемы криобиологии. — 2005. — Т. 15, № 2. — С. 129-136. — Бібліогр.: 10 назв. — рос. |
| series |
Проблемы криобиологии и криомедицины |
| work_keys_str_mv |
AT babenkovi ovysokihskorostâhzamoraživaniâiohlaždeniâbiologičeskihobʺektovvcilindričeskihkontejnerahpriihpogruženiivžidkijazot AT griŝenkovi ovysokihskorostâhzamoraživaniâiohlaždeniâbiologičeskihobʺektovvcilindričeskihkontejnerahpriihpogruženiivžidkijazot AT dunaevskaâav ovysokihskorostâhzamoraživaniâiohlaždeniâbiologičeskihobʺektovvcilindričeskihkontejnerahpriihpogruženiivžidkijazot AT babenkovi abouthighratesofbiologicalobjectsfreezingandcoolingincylindricalcontainerswhenimmersingthemintoliquidnitrogen AT griŝenkovi abouthighratesofbiologicalobjectsfreezingandcoolingincylindricalcontainerswhenimmersingthemintoliquidnitrogen AT dunaevskaâav abouthighratesofbiologicalobjectsfreezingandcoolingincylindricalcontainerswhenimmersingthemintoliquidnitrogen |
| first_indexed |
2025-11-29T13:20:29Z |
| last_indexed |
2025-11-29T13:20:29Z |
| _version_ |
1850131022078803968 |
| fulltext |
129
УДК 536.2:519.6
О высоких скоростях замораживания и охлаждения
биологических объектов в цилиндрических контейнерах
при их погружении в жидкий азот
В.И. БАБЕНКО1, В.И. ГРИЩЕНКО2, А.В. ДУНАЕВСКАЯ2
1Физико-технический институт низких температур им. Б.И. Веркина НАН Украины, г. Харьков
2Институт проблем криобиологии и криомедицины НАН Украины, г. Харьков
About High Rates of Biological Objects’ Freezing and Cooling
in Cylindrical Containers When Immersing Them Into Liquid Nitrogen
V.I. BABENKO1, V.I. GRISCHENKO2, A.V. DUNAYEVSKAYA2
1B.I. Verkin Physical and Technical Institute for Low Temperatures
of the National Academy of Sciences of Ukraine, Kharkov
2Institute for Problems of Cryobiology and Cryomedicine of the National Academy
of Sciences of the Ukraine, Kharkov
Экспериментально и теоретически исследовалась теплопередача в многокомпонентных криозащитных средах при высоких
скоростях охлаждения в цилиндрических контейнерах. В качестве модели среды использован 1 М раствор глицерина на
фосфатном буфере.
Ключевые слова: высокие скорости замораживания, цилиндрический контейнер, криозащитная среда, раствор глицерина
на фосфатном буфере.
Експериментально і теоретично досліджувалась теплопередача в багатокомпонентних кріозахисних середовищах при високих
швидкостях охолодження в циліндричних контейнерах. Як модель середовища використано 1 М розчин гліцерину на фосфатному
буфері.
Ключові слова: високі швидкості заморожування, циліндричний контейнер, кріозахисне середовище, розчин гліцерину на
фосфатному буфері.
The heat transfer in multicomponent cryoprotective media under high cooling rates in cylindrical containers was experimentally
and theoretically studied. As the medium model 1M phosphate buffer glycerol solution was used.
Key-words: high rates of freezing, cylindrical container, cryoprotective medium, phosphate buffer glycerol solution.
UDC 536.2:519.6
Address for correspondence: Dunayevskaya A.V., Institute for Prob-
lems of Cryobiology&Cryomedicine of the Natl. Acad. Sci. of Ukraine,
23, Pereyaslavskaya str.,Kharkov, Ukraine 61015; tel.:+380 57 373
3119, fax: +380 57 772 0084, e-mail: cryo@online.kharkov.ua
Наряду с нашедшим широкое применение
криоконсервированием биологических объектов с
программным замораживанием при низких
скоростях охлаждения, в ряде случаев исполь-
зуется высокоскоростное охлаждение их прямым
погружением в жидкий азот либо в другие
хладоносители. Криоконсервирование с высокими
скоростями охлаждения позволяет получить
высокую сохранность некоторых видов клеток,
занимает меньше времени и при этом не требуется
использовать дорогостоящие замораживатели. В
работах [1, 3] было исследовано влияние высоких
скоростей охлаждения на выживаемость спермиев
после отогрева. Замораживание проводили
прямым погружением контейнеров с образцами в
жидкий азот. Криозащитная среда представляла
собой сложную многокомпонентную систему,
содержащую глицерин, глюкозу, цитрат натрия,
желток и воду. При изучении процессов тепло-
обмена в этих средах поставлен специальный
эксперимент [2], в котором моделью для крио-
Along with a widely applied cryopreservation of
biological objects with a programmable freezing under
low cooling rates there is sometimes used their high-
rate cooling by a direct immersion into liquid nitrogen
or into other coolants. Cryopreservation with high
cooling rates enables obtaining a high preservation rate
for certain cell types, takes less time and does not
require the usage of expensive freezers. In the papers
[1, 3] there was studied the effect of high cooling rates
on spermatozoa survival after thawing. Freezing was
performed using a direct immersion of containers with
samples into liquid nitrogen. Cryoprotective medium
represents a complicated polycomponent system,
containing glycerol, glucose, sodium nitrate, yolk and
water. When studying the heat exchange processes in
these media there was performed a special experiment
[2] where ethyl alcohol was taken as the model.
Thermophysical calculation and the analysis of heat
exchange in the liquid nitrogen-container-alcohol
system were carried-out. There was obtained a good
coincidence of experimental and calculation data on
Адрес для корреспонденции: Дунаевская А.В., Институт проблем
криобиологии и криомедицины НАН Украины, ул. Переяславская,
23, г. Харьков, Украина 61015; тел.:+38 (057) 373-31-19, факс: +38
(057) 373-30-84, e-mail: cryo@online.kharkov.ua
ПРОБЛЕМЫ
КРИОБИОЛОГИИ
Т. 15, 2005, №2
PROBLEMS
OF CRYOBIOLOGY
Vol. 15, 2005, №2
130
защитных сред взят этиловый спирт. Проведен
теплофизический расчет и дан анализ теплообмена
в системе жидкий азот-контейнер-спирт. Получено
хорошее совпадение экспериментальных и
расчетных данных о скоростях охлаждения спирта,
что в частности, подтверждает корректность
выбора исходной математической модели при
описании теплообмена в системе азот-контейнер-
спирт [2]. В этой модели пренебрегалось конвек-
тивным теплообменом, влиянием торцов контей-
нера и нестационарностью теплообмена на границе
контейнера с азотом.
Продолжая исследования теплопередачи в
криозащитных средах [2], в данной работе мы
рассматриваем в качестве модели криозащитной
среды 1 М раствор глицерина на фосфатном
буфере. В экспериментах в процессе замора-
живания и охлаждения этой среды измерялась ее
температура. В расчетах получены зависимости
локальных скоростей охлаждения в различных
точках среды и средних скоростей охлаждения
среды от времени, температуры, а также описана
динамика смещения переднего фронта замора-
живания среды и вычислено время замораживания
основной ее массы.
Материалы и методы
Методика проведения экспериментов была та
же, что и в [2]. Использовали один из 3-х
контейнеров [1, 3] – катетер, представляющий
собой полый толстостенный цилиндр с внешним
радиусом rc=0,25 см и внутренним rm= 0,56 и длиной
7,26 см. Контейнер изготовлен из полиэтилена
высокого давления низкой плотности. Контейнер,
заполненный средой при комнатной температуре
Т0=290 К, погружали в сосуд с жидким азотом,
сохраняя его горизонтальное положение. Темпе-
ратуру среды Tt в окрестности оси симметрии
контейнера измеряли медь-константановой
термопарой с рабочим спаем диаметром 0,03 см.
В расчетах для описания теплопередачи в
системе азот-контейнер-среда принимаем ту же
математическую модель, что и в [2]. Наличие
фазового перехода (жидкость-твердое тело) в
рассматриваемой модели среды учитываем
методом энтальпии [4]. За исходное берем
следующее нестационарное уравнение тепло-
проводности в цилиндрических координатах:
;
r
Tr
rr
1T*c
∂
∂λ
∂
∂=
τ∂
∂
τ>0; 0<r<rc (1)
при начальном условии
T(r,0)=T0 (2)
cooling rates for alcohol, that, in particular, confirmed
the selection correctness of the initial mathematical
model when describing the heat exchange in nitrogen-
container-alcohol system [2]. In this model we
neglected a convective heat exchange, effect of
container end faces and heat exchange nonstationarity
on the boundary of container with nitrogen.
When being in progress with investigations of heat
transfer in cryoprotective media [2] in this work we
consider 1 M phosphate buffer glycerol solution as the
model of cryoprotective medium. In the experiments
during this medium freezing and cooling we measured
its temperature. Dependencies of local cooling rates
in different points of medium and average cooling rates
of medium on temperature time were obtained in
calculations, as well as the dynamics of anterior front
shift of medium freezing was described with calculating
the time of freezing for its principal mass.
Materials and methods
The methods for experiment performance were the
same as in the paper [2]. We used one of three
containers [1, 3], that was a catheter, representing a
hollow thick-walled cylinder with an external radius
rc=0.25 cm and internal one of rm=0.56 and 7.26 cm
length. Container was manufactured from high-
pressure polyethylene. The medium-filled container at
room temperature T0=290 K was immersed into a
vessel with liquid nitrogen with keeping its horizontal
position. Medium temperature Tt near the symmetry
axis of container was measured with a copper-
constantan thermocouple with a hot junction of 0.3 cm
diameter.
The same mathematical model as in the paper [2]
was assumed in calculations for heat transfer
description in nitrogen-container-medium system. The
presence of phase transfer (liquid-solid body) in the
considered model of medium was registered using the
enthalpy method [4]. The following non-stationary
equation for heat conduction in cylindrical coordinates
was taken as the initial one:
;
r
Tr
rr
1T*c
∂
∂λ
∂
∂=
τ∂
∂
τ>0; 0<r<rc (1)
at an initial condition
T(r,0)=T0 (2)
and at the boundary conditions
0
T
),0(T =
∂
τ∂
; ∞<τ),0(T ; (3)
Nc T),r(T =τ ; (4)
ПРОБЛЕМЫ
КРИОБИОЛОГИИ
Т. 15, 2005, №2
PROBLEMS
OF CRYOBIOLOGY
Vol. 15, 2005, №2
131
и при краевых условиях
0
T
),0(T =
∂
τ∂
; ∞<τ),0(T ; (3)
Nc T),r(T =τ ; (4)
условная удельная теплоемкость
T
)L(c*c p ∂
ρ∂+ρ= ; (5)
где T(r, τ) – температура; τ – время; r – радиальное
расстояние до оси симметрии контейнера; r≤rm –
объем, занимаемый средой; rm ≤r≤ rс – стенка
цилиндрического контейнера, который в расчете
считается бесконечно длинным; ρ(Т) – плотность;
ср(Т) – удельная теплоемкость; λ(Т) – коэффициент
теплопроводности; ТN – температура жидкого
азота.
Как и в работе [10], для удельной скрытой теплоты
плавления L(Т) рассматриваемой модели среды
принимаем следующее выражение, предложенное в
[8] для бинарной системы вода – хлорид натрия:
−
−=
T15,273
530,01LL 0 (6)
c полной величиной удельной скрытой теплоты
плавления L0=150 Дж/кг 1 М раствора глицерина
на фосфатном буфере [10]. Согласно [2] фазовый
переход (т.е. замораживание) при охлаждении
рассматриваемой модели среды начинается с
температуры Т=Тph=272,62 К, когда L=0. Назовем
ее температурой фазового перехода (замора-
живания), а поверхность r=rph, в точках которой
температура среды опустилась до Т=Тph, – поверх-
ностью раздела фаз (или передним фронтом
замораживания). В области r<rph среда остается
еще в жидкой фазе с температурой Т>Тph, в то
время как в любом единичном объеме в окрест-
ности точек области r>rph температура среды
Т<Тph, поэтому согласно (6) часть единичного
объема среды, равная L/L0, находится уже в твер-
дой фазе, а остальная его часть остается жидкой.
Отметим, что удельная скрытая теплота
плавления L в общем случае зависит от темпе-
ратуры среды и скорости ее охлаждения. Однако,
как показано в [10], зависимость L от скорости
охлаждения оказывает незначительное влияние на
изменение во времени температуры среды.
Поэтому в данной работе мы пренебрегаем влия-
нием скорости охлаждения среды на ее удельную
скрытую теплоту плавления (6).
when the relative heat capacity equals
T
)L(c*c p ∂
ρ∂+ρ= ; (5)
where T(r, τ) is temperature; τ – time; r – radial
distance to the container’s symmetry axis; r≤rm –
volume, taken by medium; rm≤r≤rc– a wall of cylindric
container, which considered as an infinitely long in
calculation; p(T) – density; cp (T) – specific heat
capacity; ρ(T) – heat conduction coefficient; TN - liquid
nitrogen temperature.
As in the paper [10], for specific latent melting heat
L(T) of the considered model of medium we accept
the following expression, proposed in the paper [8] for
water-sodium chloride binary system:
−
−=
T15.273
530.01LL 0 (6)
with a complete value of specific latent melting heat
L0=150 J/kg of 1M phosphate buffer glycerol solution
[10]. According to the [2] a phase transfer (i.e.
freezing) at cooling of the considered model of medium
starts from the temperature T=Tph=272.62 K, when
L=0. Let’s define it as the temperature of phase
transfer (freezing) and the surface r=rph, in which points
the medium temperature decreased down to T-Tph will
be the phase boundary (or front edge of freezing). In
the range r<rph the medium is still in a liquid phase
with T>Tph temperature, whereas in any single volume
near points of r>rph area the medium temperature is
T<Tph, therefore according to the (6) a part of the
medium single volume, equal to L/L0 is even in a solid
phase but its rest is liquid.
Of note is that a specific latent melting heat L in
general case depends on the medium temperature and
its cooling rate. However, as it is shown in the paper
[10] the dependency L on cooling rate causes a slight
effect on a change in time of medium temperature.
Therefore in this work we neglect the effect of cooling
rate of medium on its specific latent melting heat (6).
Thermophysical characteristics of nitrogen-
container-medium system are shown in the Table. For
the medium and container they were taken from the
papers [10] and [5-7], correspondingly. The Table data
for container were approximated by polynomials.
The equation for heat conduction (1) was quasi-
linear with ruptured coefficients with breaks on the
phase boundary r=rph and on an internal surface of
container r=rm.
Boundary problem (1)–(4) was solved using the
finite-difference method by a proper implicit scheme,
a non-linear differential boundary problem, to which
the boundary problem is reduced and the iterative
method for its solving are described in the paper [2].
ПРОБЛЕМЫ
КРИОБИОЛОГИИ
Т. 15, 2005, №2
PROBLEMS
OF CRYOBIOLOGY
Vol. 15, 2005, №2
132
Теплофизические характеристики системы
азот-контейнер-среда приведены в таблице. Для
среды они заимствованы из [10], а для контей-
нера – из [5-7]. Табличные данные для контейнера
аппроксимировали многочленами.
Уравнение теплопроводности (1) – квази-
линейное с разрывными коэффициентами с
разрывами на поверхности раздела фаз r=rph и на
внутренней поверхности контейнера r=rm.
Краевая задача (1)-(4) решалась конечно-
разностным методом по чисто неявной схеме,
нелинейная разностная краевая задача, к которой
сводится краевая задача, и итерационный метод
ее решения описаны в [2]. Отметим, что на каждом
шаге итерации положение поверхности раздела фаз
r=rph определяем по полю температур T(r,τ),
вычисленному на предыдущем шаге по времени.
По координате r была принята кусочно-равно-
мерная сетка с шагом, равным 0,02 и 0,002 rс. Шаг
временной сетки равнялся 0,02 и 0,01 с. На каждом
шаге итерации линеаризованная разностная
краевая задача решалась методом прогонки.
Результаты расчета приведены на рис. 1-6.
Рис. 1 иллюстрирует изменение во времени
температуры в системе азот-контейнер-среда: на
стенках контейнера, в среде вдоль оси симметрии
контейнера и на границе центральной части объема
среды, внутри которой (согласно расчетам работы
[2]) средние скорости охлаждения изменяются
незначительно. В какой мере это явление имеет
место и в рассматриваемом случае представление
можно получить также при анализе кривых рис. 2
и 5, на которых показано соответственно распре-
деление температуры и локальных скоростей охлаж-
дения в радиальном направлении в системе кон-
тейнер-среда при различных значениях времени τ.
Результаты и обсуждение
Проведенные нами расчеты показали, что при
погружении в жидкий азот контейнера со средой
происходит охлаждение среды, а начиная с 0,92-й
секунды – ее замораживание в пристенном слое
среды (r=rм), где температура среды снижается к
этому моменту до температуры фазового перехода
(замораживания) Т=Tph. Далее поверхность
раздела фаз r=rph (т.е. поверхность, на которой
температура среды снизилась до температуры
фазового перехода Т=Tph) смещается к оси
симметрии контейнера, достигая ее при 8,92 с
(рис. 4). Кривая зависимости rph(τ ) сходна с
соответствующими кривыми, полученными в [10]
при анализе задач криохирургии.
Процесс замораживания основной части каж-
дого элементарного объема среды (т.е. заморажи-
вания 95% его массы при снижении температуры
от –0,53 до –10,6°С) происходит в течение 0,83 с у
It should be noted that to the each iteration step the
position of phase boundary r=rph is determined by the
temperature field T (r, τ), calculated at a previous step
by the time. According to co-ordinate r there was
accepted a sectionally uniform mesh with the step,
equal to 0.02 and 0.002 rc. The step of time mesh was
equal to 0.02 and 0.01 sec. At each iteration step a
linearised differential boundary problem was solved
using the double-sweep method. The calculation results
are presented in the Fig. 1, b.
The Fig.1 demonstrates the temperature change in
nitrogen-container-medium system in time: on container
walls in the medium along the container’s symmetry
axis and at the boundary of central part of medium
volume, inside of which (according to calculations of
аметсиС
metsyS
еинавонемиаН
иничилев
хиыциниде
яинеремзи
dnaseulaV
fostinu
tnemerusaem
яинечанзеыннелсиЧ
ничилев
seulavlaсiremuN
аметсиС
metsyS T0 K, 091
тозайикдиЖ
negortiNdiuqiL TN K, 2,77
М1ровтсаР
ананирецилг
монтафсоф
htiwSBPерефуб
lorecylgM1
L
0
г/жД,
g/J 051
адерС
muideM T hp K, 26,272
адерсяакдиЖ
muidemdiuqiL
ρ мс/г, 3
mc/g 3
999,0
с
p
K·г/жД,
K·g/J
2,4
,λ K·мс/тВ
K·mc/W
25500,0
яаннежоромаЗ
адерс
muidemnezorF
,ρ мс/г 3
mc/g 3
129,0
с
p
K·г/жД,
K·g/J Т61700,0+831,0
λ K·мс/тВ,
K·mc/W
01·579,5+4220,0 5- )Т-372( 651,1
ренйетноK
reniatnoC
,ρ мс/г 3
mc/g 3
-1[239,0 α ])372-Т(4-01·
с
p
K·г/жД,
K·g/J
)372-Т(+1[177,1 i]
λ K·мс/тВ,
K·mc/W
)372-Т(+1[42300,0 i]
Теплофизические характеристики материалов, исполь-
зуемых в модели системы азот-контейнер-среда
Thermophysical characteristics of materials used in the
model of nitrogen-container-medium system
Примечания: с1=7,0677·10-3; с2=4,4580·10-5; с3=1,8357·10-7;
с4=2,438·10-10; α=5,1 (Т≥273); λ1=-1,9813·10-3; λ2=3,401·10-6;
λ3=1,3043·10-7; λ4=2,560·10-10; α=4,7 (Т<273).
Notes: с1=7.0677·10-3; с2=4.4580·10-5; с3=1.8357·10-7;
с4=2.438·10-10; α=5.1 (Т≥273); λ1=-1.9813·10-3; λ2=3.401·10-6;
λ3=1.3043·10-7; λ4=2.560·10-10; α=4.7 (Т<273).
ПРОБЛЕМЫ
КРИОБИОЛОГИИ
Т. 15, 2005, №2
PROBLEMS
OF CRYOBIOLOGY
Vol. 15, 2005, №2
133
пристенной области и 0,33 с – в центральной части
контейнера. Итак, процесс замораживания среды
распространяется по ее объему в течение ~ 8 с, а
замораживание основной массы каждого элемен-
тарного объема среды происходит со средней
скоростью 730-1830 град/мин, причем скорость
замораживания тем выше, чем ближе к оси
симметрии контейнера расположен рассмат-
риваемый элементарный объем среды.
После завершения процесса замораживания
основной массы среды средняя скорость ее
охлаждения резко возрастает в центральной части
контейнера, достигая 3600 град/мин на 9-10-й
секунде, и начиная с 10-й секунды, охлаждение всех
элементарных объемов среды идет почти син-
хронно со средней скоростью ~2200 град/мин,
которая с ~13-й секунды начинает монотонно
убывать. Таким образом, до начала процесса
замораживания локальная скорость охлаждения
среды тем выше, чем ближе к внутренней
поверхности контейнера расположен рассмат-
риваемый элементарный объем среды. Это
явление мы наблюдали в большом диапазоне
температур при охлаждении спирта [2], что имеет
место и в гипотетической модели среды, опреде-
ляемой формулой (6) и таблицей, в которой
изменено лишь значение температуры фазового
перехода Tph с 272,62 К на 100 К (полученные нами
результаты вычислений приведены на рис. 6). С
началом процесса замораживания происходит
the paper [2]) the average cooling rates change
insignificantly. In which extent this phenomenon occurs
even in the considered case we can judge when
analysing the Fig. 2 and 5 curves as well, where there
is shown the distribution of temperature and local
cooling rates, respectively, in a radial direction in
contained-medium system under different values of
time τ.
Results and discussion
The performed calculations demonstrated that when
immersing container with medium into liquid nitrogen
the medium cooling occurred and starting from 0.92
sec there was its freezing in a wall layer of medium
(r=rm), where the medium temperature reduced to that
moment down to the phase transfer temperature
(freezing) T=Tph. Then the phase boundary r=rph (i.e.
the surface where the medium temperature decreased
down to the phase transfer temperature T=Tph) is
shifted to the container’s symmetry axis by reaching it
at 8.92 sec. Dependency curve rph(τ) is similar to the
corresponding curves, obtained in the paper [10] when
analysing the cryosurgery problems.
Freezing process of the main part of each
elementary volume of medium (i.e. freezing of 95%
of its mass under temperature decrease from –0.53
down to –10.6°C) occurs within 0.83 sec in a wall
area and for 0.33 sec in a central part of container.
Thus, the process of medium freezing spreads on its
volume within ~8 sec and the freezing of a principal
50
100
150
200
250
300
0 2 4 6 8 10 12 14 16 18 20
Рис. 1. Изменение во времени температуры системы
азот-контейнер-среда: 1 – температура на внешней
поверхности контейнера; 2 – на внутренней поверхности;
3 – в окрестности оси симметрии контейнера; 4 – на
границе центральной части объема среды (r ≤0,44rc).
Fig. 1. Temperature change in time of in nitrogen-container-
medium system: 1 – temperature on external surface of
container; 2 – temperature on internal surface; 3 –
temperature near symmetry axis of container; 4 – temperature
on boundary of central part of medium volume (r≤0.44 rc).
Время, с Time, sec
Те
м
пе
ра
ту
ра
, К
T
em
pe
ra
tu
re
, K
50
100
150
200
250
300
0 0,1 0,2 0,3 0,4 0,5 0,6 0,7 0,8 0,9 1
Относительное расстояние от центра r/rcRelative distance from the centre r/rc
Те
м
пе
ра
ту
ра
, К
T
em
pe
ra
tu
re
, K
Рис. 2. Изменение температуры в радиальном направ-
лении в системе контейнер-среда при τ = 1,5,7,10 и 11 с
(указано на рисунке в прямоугольниках).
Fig. 2. Temperature change in a radial direction in container-
medium system at τ = 1, 5, 7, 10 and 11 sec (shown on plot in
squares).
1
2
3
4
1 5
710
11
ПРОБЛЕМЫ
КРИОБИОЛОГИИ
Т. 15, 2005, №2
PROBLEMS
OF CRYOBIOLOGY
Vol. 15, 2005, №2
134
50
100
150
200
250
300
0 2 4 6 8 10 12 14 16 18 20
Рис. 3. Изменение во времени температуры, средней по
части объема среды (r≤0,12 rc) в окрестности оси
симметрии контейнера: – расчетная температура,
средняя по части объема среды (r ≤0,12rc), в которой
находился спай термопары; – температура Tt (раствор
1М глицерина на фосфатном буфере), измеренная
термопарой; – температура криозащитной среды [1,
3], содержащей воду, глицерин, глюкозу, цитрат натрия,
яичный желток, измеренная термопарой.
Fig. 3. Change in time of temperature, being average by a
part of medium volume (r≤0.12 rc,) near container’s symmetry
axis: – specified temperature, average by a part of medium
volume (r≤0.12 rc,), where thermocouple junction was
placed; – temperature Tt (1 M phosphate buffer glycerol
solution), measured with a thermocouple; – temperature
of cryoprotective medium, containing water, glycerol,
glucose, sodium citrate and egg yolk [1, 3], measured with a
thermocouple.
Время, с Time, sec
Те
м
пе
ра
ту
ра
, К
T
em
pe
ra
tu
re
, K
0
0,1
0,2
0,3
0,4
0,5
0,6
0,7
0 1 2 3 4 5 6 7 8 8,9
Рис. 4. Смещение поверхности раздела (фаз) r=rph при
Т=Тph.
Fig. 4. Shift of interface (of phases) r=rph atT=Tph.
0
500
1000
1500
2000
2500
3000
0 0,1 0,2 0,3 0,4 0,5 0,6
Рис. 5. Изменение локальных скоростей охлаждения
среды в радиальном направлении при τ = 1,7,10,11 с
(указано на рисунке в прямоугольниках).
Fig. 5. Change in local cooling rates of medium in a radial
direction at τ = 1, 7, 10 and 11 sec (shown on plot in squares).
Время, с Time, sec
С
ко
ро
ст
ь
ох
ла
ж
де
ни
я,
г
ра
д/
м
ин
T
em
pe
ra
tu
re
, K
mass of each elementary medium volume occurs with
an average rate of 730-1830 grad/min, at that the
freezing rate the higher is, the closer the considered
elementary medium volume to symmetry axis is.
After completing the freezing for the principal mass
of medium an average rate of its cooling is sharply
increased in a central part of container by reaching
3600 grad/min to the 9-10 sec and starting from 10
sec the cooling of all elementary medium volumes
proceeds almost synchronously with an average rate
~2200 grad/min, which starts monotonely decrease
from ~13 sec. Thus, prior to freezing begins, a local
cooling rate of medium is the higher the closer to
internal container surface is the considered elementary
volume of medium. We observed this phenomenon in
a wide temperature range under alcohol cooling [2],
that occurs in hypothetical model of the medium,
determined by the formula (6) and Table, where only
the value of phase transfer temperature Tph changed
from 272.62 K to 100 K (the results of calculations
we obtained were presented in the Fig. 6). With
beginning of freezing process the release of latent
melting heat occurs and as a result the distribution of
medium cooling rates on its volume changes. In such
a case the presence of a break on time-temperature
curves in the points, close to container’s symmetry
axis is typical. The same situation occurs during
freezing with slow cooling rates. To compare the Fig. 7
shows the taken from the paper [9] results of a change
in medium temperature with time when cooling the
container’s external surface with a comparatively slow
rate (20 grad/min). It should be noted as well, that in
contrast to the medium freezing with high cooling rates,
after completing the process of medium freezing using
slow cooling rates no approach of temperature-time
1
7
10
11
С
м
ещ
ен
ие
п
ов
ер
хн
ос
ти
р
аз
де
ла
ф
аз
, r
ph
/r c
Sh
ift
o
f p
ha
se
in
te
rfa
ce
, r
ph
/r c
Относительное расстояние от центра r/rcRelative distance from the centre r/rc
ПРОБЛЕМЫ
КРИОБИОЛОГИИ
Т. 15, 2005, №2
PROBLEMS
OF CRYOBIOLOGY
Vol. 15, 2005, №2
135
-90
-75
-60
-45
-30
-15
0
15
0 500 1000 1500 2000 2500 3000 3500
Рис. 7. Расчетные зависимости температура-время,
полученные в [8] при малых скоростях охлаждения
(20 град/мин): 1 – температура на внешней поверхности
контейнера; 2 – на внутренней поверхности; 3 – в
окрестности оси симметрии контейнера.
Fig. 7. Computational temperature-time dependencies,
obtained in [8] at low cooling rates (20 grad/min): 1 –
temperature on external surface of container; 2 – temperature
on internal surface of container; 3 – temperature near
symmetry axis of container.
50
100
150
200
250
300
0 2 4 6 8 10 12 14 16 18 20
Рис. 6. Расчетные зависимости температура-время для
гипотетической среды с Tph=100: 1 – температура на
внешней поверхности контейнера; 2 – на внутренней
поверхности; 3 – в окрестности оси симметрии
контейнера.
Fig. 6. Calculated temperature-time dependencies for
hypothetical medium with Tph=100: 1 – temperature on
external surface of container; 2 – temperature on internal
surface of container; 3 – temperature near symmetry axis of
container.
Время, с Time, sec
Те
м
пе
ра
ту
ра
, К
T
em
pe
ra
tu
re
, K
Время, с Time, sec
Те
м
пе
ра
ту
ра
, К
T
em
pe
ra
tu
re
, K
dependency curves, built for different points of medium
volume is observed (see the curve behaviour in the
Fig. 1 and 7).
The Fig. 3 shows the comparison of specified
temperature, being average by a part of medium volume
rd”0.12 rc, where the hot junction of thermocouple was
placed in the experiment, with medium temperature,
measured in the experiment with thermocouple near
the container’s symmetry axis. It occurred to be that
the specified and experimental results were well close
everywhere, except certain neighbourhood of bend point
on specified curve 1. The Fig. 3 demonstrates the
experimental results, obtained by us when freezing one
of cryoprotective media, used in the papers [1, 3].
When comparing the curve 3 with a specified curve 1
of Fig. 3 we conclude, that the considered binary
model of medium repeats satisfactorily a qualitative
picture of temperature change with time in poly-
component cryoprotective medium in a central part of
container.
Conclusions
Thus, the used model (see (6) and Table) of binary
medium (1M phosphate buffer glycerol solution)
describes quite well the change with time of medium
temperature in a central part of container during its
immersion into liquid nitrogen. This model can be used
when qualitatively analysing a change with time in the
temperature of complicated polycomponent cryo-
protective medium under high rates of its cooling.
выделение скрытой теплоты плавления и, как
следствие, распределение скоростей охлаждения
среды по ее объему изменяется. Характерным при
этом является наличие излома на кривых темпе-
ратура-время в точках, близких к оси симметрии
контейнера. Такая же ситуация имеет место и при
замораживании с малыми скоростями охлаждения.
Для сравнения на рис. 7 приведены заимствованные
из [9] результаты изменения температуры среды
со временем при охлаждении внешней поверхности
контейнера со сравнительно малой скоростью (20
град/мин). Заметим также, что в отличие от
замораживания среды с высокими скоростями
охлаждения при малых скоростях охлаждения
после завершения процесса замораживания среды
не наблюдается сближение кривых зависимости
температура-время, построенных для различных
точек объема среды (см. поведение кривых на
рис.1 и 7).
На рис. 3 дается сравнение расчетной темпе-
ратуры, средней по части объема среды r≤0,12 rс,
где находился в экспериментах рабочий спай
термопары, с температурой среды, измеренной в
эксперименте термопарой в окрестности оси
симметрии контейнера. Оказалось, что расчетные
и экспериментальные результаты достаточно
близки всюду, кроме некоторой окрестности точки
изгиба на расчетной кривой 1. На рис. 3 также
приведены экспериментальные результаты,
полученные нами в этом исследовании при
1
2
3
1
2
3
ПРОБЛЕМЫ
КРИОБИОЛОГИИ
Т. 15, 2005, №2
PROBLEMS
OF CRYOBIOLOGY
Vol. 15, 2005, №2
136
замораживании одной из криозащитных сред,
которые были использованы в работах [1, 3].
Сравнивая кривую 3 с расчетной кривой 1 рис. 3,
заключаем, что рассматриваемая здесь бинарная
модель среды удовлетворительно воспроизводит
качественную картину изменения со временем
температуры в многокомпонентной криозащитной
среде в центральной части контейнера.
Выводы
Таким образом, используемая модель (см. (6)
и таблицу) бинарной среды (1 М раствор глицерина
на фосфатном буфере) достаточно хорошо
описывает изменение со временем температуры
среды в центральной части контейнера при его
погружении в жидкий азот. Эту же модель можно
использовать при качественном анализе изменения
со временем температуры сложной много-
компонентной криозащитной среды при высоких
скоростях ее охлаждения.
References
Grischenko V.I., Dunayevskaya A.V., Kalugin Yu.V. Action of
rapid and suprarapid rates of freezing on survival of human
spermatozoa // Problems of Cryobiology.– 2000.– N2.– P. 52-57.
Grischenko V.I., Dunayevskaya A.V., Babenko V.I. To the
determination of cooling rate of biological objects in cylindrical
containers // Problems of Cryobiology.– 2002.– N1.– P. 7-13.
Dunayevskaya A.V., Kramar M.I. Change in the state of nuclear
chromatin of human spermatozoa during cryopreservation //
Meditsina segodnya i zavtra.– 2000.– N3.– P. 13-15.
Samarsky A.A., Moiseyenko B.D. Economical scheme of
through calculation for Stephen’s problem // Zhurnal
vychislitel’noj matematiki i matematicheskoj fiziki.– 1965.–
Vol. 5, N5.– P. 816-827.
Sochava I.V., Trapezdnikova O.N. Heat capacity of chain
structures under low temperatures // Doklady Akademii Nauk
SSSR.– 1957.– Vol. 113, N14.– P. 784-786.
Reference book on physical chemistry of polymers. Vol. 2.–
Kiev: Naukova dumka, 1984.– 330 p.
Shifrina V.S., Samosatsky N.N. Polyethylene.– Moscow:
Khimiya, 1961.– 320p.
Hayes L.J., Diller K.R., Chang H.J. A robust numerical method
for latent heat release during phase change // ASME-HTD.–
1986.– Vol. 62.– P. 63-69.
Hayes L.J., Diller K.R., Chang H.J. and Lee H.S. Prediction
of local cooling rates and cell survival during the freezing of
a cylindrical specimen // Cryobiology.– 1988.– Vol. 25.– P. 67-82.
Smith D.J., Devireddy R.V., Bishof J.C. Prediction of thermal
history and interface propagation during freezing in biological
systems – latent heat and temperature-dependent property
effects // Proceedings of the 5th ASME/JSME Joint Thermal
Engineering Conference.– San Diego, California: AJTE 99,
1999.– P. 6520.
Accepted in 28.09.2004.
Литература
Грищенко В.И., Дунаевская А.В., Калугин Ю.В. Влияние
быстрых и сверхбыстрых скоростей замораживания на
сохранность спермиев человека // Пробл. криобиологии.–
2000.– №2.– С. 52-57.
Грищенко В.И., Дунаевская А.В., Бабенко В.И. К опреде-
лению скорости охлаждения биологических объектов в
цилиндрических контейнерах // Пробл. криобиологии.–
2002.– №1.– С. 7-13.
Дунаевская А.В., Крамар М.И. Изменение состояния
нуклеарного хроматина спермиев человека в процессе
криоконсервации // Медицина сегодня и завтра.– 2000.–
№3.– С. 13-15.
Самарский А.А., Моисеенко Б.Д. Экономная схема
сквозного счета для многомерной задачи Стефана //
Журн. вычисл. мат. и мат. физики.– 1965.– Т. 5, №5.–
С. 816-827.
Сочава И.В., Трапездникова О.Н. Теплоемкость цепных
структур при низких температурах // ДАН СССР.– 1957.–
Т. 113, №14.– С. 784-786.
Справочник по физической химии полимеров. Т. 2. – Киев:
Наук. думка, 1984.– 330 с.
Шифрина В.С., Самосатский Н.Н. Полиэтилен. – М.:
Химия, 1961.– 320 с.
Hayes L.J., Diller K.R., Chang H.J. A robust numerical method
for latent heat release during phase change // ASME-HTD.–
1986.– Vol. 62.– P. 63-69.
Hayes L.J., Diller K.R., Chang H.J. and Lee H.S. Prediction
of local cooling rates and cell survival during the freezing of
a cylindrical specimen // Cryobiology.– 1988.– Vol. 25.– P. 67-82.
Smith D.J., Devireddy R.V., Bishof J.C. Prediction of thermal
history and interface propagation during freezing in biological
systems – latent heat and temperature-dependent property
effects // Proceedings of the 5th ASME/JSME Joint Thermal
Engineering Conference.– San Diego, California: AJTE 99,
1999.– P. 6520.
Поступила 28.09.2004
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
ПРОБЛЕМЫ
КРИОБИОЛОГИИ
Т. 15, 2005, №2
PROBLEMS
OF CRYOBIOLOGY
Vol. 15, 2005, №2
|