"ЖУРНАЛ РАДИОЭЛЕКТРОНИКИ" N 9, 2002 |
Технология отрытых систем и вычислительный эксперимент в радиоэлектронике.
Гуляев Ю.В., Корниенко В.Н., Олейников А.Я., Черепенин В.А.
Институт радиотехники и электроники РАН.
Получена 5 сентября 2002 г.
Рассмотрено применение технологии открытых систем в вычислительном эксперименте в области радиоэлектроники. Модель вычислительного эксперимента дополнена моделью среды открытых систем. На примере решения задач вакуумной электроники излагаются особенности такого объединения. Предложена новая информационная технология, позволяющая, используя Web-интерфейс, получить доступ к высокопроизводительным, в том числе и распределенным вычислительным ресурсам. Технология применена к моделированию физических процессов в сверхмощных релятивистских генераторах со сверхразмерными электродинамическими структурами. Были использованы 32-х процессорный кластер ИРЭ РАН и суперкомпьютер МВС-1000М Межведомственного Вычислительного Центра.
Краткое изложение понятий ТОС применительно к вычислительному эксперименту
Особенности вычислительного эксперимента в области радиоэлектроники
Конечно-разностная аппроксимация уравнений Максвелла в пространственно-временном представлении
Исследование нестационарных нелинейных процессов в релятивистском мноволновом черенковсом генераторе
Особенности реализации алгоритма на многопользовательских вычислительных комплексах
Организация доступа удаленных пользователей в вычислительном эксперименте
Рассмотрен один вариант применения технологии открытых систем на вычислительный эксперимент. Классическая модель вычислительного эксперимента дополнена моделью среды открытых систем. Вычислительный эксперимент взят из области радиоэлектроники, в частности, релятивистской сильноточной электроники, где требуется моделирование, связанное с самосогласованными трехмерными решениями уравнений Максвелла и уравнений движения частиц среды. Проблемы подобного типа относятся к крупномасштабным и требуют больших вычислительных ресурсов, которые имеются в настоящее время только у распределенных и/или параллельных вычислительных систем. Описан параллельный алгоритм для решения указанных задач, запрограммированный на языке Си с применением MPI (Message Passing Interface). Технология открытых систем применена при разработке доступа к высокопроизводительным распределенным вычислительным ресурсам и включает в себя создание и использование новых инструментальных средств, названных верстаками (workbenches), позволяющими упростить подготовку прикладных программ в суперкомпьютерной среде. Полная схема технологии предлагает использование трехступенчатой системы: пользователь - промежуточный распределенный вычислительный ресурс (кластер) – супер-ЭВМ. Пример был реализован на 32-х процессорном кластере ИРЭ РАН и супер-ЭВМ МВС-1000М Межведомственного суперкомпьютерного центра. Обсуждаются полученные результаты, возникающие в процессе реализации технологии трудности, а также возможные пути их решения.
2. Краткое изложение понятий ТОС применительно к вычислительному эксперименту.
Как известно [1] существо технологии открытых систем состоит в создании среды, которая, в частности, обеспечивает:
- перенос приложений, созданных соответствующим образом на широкий диапазон программно-аппаратных платформ;
- взаимодействие с другими системами
Для структурирования среды открытых систем и использования единых основных понятий у пользователя, разработчика и изготовителя обычно используется эталонная модель [1,2], рис 1.
Рис. 1. Эталонная модель среды открытой системы
Важным понятием в технологии открытых систем является также профиль – совокупность нескольких базовых стандартов для выполнения определенной функции [1,2].
Вычислительный эксперимент до настоящего времени не связывался с понятиями открытых систем, которые обычно использовались лишь при разработке системного программного обеспечения, а также приложений несколько другого содержания, например, банковских программ, информационных систем, обработке экспериментальных данных и т.д.
Классическая схема вычислительного эксперимента приведена на рис. 2, см., например, [3].
Рис. 2 Классическая модель вычислительного эксперимента [3] .
При обсуждении этой схемы и других определений не выделяются пользовательский интерфейс, проблема доступа к вычислительным ресурсам (в том, числе и распределенным), а также не рассматривается переносимость программ на другие платформы. Действительно, еще некоторое время назад эти задачи можно было рассматривать как технические и непринципиальные для вычислительного эксперимента. Однако решение крупномасштабных задач требует таких вычислительных ресурсов, которые в полной мере могут быть предоставлены в настоящее время лишь в распределенной вычислительной среде, к которой можно отнести, например, кластеры и суперкомпьютеры. Пользовательский интерфейс вычислительного эксперимента также часто должен включать ресурсоемкие системы хранения, обработки данных и их визуализацию. По существу, вычислительный эксперимент и реальный крупномасштабный эксперимент сравниваются по объему получаемой информации. Ввиду этого, в современную схему вычислительного эксперимента необходимо включить еще один элемент – пользователя (экспериментатора), который должен управлять как вычислительным экспериментом, так и системами представления данных.
Таким образом, для современной реализации вычислительного эксперимента необходима технология открытых систем, рис. 3., где для простоты, алгоритм включен в математическую модель. В противном случае, пакет программ вычислительного эксперимента будет связан с конкретным компьютером или процессором, формат представления данных не будет унифицирован, удаленный доступ будет затруднен и т.д.
Рис. 3. Применение эталонной модели открытых систем к схеме вычислительного эксперимента
3. Особенности вычислительного эксперимента в области радиоэлектроники.
Объекты исследований в области радиоэлектроники можно разделить на три группы. К первой отнесем распространение сигналов широкого диапазона частот в различных средах, ко второй - устройства и процессы, на основе которых разрабатываются приборы для генерации, приема, усиления и обработки сигналов, к третьей - методы обработки сигналов (фильтрация, выделение сигналов на фоне шумов, кодирование и т.д.) [1]. Натурный эксперимент в этих областях во многих случаях является громоздким и дорогостоящим, например, таковыми являются эксперименты по экологическому мониторингу Земли из космоса, создание источников мощного электромагнитного излучения, изучение приборов твердотельной электроники и т.д.
В основе математических моделей радиоэлектроники лежит решение уравнений Максвелла в том или ином приближении и уравнений, описывающих среду (классическую или квантовую). К наиболее развитой области, где успешно применяется вычислительный эксперимент, здесь следует отнести вакуумную электронику, в которой к настоящему времени уже сформулированы эффективные математические модели и алгоритмы. Проиллюстрируем это на примере современной релятивистской высокочастотной электроники.
Моделирование физических процессов в микроволновой электронике базируется на совместном (самосогласованном) решении уравнений Максвелла и кинетического уравнения [4-6]. Сложность построения решения такой системы уравнений вызывает необходимость использования численных методов.
4. Методы решения кинетического уравнения.
Согласно [7], можно выделить следующие основные численные методы построения решения кинетического уравнения:
- решение кинетического уравнения сеточными методами;
- использование методов преобразования;
- модель "водяной мешок";
- метод "трубок тока";
- метод "крупных частиц";
- смешанные модели;
- методы гидродинамики.
При использовании сеточных методов решения в рассматриваемом объеме пространства вводится сетка с конечным шагом. Решение уравнений находится в узлах этой сетки. Величина шага может быть как постоянной, так и переменной. Способ определения значений искомых функций в узлах сетки может быть различным. Так, в конечно-разностных методах производные в уравнениях заменяются конечными разностями. Способы решения конечно-разностных уравнений зависят от выбранного шаблона (шаблон образуют узлы сетки, которые используются для аппроксимации дифференциального уравнения). Методы конечных разностей обладают целым рядом особенностей, которые необходимо учитывать при построении численного решения кинетического уравнения. Прежде всего, конечная величина пространственного шага ограничивает минимальные размеры возможных флуктуаций (как пространственных, так и скоростных) в системе. Отсечка высокочастотных гармоник решения может приводить к нефизическим результатам [7], в частности к отсутствию затухания Ландау. Кроме этого в системе появляются схемные дисперсия и диффузия. В результате этого недиспергирующие системы превращаются в диспергирующие, что может приводить, в частности, к появлению счетного эффекта излучения Вавилова-Черенкова.
Другим сеточным методом является метод характеристик. Пусть функция распределения известна на сетке в определенный момент времени. Значение в следующий момент времени находятся из решения уравнений движения частиц, расположенных в узлах сетки. Известно [8], что частицы движутся вдоль характеристик. Найдя, таким образом, расположение частиц в следующий момент времени, можно вычислить взвешенные значения функции распределения в узлах (используя весовые функции). Затем процедура повторяется. Вид весовой функции определяется из условия, сколько моментов функции распределения необходимо удерживать в рассмотрении. Как и метод конечных разностей, метод характеристик обладает сеточной диффузией.
Методы преобразования основаны на приведении кинетического уравнения к системе уравнений меньшей размерности с помощью разложения искомого решения в ряды по тем или иным системам ортогональных функций. Повышение точности решения при использовании таких методов обуславливается тем, что градиенты функции распределения вычисляются не численно, а аналитически, путем дифференцирования рядов. Из-за того, что при численном моделировании можно рассматривать только конечное число членов ряда, получаемый спектр дискретной функции распределения будет отличатся от спектра непрерывной функции. В ряде случаев это отличие может быть существенным. Кроме того, методы преобразования требуют выполнения большого количества машинных операций, связанных с выполнением прямых и обратных преобразований.
В модели "водяной мешок" используется закон сохранения фазового объема. Этот метод применим для решения одномерных линейных или слабо нелинейных задач. Если в процессе эволюции линии уровня на фазовой плоскости не претерпевают существенных изменений, то для решения уравнения Власова таким методом требуется малое число точек, взятых на границе фазового объема. Однако при усложнении формы границы для получения удовлетворительной точности необходимо увеличивать количество рассматриваемых точек, что приводит к нарастанию времени счета.
Если в потоке не происходит смешивания, то в этом случае можно применить метод "трубок тока". В этом случае на границе рассматриваемого объема, через которую инжектируется пучок, вводится сетка. Узлы этой сетки считаются центрами трубок тока. Проводя решение уравнений движения для частиц, расположенных в центрах трубок тока, можно найти распределения плотности токов и зарядов в системе. Этот методом достаточно экономичен и позволяет решать многие стационарные задачи. К недостаткам метода можно отнести то, что при большом пространственном заряде может произойти запирание от отдельных трубок тока. К сожалению, этот эффект невозможно предсказать заранее, поэтому нужно постоянно осуществлять контроль качества получаемого решения.
В моделях гидродинамики пучки частиц рассматриваются как сплошная среда. Такое приближение можно использовать тогда, когда длина свободного пробега частицы существенно меньше характерной длины системы. Основными характеристиками этой среды являются плотность массы, плотность заряда, скорость, давление, проводимость и другие макроскопические параметры. Математической основой этих моделей являются уравнения магнитной гидродинамики [9-11], дополненные уравнением состояния [5]. Гидродинамические модели используются обычно в тех случаях, когда движение потока близко к ламинарному и рассматриваются стационарные или квазистационарные процессы. Гидродинамическое приближение в микроволновой электронике используется для анализа взаимодействия электронов с электромагнитным полем лишь в линейном приближении. Модели, основанные на гидродинамическом подходе, позволяют исследовать работу усилителей высокочастотных колебаний на линейной стадии взаимодействия электромагнитного поля и пучка, а также определять пусковые условия (например, пусковой ток и частоту колебаний) в генераторах. К достоинствам этой модели можно отнести приспособленность для аналитических вычислений и оценок [12].
В виду того, что скорость движения потока в таких моделях является однозначной функцией координат, невозможно описывать физические процессы, связанные с обгоном медленных частиц более быстрыми. В процессе группировки пучка такие ситуации являются возможными и типичными для микроволновой электроники, поэтому использование гидродинамических моделей для исследования задач генерации пучками электромагнитного поля затруднительно.
Рассмотренные выше методы оперировали, в основном, с эйлеровыми переменными. Модель "крупных частиц" (макрочастиц) основывается на лагранжевом подходе. Предположение, лежащее в основе модели макрочастиц состоит в том, что заряженные частицы, занимающие в начальный момент достаточно малый конечный объем фазового пространства, в процессе эволюции системы движутся одинаково или имеют пренебрежимо малый разброс фазовых траекторий. Таким образом, разбивая все фазовое пространство, в котором идет рассмотрение процесса, на малые объемы, можно "следить" только за одной частицей из каждого фазового объема; число заряженных частиц, содержащееся в таком фазовом объеме, называют параметром укрупнения. Размер и форма крупных частиц определяется размерностью выбранной модели: в трехмерном пространстве это точки, в двумерных декартовых координатах - стержни, в аксиально-симметричных системах - кольца и т.д.
Из сделанного выше предположения, на котором строится метод крупных частиц, сразу следует и основной недостаток модели: возрастание величины счетных флуктуаций по сравнению с реальным потоком. Поэтому в вычислительном эксперименте используют различные способы "размазывания" макрочастиц, т.е. переходят от частиц с "нулевым" объемом к частицам объемным, плотность заряда которых отлична от нуля в конечном объеме пространства (так называемые "частицы-облака"). Это приводит к уменьшению роли ближних взаимодействий частиц. Действительно, если для точечных частиц сила взаимодействия неограниченно растет по мере их сближения, то для частиц-облаков нарастание силы происходит лишь до расстояния, определяемого линейным размером облака, после чего она убывает. Две частицы-облака, имеющие в фазовом пространстве одинаковые координаты, не взаимодействуют друг с другом.
Линейные размеры облака, а также функция распределения плотности заряда внутри объемной частицы (форм-фактор) могут быть различными. Это определяется характерными пространственными масштабами рассматриваемых процессов и требуемой степенью гладкости получаемого решения.
Во многих существующих схемах самосогласованного решения кинетического уравнения, использующих метод макрочастиц, электромагнитное поле определяется в эйлеровых координатах, т.е. на некоторой пространственной сетке. При этом возникает проблема пересчета полученных в результате решения уравнений движения крупных частиц значений плотностей заряда и тока в узлы пространственной сетки. Если заряд и ток, создаваемые одной частицей, дают вклад в ближайший узел пространственной сетки, то говорят об использовании метода NGP (Nearest Grid Point). Он дает хорошие результаты в случае использования большого числа крупных частиц и для исследования процессов, в которых флуктуации плотности заряда незначительны. Однако, если в процессе взаимодействия частиц потока с полем возникает существенно отличное от равномерного распределение плотностей источников поля, метод NGP вносит в решение значительную погрешность. В таких случаях используют метод CIC (Cloud in Cell). Методы распределения заряда в узлы сетки достаточно полно описаны в [13].
Вопросы перехода от уравнения Власова к модели крупных частиц рассмотрены, в частности, в [14].
Метод макрочастиц наиболее часто используется при решении нелинейных задач взаимодействия потока и поля. Его особенностям и развитию посвящено большое количество работ. Особое внимание уделяется выбору метода интегрирования уравнений движения. Обычно для этого используют некоторые априорные данные о характере движения частиц. На выбор метода большое влияние оказывает количество операций, которые необходимо выполнить для получения значений координат и скоростей макрочастиц на следующем шаге решения. Прежде всего, это относится к количеству вычислений правых частей уравнений движения. Сравнительный анализ методов интегрирования второго порядка для случая одно- и двухмерного движения частиц можно найти в [15]. Методы, основанные на аппроксимации Тейлора второго порядка, представлены в [16]. В [17] рассматриваются различные методы высокого порядка точности для двумерного случая, когда потенциалы аппроксимируются многочленами 3-го порядка по их значениям в 9 узлах разностной сетки. Методы высокого порядка возможно применять в случае малого числа частиц. Однако, при проведении численного эксперимента, число крупных частиц обычно бывает большим (>10000), поэтому наиболее часто используется метод с перешагиванием ([7,18]), в котором реализована идея центрирования по времени: правая часть уравнения для скорости вычисляется в момент времени, отстоящий на половину шага по времени от момента вычисления правой части для уравнения для координаты. Этот сдвиг необходимо учитывать при дальнейшем использовании значений скоростей и координат (например, при вычислении потенциальной и кинетической энергий). Метод с перешагиванием прост и достаточно точен, что обеспечило его широкое использование в решении нестационарных задач, особенно в случае одномерного потока частиц. Если в системе присутствует ведущее постоянное магнитное поле и его влияние необходимо учитывать, то приходится решать трехмерные уравнения движения. Для этого случая наиболее популярными являются схемы, основанные на вычетании дрейфовой скорости [19] и на разделении действия электрического и магнитного полей [20]. В последнем случае используется тот факт, что магнитное поле не изменяет энергию частицы.
При решении нестационарных задач возможно использование методов интегрирования типа "предиктор-корректор" [21], однако при этом возрастает количество требуемой памяти ЭВМ (для хранения правых частей в предыдущие моменты времени), а также есть необходимость использовать другие методы высокого порядка точности для "разгона".
Каждый из этих методов предполагает определение электромагнитного поля в области заряженного потока. В большинстве случаев при анализе используются только статические поля (поля пространственного заряда пучка), для нахождения которых достаточно определить значение скалярного потенциала из уравнения Пуассона с заданными граничными условиями.
5. Методы решения уравнений электромагнитного поля.
Нахождение электромагнитного поля основывается на решении уравнений Максвелла с соответствующими граничными условиями. В зависимости от поставленной задачи эти уравнения могут быть преобразованы в другой вид или редуцированы до более простых уравнений.
Большое разнообразие получаемых уравнений порождает множество численных методов их решения, которое требует определенной классификации. Проведение такой классификации было предпринято в ряде работ, среди которых можно отметить [7], [22-25].
Прежде всего выделяются две группы задач: в пространственно-временном и пространственно-частотном представлении. В первом случае речь идет об анализе нестационарных широкополосных процессов. Численные схемы решения для задач электродинамики такого типа менее развиты ([26-28]), чем для задач второй группы, в которых анализируются стационарные и квазистационарные процессы. Каждая из этих двух групп подразделяется еще на две: решение внешних и внутренних задач электродинамики, что определяется геометрией электродинамических структур. Наглядным примером внешней задачи может служить определение рассеянного поля, а внутренней задачи - поля внутри закрытого резонатора.
Используемые в микроволновой электронике подходы к решению электродинамических задач можно условно разделить на три большие группы.
К первой относятся методы, базирующиеся на априорной информации о собственных колебаниях электродинамической системы. Прежде всего это подходы, основанные на разложении искомого поля по полной системе собственных функций ([29], [30]) и метод функции Грина [31]. Обычно при разложении учитывается лишь резонансная часть высокочастотного поля, т.е. только те моды, которые находятся в синхронизме с электронным потоком ([32], [33]). К этой же группе можно отнести методы, основанные на матричной методике, в основе которой лежит физическая аналогия между реальной замедляющей структурой и цепочкой связанных многополюсников ([34-35]). При исследовании электродинамических структур сложной формы использование метода разложения по полной системе собственных колебаний затруднительно. В этом случае более приемлемым является подход, связанный с разложением искомого поля по модам бесконечного волновода с геометрией, соответствующей исследуемой структуре [30]. Однако при таком подходе необходимо уметь вычислять матрицы рассеяния волноводных мод в местах сопряжения пространства взаимодействия с устройствами ввода-вывода электронного пучка и вывода энергии излучения. Произвольная замена матриц рассеяния условиями согласования мод на концах пространства взаимодействия может существенно повлиять на результат. К прямым методам относится также и неполный метод Галеркина ([36-37]), смысл которого состоит в разложении искомого поля по полной в данном сечении электродинамической структуры системе функций, удовлетворяющих граничным условиям. Так, на основе этого метода в [40] построена линейная математическая модель релятивистского устройства черенковского типа с диэлектрической замедляющей системой.
Вторую группу образуют методы, использующие физические представления о характере излучения электронного потока. В качестве примера можно привести итерационную геометрооптическую методику [41]. Она была предложена для теоретического исследования процессов в многоволновых дифракционных генераторах. Основой этого метода является определение с помощью аппарата теории дифракции поля излучения электронного потока вблизи периодической структуры и исследование многократных переотражений излучения в электродинамической структуре в геометрооптическом приближении.
К третьей группе относятся так называемые прямые численные методы решения краевых задач: конечно-разностные, итерационные, метод моментов и т.п. ([43-45], [60]).
В настоящее время для решения нестационарных задач микроволновой электроники наиболее часто используется конечно-разностная методика [18]. Существует несколько способов составления схем на заданном шаблоне [58]:
- метод разностной аппроксимации, который заключается в том, что каждая производная, входящая в дифференциальное уравнение и краевые условия, заменяется каким-либо разностным выражением. Этот метод позволяет легко составить схему первого или второго порядка аппроксимации на равномерной сетке для уравнений с достаточно гладкими коэффициентами. Однако этот метод трудно применять для неравномерных сеток и для уравнений с разрывными коэффициентами;
- интегро-интерполяционный метод, в котором дифференциальное уравнение интегрируют по ячейке и приводят к интегральной форме, что соответствует физическому закону сохранения. В этом случае разностная схема получается при вычислении интегралов по каким-либо квадратурным формулам;
- метод неопределенных коэффициентов, заключающийся в том, что в качестве разностной схемы берут линейную комбинацию значений разностного решения в узлах шаблона, а коэффициенты этой комбинации определяют из условия малости невязки схемы относительно шага сетки.
В конкретных задачах численного моделирования, на основании априорных данных, аппроксимация производных может быть улучшена [47]. Для обеспечения устойчивости численного алгоритма особое внимание уделяется пространственно-временному расположению сеток магнитного и электрического полей. Так, сетка электрического поля смещена относительно сетки магнитного на половину временного шага, что позволяет использовать схему интегрирования по времени с перешагиванием. Расположение в пространстве компонент электромагнитного поля делается таким образом, чтобы получить центрированную схему расчета пространственных производных, стоящих в правых частях уравнений для полей [48].
Особую трудность в конечно-разностной методике представляют граничные условия на открытых концах рассматриваемой области. Во избежания отражения излучения от границ и возвращения его в область взаимодействия возле границ обычно размещают диссипативные области. Наиболее простой способ достичь этого является введение в закон Максвелла-Ампера резистивного тока. Недостаток этого подхода заключается в том, что для устранения проникновения и отражения наиболее длинноволновых частей излучения эта область должна быть достаточно толстой, что приводит к существенному увеличению размера пространственной сетки. Можно провести небольшое улучшение процедуры поглощения, введя в закон Фарадея магнитный ток, что соответствует потоку магнитных монополей. В [49] предложено сделать электрическую проводимость в поглотителе чисто поперечной, что позволяет улучшить поглощение волн, волновой вектор которых параллелен нормали к границе. Развитие метода поглотителя на границе нерегулярной формы приведен в [50]. При наличии волн с другими углами падения на открытую границу, используют методику, предложенную Линдманом [51]. Ее смысл состоит в том, что падающая волна представляется в виде суперпозиции плоских волн, для которых возможно записать связь между компонентами вектор-потенциала через некий линейный оператор. В результате этого возможно установление связи между электрическим и магнитным векторами без использования экстраполяции. Степень аппроксимации линейного оператора будет определять максимальный угол распространения плоских волн. К сожалению, он никогда не будет достигать значения , т.е. волны, движущиеся почти параллельно свободной границе всегда будут "запертыми" в системе. Используют также методику, предложенную в [52], где после выполнения преобразований для полей с открытой границей удается свести задачу к проблеме закрытой границы для двух связанных областей.
При решении нестационарных задач сеточными методами задействованными являются только два уравнения Максвелла, содержащие производные полевых величин по времени. Дивергентные уравнения используются для контроля точности и коррекции решения [53]. В общем случае можно сказать, что коррекция осуществляется введением фиктивного тока, обеспечивающего диффузию наведенного на сетке заряда чтобы удовлетворить закону сохранения заряда.
Решения внешних задач электродинамики, в частности задач рассеяния, проводится с использованием аппарата интегральных уравнений ([54-57]). Вывод интегральных уравнений в пространственно-частотном представлении дан в [61], [59]. Переход от пространственно-частотного к пространственно-временному представлению описан в [42]. В подынтегральном уравнении остаются при этом только источники электромагнитного поля. Численное решение уравнений в частотной области может быть получено с использованием метода моментов, смысл которого заключается в разложении искомой функции по набору базисных функций. Коэффициенты разложения и подлежат определению с учетом минимизации разностной ошибки. Выбор базисных и весовых функций представляется отдельной задачей, так как влияет на качество получаемого решения. Метод моментов относится к "точным" численным методам решения. В некоторых случаях возможно использование приближений физической и геометрической оптик, а так же применение различных итерационных методик. Метод моментов применим и для решения полевых интегральных уравнений в пространственно-временном представлении, которые используются для получения импульсной переходной характеристики рассеивателя. Обычно в качестве весовых функций используют дельта-функцию Дирака. Дальнейшее упрощение состоит в замене поверхностного интеграла конечной суммой по элементам поверхности. С увеличением отношения размера рассеивателя к ширине импульса необходимое число узлов растет как квадрат этого отношения. Чтобы избежать чрезмерного возрастания времени счета, используют приближенные методы, аналогичные применяемым в случае гармонического сигнала.
6. Конечно-разностная аппроксимация уравнений Максвелла в пространственно-временном представлении.
Рассмотрим задачу нахождения электромагнитного поля в вакуумном объеме V, в котором содержаться идеально проводящие тела.
Предположим, что диэлектрическая и магнитная проницаемости среды равны единице. Введем правую декартовую систему координат, начало которой совпадает вершиной 1 параллелепипеда. Запишем уравнения Максвелла в Гауссовой системе единиц:
Рассмотрим два вида граничных условий:
- объем V ограничен идеально проводящими поверхностями. При этом тангенциальные составляющие электрического поля на границе области обращаются в ноль;
- на границах V выполнено условие излучение плоских волн, т.е. считается справедливым предположение, что структура электромагнитного поля вблизи границы области соответствует структуре плоской волны, волновой вектор которой параллелен нормали к поверхности.
Составим конечно-разностную аппроксимацию системы уравнений. Для каждой из компонент введем в объеме V пространственную сетку , удовлетворяющую следующим рекурентным соотношениям:
для Bx компоненты
для By компоненты
для Bz компоненты
для Ex компоненты
для Ey компоненты
для Ez компоненты
где - шаг пространственной сетки, ,, - количество узлов сетки по координатам x, y, и z соответственно. Такое расположение сеток дает возможность использовать центрированную схему аппроксимации пространственных производных. Взаимное расположение пространственных сеток представлено на рис.4.
Рис. 4. Пространственное расположение узлов сеток компонент электромагнитного поля.
Узлы пространственных сеток компонент плотности тока совпадают с узлами соответствующих компонент электрического поля.
Введем шаг по времени , величина которого удовлетворяет условию Куранта:
где - безразмерный коэффициент, величина которого зависит от конкретной конфигурации идеальных проводников и характерных частот рассматриваемых процессов. Значения сеточных функций компонент магнитного поля вычисляются в моменты времени , такие, что:
Электрическое поле определяется в моменты времени
Используя описанный сдвиг временных сеток, можно получить следующие конечно-разностные соотношения:
Здесь верхний индекс обозначает момент времени, нижний индекс до открывающейся круглой скобки - компоненту поля, нижние индексы в круглых скобках обозначают номер узла пространственной сетки.
Для решения задачи формирования электромагнитного поля в большинстве случаев используются нулевые начальные условия: значения компонент электромагнитного поля во всех точках рассматриваемого объема равны нулю, и сторонние токи в системе отсутствуют.
7. Исследование нестационарных нелинейных процессов в релятивистском мноволновом черенковсом генераторе.
Генерация микроволнового излучения различных уровней мощности является актуальной задачей на протяжении нескольких десятилетий. Электромагнитное излучение в диапазоне от десятых долей миллиметра до десятков сантиметров используется в различных областях науки и техники: радиолокации, медицине, дефектоскопии, спектроскопии и др.
В настоящее время для получения высоких уровней мощности излучения (до десятков ГВт) используются вакуумные генераторы, в которых в качестве активной среды выступает электронный пучок. В качестве примера можно рассмотреть многоволновой черенковский генератор (МВЧГ), созданный в середине 80-х годов в ИСЭ СО РАН совместно с ИРЭ РАН и МГУ, и обладающий рекордными до настоящего времени характеристиками по уровню выходной мощности - порядка 15 ГВт в 3-х сантиметровом диапазоне длин волн. Генератор представляет собой три отрезка круглого волновода, два из которых имеют периодические неоднородности в виде полуторов на внутренней поверхности (электродинамическая структура). Вдоль волновода в непосредственной близости от краев неоднородностей транспортируется электронный пучок с энергией порядка 2 МэВ, (рис 5).
Параметры ЭДС: R = 70 мм, L = 15 мм, x = 6 мм, h = 4 мм
Параметры пучка: 2 МэВ, Rb = 60 мм. Система обладает осевой симметрией.
Рис. 5. Схема электродинамической структуры многоволнового черенковского генератора
Уникальные характеристики МВЧГ связаны с необычным для традиционной электроники характером взаимодействия электронного пучка и электромагнитного поля [62]. Конструктивными особенностями прибора являются:
- сверхразмерный диаметр электродинамической структуры (составляющий несколько длин волн генерируемого излучения);
- малый линейный размер периодических неоднородностей каждой из секций (на два порядка меньше диаметра)
- большая общая длина, составляющая около 50 характерных длин волн.
Разработка нелинейная теории МВЧГ связана с анализом достаточно сложных математических моделей, в основе которых лежат уравнения Максвелла в пространственно-временном представлении и уравнения движения заряженных частиц (электронов). Реализация таких моделей возможна лишь с использованием методов вычислительного эксперимента, причем наиболее предпочтительным методом решения кинетического уравнения является метод макрочастиц, а для нахождения электромагнитного поля - метод конечных разностей.
8. Оценка необходимых вычислительных ресурсов.
Если рассмотреть МВЧГ в качестве характерного примера современных приборов релятивистской сильноточной электроники, то нетрудно оценить вычислительные ресурсы для его расчета изложенным выше разностным методом. Для простейшего случая рассмотрения сравнительно узкополосных физических процессов, близких к одночастотным, число узлов пространственной сетки должно быть не менее 20-30 на длину волны в вакууме. В трехмерных задачах необходимое число узлов растет пропорционально кубу характерной длины волны. Для расчетов лишь электродинамической структуры 3-х сантиметрового МВЧГ по алгоритму, использующему метод конечных разностей, оказывается необходимым около 6 Гбайт оперативной памяти, что к настоящему времени является недостижимой величиной для однопроцессорного компьютера, в том числе современных персональных компьютеров. При рассмотрении нелинейных динамических процессов с электронным пучком часто необходимо учитывать возможность возникновения паразитной генерации, а также обогащение спектра гармониками. Таким образом, уже размеры оперативной памяти должны быть увеличены на порядки, и достичь значений в десятки и сотни гигабайт, что, вероятно, достижимо для однопроцессорных систем лишь в отдаленном будущем. Мы оставляем в стороне здесь время расчетов, которое сильно зависит от характера исследуемых физических процессов и может составлять весьма значительные величины. Появление в последнее время супер-ЭВМ с массивно-параллельной архитектурой открыло возможность для выполнения 3D вычислительного эксперимента в области релятивистской сильноточной электроники.
9. Расчет электромагнитных полей сверхразмерных электродинамических структур на супер-ЭВМ с массивно-параллельной архитектурой.
Одним из направлений развития супер-ЭВМ является создание вычислительных комплексов с массивно-параллельной архитектурой. Особенностями архитектуры таких систем является то, что они состоят из некоторого числа однородных по мощности вычислительных узлов, которые включают в себя один или несколько процессоров, локальную память, средства коммуникации с другими узлами. В качестве примера можно привести супер-ЭВМ IBM RS/6000 SP2, Intel PARAGON/ASCI Red, SGI/CRAY T3E, Hitachi SR8000. Машины такого класса обычно работаю под управлением UNIX-подобных операционных систем. В качестве массивно-параллельного компьютера можно рассматривать набор рабочих станций или персональных компьютеров общего назначения, связанных между собой при помощи одной из стандартных сетевых технологий (Fast/Gigabit Ethernet, Myrinet) (кластерные системы) [63].
Программирование на таких супер-ЭВМ осуществляется в рамках модели передачи сообщений (MPI, PVM, BSPlib). Стандартом по выбору основных производителей ЭВМ решено сделать MPI. Ими образован MPI Forum [64], и в свет выпущена спецификация, которой должны удовлетворять все конкретные разработки. MPI расшифровывается как Message Passing Interface - Интерфейс с передачей сообщений, т.е. конкретному стандарту присвоено название всего представляемого им класса программного инструментария. В его состав входят, как правило, два обязательных компонента:
- библиотека программирования для языков Си, Си++ и Фортран,
- загрузчик исполняемых файлов.
Кроме того, может присутствовать справочная система, командные файлы для облегчения компиляции/компоновки программ и др. В стандарте описана только система связи между процессами.
При использовании MPI прикладная программа содержит код всех ветвей сразу. MPI-загрузчиком запускается указываемое количество копий программы. Каждая копия определяет свой порядковый номер в запущенном множестве процессов, и в зависимости от этого номера и размера множества выполняет ту или иную ветку алгоритма. Каждая ветвь имеет пространство данных, полностью изолированное от других ветвей. Обмениваются данными ветви только в виде сообщений MPI. Все ветви запускаются загрузчиком одновременно. Для стандарта MPI-1.1 количество ветвей фиксировано - в ходе работы порождение новых ветвей невозможно. Если MPI-приложение запускается в сети, запускаемый файл приложения должен быть построен на каждой машине.
Таким образом, использование супер-ЭВМ с массивно-параллельной архитектурой предполагает возможность одновременного выполнения разных частей алгоритма, обменивающихся между собой информацией путем передачи сообщений.
Численный алгоритм, использующий конечно-разностную аппроксимацию уравнений Максвелла в пространственно-временном представлении, определяет значения компонент электромагнитного поля на следующем временном шаге, используя соответствующие значение полей на текущем шаге по времени и граничные условия, налагаемые на поля, т.е. значение полей в граничных узлах пространственной сетки считаются заданными. Если разбить существующую пространственную сетку на подобласти (блоки) таким образом, чтобы граничные узлы одной подобласти одновременно являлись внутренними узлами соседней с ней подобласти, то значения в этих граничных узлах могут быть получены при расчете полей в соседнем блоке сетки. При таком разбиении расчет полей внутри одного блока на одном временном шаге осуществляется независимо от других подобластей, а значит вычисления могут быть проведены параллельно. Расположение узлов на границе соседних блоков z=const приведено на рис.5. После выполнения одного шага расчетов по времени значения в граничных узлах блока должны быть получены из значений соответствующих внутренних узлов соседних блоков:
где верхний индекс l определяет номер слоя решения по времени, нижние индексы означают: компоненту поля, номер блока пространственной сетки, номер узла по направлению x, y и z соответственно. Номера блоков изменяются в пределах от 0 до , где - общее количество блоков пространственной сетки. Значения , , , , , , задаются, исходя из граничных условий задачи.
Рис.6. Взаимное расположение блоков пространственных сеток.
1) правая граница блока I
2) левая граница блока II
3) внутренние узлы блоков I и II.
10. Реализация алгоритма расчета электромагнитных полей.
Описанный алгоритм был реализован в виде компьютерной программы, написанной на языке Си. Выбор языка реализации был основан на анализе требований, налагаемых стандартами POSIX [65] на прикладные программы, претендующие на переносимость между различными программно-аппаратными платформами. При создании прикладной программы предполагалось также, что супер-ЭВМ, на которой будут проводится расчеты, удовлетворяет требованиям Профиля прикладной среды организации вычислений на супер-ЭВМ (PSE10-HIP) [66], и на машине установлено программное обеспечение, поддерживающее работу параллельных программ, использующих механизм MPI.
На рис.7 представлена блок-схема программы. После старта осуществляется инициализация функций MPI, определяется количество одновременно запущенных копий программы и номер текущего процесса. Процесс с номером 0 проводит считывание параметров задачи из файла. В качестве параметров выступают: размеры области построения решения, величины пространственных и временного шагов, максимальное время интегрирования и др. Исходя из количества запущенных процессов, величины шага по пространственной координате и геометрической длины рассматриваемой электродинамической системы, определяется количество узлов сетки для каждого из процессов. Все параметры передаются из процесса 0 остальным при использовании функции MPI_Bcast. После установления одинаковых значений параметров для всех копий программы происходит выделение оперативной памяти для хранения значений переменных и устанавливаются их начальные значения. Затем в каждом блоке пространственной сетки выполняется построение решения на следующем временном слое: вычисляются сначала магнитные, затем электрические компоненты поля. Для синхронизации процессов используется функция MPIBarrier. Процедура обмена значениями в приграничных узлах сетки реализована следующим образом. Сначала все процессы, имеющие нечетные номера , выполняют передачу значений узлов с индексами процессам с четными номерами , а затем принимают от четных процессов значения граничных узлов. Далее нечетные узлы выполняют аналогичный обмен с процессами, номера которых равны .
После выполнения обмена информацией происходит синхронизация процессов и, если время интегрирования уравнений еще не закончилось, выполняется построение решение на следующем временном шаге.
Рис.7. Блок-схема программы расчета электромагнитных полей
11. Функционирование программы расчета электромагнитных полей на различных программно-аппаратных платформах.
Программа расчета написана с учетом требований, налагаемых стандартами POSIX на программное обеспечение для переносимости между различными платформами. Проверка программы на межплатформенную переносимость была осуществлена экспериментально путем трансляции исходного текста в исполняемый код на компьютерном кластере ИРЭ РАН [67] и на супер-ЭВМ МВС-1000М [68]. И в том, и в другом случае трансляция прошла успешно без каких-либо изменений текста программы.
Предварительное тестирование реализованного алгоритма было осуществлено на задаче вычисления электромагнитных полей в резонаторе кубической формы с идеально проводящими стенками, которая допускает аналитическое решение. Проведенное сравнение спектров собственных колебаний показало достаточно хорошее совпадение теоретических и расчетных данных.
Более детальный анализ работы программы был осуществлен на следующем контрольном примере. Решалась задача о повороте плоскости поляризации моды H11 в волноводе, поверхность которого в цилиндрической системе координат задается выражением
при
при
где
Возбуждение волновода проводилось двумя способами:
1) гармонически зависящим от времени током, расположенном на продольной оси волновода и протекающем в плоскости поперечного сечения структуры при z=1см;
2) заданной конфигурацией электрических полей, соответствующей поперечному распределению полей моды H11 в сечении z=1см.
В диапазоне частот от 26 до 30 ГГц результаты моделирования хорошо согласуются с данными эксперимента, которые были любезно предоставлены сотрудниками ИПФ РАН (г. Нижний Новгород). Оказалось, что второй способ возбуждения волновода дает значения полей с меньшей ошибкой по отношению к данным реального эксперимента (около 10 градусов в повороте плоскости поляризации на всех длине структуры), что связано, прежде всего, с существованием конечного времени формирования распределения полей, соответствующих интересующей моде.
На рис.8. показаны зависимости компонент электрического поля от продольной координаты на оси электродинамической структуры в фиксированный момент времени.
а)
б)
Рис.8. Зависимости Ex (а) и Ey (б) компонент электрического
поля от продольной координаты z при r=0.
На этих рисунках легко наблюдаются кроме основного вида колебаний и более высокочастотные, отличающие от основного почти на порядок по длине волны. При некоторых условиях их правильный количественный учет может быть необходим.
Уточнение результата возможно провести, уменьшив шаг пространственной сетки. Такое уменьшение приводит к росту требуемой оперативной памяти. В связи с этим соответствующие расчеты были проведены на супер-ЭВМ МВС-1000М. Сравнение полученных результатов приведено в Таблице 1.
Таблица 1. Зависимость угла поворота плоскости поляризации
от шага по пространственной координате.
Частота, ГГц |
Угол, град |
|
|
Шаг 0.006 см (кластер ИРЭ) |
Шаг 0.003 см (МВС-1000М) |
27 |
85 |
77 |
28 |
88 |
83 |
29 |
97 |
90 |
Из Таблицы видно, что при изменении шага расчетов результаты меняются сравнительно медленно.
12. Особенности реализации алгоритма на многопользовательских вычислительных комплексах.
Одним из свойств, которым должна обладать супер-ЭВМ, функционирующая в многопользовательском режиме, является возможность автоматического формирования контрольной точки работающего процесса, приостановки его выполнения и рестарта с контрольной точки. Эти требования предъявляются, в частности, в [66] и вызваны, прежде всего, необходимостью разделения процессорного времени между многими прикладными задачами.
Однако, для столь молодой ветки супер-ЭВМ, которой является кластерная система, единообразного решения реализации описанных свойств не существует. К сожалению, в настоящий момент такой недостаток имеет место и на самой мощной в Российской федерации супер-ЭВМ МВС-1000М. В связи с этим, проблема формирования контрольной точки переносится на разработчиков прикладного программного обеспечения.
Для работы программы вычисления электромагнитных полей на МВС-1000М алгоритм был дополнен механизмом формирования контрольной точки. Сохраненные данные должны давать возможность прикладной программе продолжить прерванные ранее вычисления электромагнитных полей. Для этого значения во всех узлах пространственной сетки для всех компонент в текущий момент времени должны быть записаны в долговременную память (память на магнитных носителях). При этом объем сохраняемой информации может достигать десятков и сотен гигабайт.
Было введено два дополнительных параметра:
- календарное время (в минутах), выделенное для работы программы и отсчитываемое с момента запуска;
- календарное время (в минутах), необходимое для формирования контрольной точки. Это время зависит от загрузки линий связи между процессорами супер-ЭВМ и не может быть определено точно.
Алгоритм создания контрольной точки представлен на рис.9.
Перед началом вычислений процесс с номером 0 выполняет проверку состояния файла регистрации работы программы. Если необходимо провести рестарт с контрольной точки, всем процессам передается соответствующий сигнал и они выполняют считывание ранее сохраненной информации.
Перед построением решения на очередном временном слое осуществляется проверка текущего календарного времени , прошедшего с момента запуска программы. Если выполнено условие
каждый из процессов задачи производит запись данных на жесткий диск и завершает свое выполнение. Процесс с номером 0 делает запись в файл регистрации о завершении очередного кванта вычислений. Происходит завершение программы в целом.
Рис.9. Механизм работы с контрольной точкой.
13. Организация доступа удаленных пользователей в вычислительном эксперименте.
На рис. 10 показана блок-схема доступа удаленных пользователей к высокопроизводительным вычислительным ресурсам, а на рис. 11 – схема доступа. Задачами релятивистской сильноточной электроники в нашей стране в ряде научных групп, к ним, в частности, относятся: ИСЭ СО РАН (г. Томск), НИИЯФ при ТПУ (г. Томск), ИЯФ СО РАН (г. Новосибирск), ИЭФ УрО РАН (г. Екатеринбург), ИПФ РАН (Н.Новгород), ФЯЦ (г. Саров), ИОФ РАН, ИРЭ РАН, НИЦТИВ РАН, МГУ, МРТИ и др. Все эти организации являются потенциальными пользователями высокопроизводительных вычислительных ресурсов в данной области. Отметим, что создание параллельных программ является достаточно сложной задачей, требующей значительных усилий и часто являющейся трудновыполнимой для большинства инженеров и научных работников в этих группах.
Рис. 10. Блок-схема доступа удаленных пользователей к высокопроизводительным вычислительным ресурсам
В реализуемой нами схеме вычислительного эксперимента осуществляется формирование заданий практически на естественном языке, используя WEB технологию. Эти задания поступают по Интернет в ИРЭ РАН, где осуществляется их преобразование в исполняемые программы. Соответствующие программно-инструментальные средства построены по модульному принципу, и мы их назвали верстаками. Использование верстаков избавляет пользователей от программирования, и, самое главное, от освоения параллельного программирования. Используемые модули, естественно, должны иметь стандартный интерфейс, чтобы результаты расчетов одного модуля могли быть использованы в качестве начальных данных для другого модуля. На выходе верстака формируются программы, исполняемые далее в распределенной вычислительной среде, в качестве которой используется кластер ИРЭ РАН (для задач, требующих сравнительно небольшого ресурса) и супер-ЭВМ МВС 1000М. Программы имеют в качестве языка параллельного программирования MPI и разработаны с учетом требований открытых систем, в частности они переносимы на любую суперкомпьютерную платформу. В настоящее время совместно с НИИ «Квант» и ИПМ РАН разрабатывается математическое обеспечение, позволяющее осуществлять автоматический переброс задач на супер-ЭВМ задач, превышающих ресурсы кластера ИРЭ РАН.
Рис. 11. Схема Web-доступа к высокопроизводительным вычислительным ресурсам.
Более детально схема верстака представлена на рис. 12. Основой является программа, реализующая параллельный конечно-разностный метод решения уравнений Максвелла при различных (задаваемых пользователем) начальных и граничных условиях и работающая на кластере ИРЭ РАН. Управление работой вычислительной части осуществляет программа обработки запросов пользователя. Сами запросы поступают на кластер через HTTP-сервер ИРЭ. Пользователь формирует запрос в виде текстового файла, содержащего описание
- параметров вычислительной схемы,
- формы границ области построения решения,
- типов и места расположения источников электромагнитного поля,
- координат точек пространства, для которых будет сформированы зависимости компонент электромагнитного поля от времени.
Эта информация через HTML-форму отправляется на HTTP-сервер, где проводится ее первичная обработка. Если CGI-программа, проводящая обработку, не находит ошибки в описании параметров, осуществляется дальнейшая передача информации на кластер и запуск вычислительной части. По окончании расчетов полученные данные передаются на HTTP-сервер и пользователь, выполнив соответствующий запрос, может перенести данные на свой компьютер.
Для каждого класса задач разрабатывается свой интерфейс, позволяющий оптимально формировать задание. В настоящее время при помощи предоставляемых программных средств возможно моделирование электромагнитных полей в двумерных и аксиально-симметричных структурах [67].
Рис.12. Взаимодействие программ комплекса удаленного доступа
1. Гуляев Ю.В., Олейников А.Я., Филинов Е.Н. //Информационные технологии и открытые системы, 1995, №1, стр. 32-43.
2. Information technology – Guide to the POSIX Open System Environment (OSE). ISO/IEC TR 14252-1996. ANSI/IEEE Std 1003.0-1995
3. А.А.Самарский // Математическое моделирование и вычислительный эксперимент. Труды Международной конференции Математическое моделирование ММ-2001 13-15июня 2001 г. Всероссийская молодежная Школа. Современные методы математического моделирования. Сборник лекций, стр. 4-12.
4. Лопухин В.М. Возбуждение электромагнитных колебаний и волн. -М.: Гостехиздат, 1953.
5. Александров А.Ф., Богданкевич Л.С., Рухадзе А.А. Основы электродинамики плазмы. -М.: Высшая школа, 1978. -407 с.
6. Силин В.П., Рухадзе А.А. Электромагнитные свойства плазмы и плазмоподобных сред. -М.: Атомиздат, 1961.
7. Рошаль А.С. Моделирование заряженных пучков. -М.: Атомиздат, 1979. -224 с.
8. Тихонов А.Н., Самарский А.А. Уравнения математической физики. -М.: Наука, 1972. -736 с.
9. Ландау Л.Д., Лившиц Е.М. Гидродинамика. -М.: Наука, 1986. -736 с.
10. Ландау Л.Д., Лившиц Е.М. Электродинамика сплошных сред. -М.: Наука, 1982. - 620 с.
11. Самарский А.А., Попов Ю.П. Разностные методы решения задач газовой динамики. -М.: Наука, 1980, - 352 с.
12. Шевчик В.Н., Трубецков Д.И. Аналитические методы расчета в электронике СВЧ. -М.: Сов.радио, 1970. -584 с.
13. Хокни Р., Иствуд Дж. Численное моделирование методом частиц: Пер. с англ. -М.: Мир, 1987. -640 с.
14. Захаров А.В., Самарский А.А., Свешников А.Г. Применение метода больших частиц к расчету движения заряженного пучка в электромагнитном поле с учетом пространственного заряда пучка. /В сб. "Вычислительные методы и программирование". -Вып. XVI, изд. МГУ, 1971. - С.225-243.
15. Ильин В.П. Численные методы решения задач электрофизики. -М: Наука, 1985. -336 с.
16. Chicon R., Martin E. Variable step methods for the integration of Newton's equation. //Amer. J. Phys., 1991, v.59, №8, p.759-760.
17. Dirmikis D., Birtles A.B. An investigation of methods suitable for electron trajectory in digital programms. //Internat. J. Electronics, 1975, v.39, №4, p.441-453.
18. Бэдсел Ч., Ленгдон А. Физика плазмы и численное моделирование: Пер. с англ. -М.: Энергоатомиздат, 1989. -452 с.
19. Buneman O. Time reversible difference procedures. //J. Comput. Phys., v.1, June 1967, p.517-535.
20. Boris J.P., Roberts K.V. Optimization of particle calculation in 2 and 3 dimensions. //J. Comput. Phys, v.4, December 1969, p.552-571.
21. Корн Г., Корн Т. Справочник по математике для научных работников и инженеров: Пер. с англ. -М.: Наука, 1984. -831 с.
22. Марков Г.Т., Васильев Е.Н. Математические методы прикладной электродинамики. -М.: Сов. радио, 1970. -119 с.
23. Григорьев А.Д., Янкевич В.Б. Численные методы расчета электромагнитных полей свободных волн и колебаний в регулярных волноводах и полых резонаторах. //Зарубежная радиоэлектроника, -1977. -вып.5. С. 43-67.
24. Davies J.B. Review of methods for numerical solution of the hollow waveguide problem. //Proc. IEE, 1972, v.119, No 1, pp 33-37.
25. Григорьев А.Д., Янкевич В.Б. Резонаторы и резонаторные замедляющие системы СВЧ: Численные методы расчета и проектирования. -М.: Радио и связь, 1984. -248 с.
26. Johns P.B. Application of the transmission line method to homogeneous waveguides of arbitrary cross-section. //Proc. IEE, 1972, v. 119, No 8, pp. 1086-1091.
27. Johns P.B., Arhtarzad S. Three-dimensional analysis of microwave cavities using TLM method. //IEEE Microwave Theory and Techniques, Int. Symp. Microwave Serv. Man., Palo Alto, Calif., 1975.-N.Y., 1975, pp. 200-201.
28. Рошаль А.С., Лейтан В.А. Об одном методе численного моделирования электродинамических процессов. //Радиотехника и электроника, -1980. № 6. C. 1160-1164.
29. Вайнштейн Л.А. Электромагнитные волны. -М.: Радио и связь, 1988. -440 с.
30. Вайнштейн Л.А., Солнцев В.А. Лекции по сверхвысокочастотной электронике. -М.: Сов.радио, 1973. -400 с.
31. Кошляков Н.С., Глинер Э.Б., Смирнов М.М. Уравнения в частных производных математической физики. -М.: Высшая школа, 1970. -712 с.
32. Вайншнейн Л.А. Электронные волны в периодических структурах. //ЖТФ, -1957, -т.27, -вып.10, C.2340-2352.
33. Солнцев В.А. Возбуждение однородных и периодических волноводов сторонними токами. //ЖТФ. -1968. -т.38. -вып.1, -C.100-108.
34. Канавец В.И. Возбуждение электронным потоком вихревых полей электродинамической системы. //Радиотехника и электроника, -1977. -т.22. -№2 -C.402-408.
35. Гаруца Н.А., Канавец В.И., Слепков А.И. Матричный метод в теории взаимодействия релятивистских электронных потоков с полями многомодовых электродинамических структур. //Радиотехника и электроника, -1988. -т.33 -№4. -C.783-795.
36. Канавец В.И., Мозговой Ю.Д., Слепков А.И. Исследование самовозбуждения колебаний в мощных ЛБВ. //Радиотехника и электроника. -1986. -т.31 -№6. -C.1178-1186.
37. Свешников А.Г., Ильинский А.С., Котик И.П. Распространение колебаний в нерегулярных волноводах с боковой поверхностью сложной формы. /Вычислительные методы и программирование: -М.: МГУ. -1965. -вып.3. -C. 329-363.
38. Свешников А.Г. Неполный метод Галеркина. //Докл. АН СССР, -1977. -т.236. -№5 -C. 1076-1079.
39. Ковалев Н.Ф. Линейная теория СВЧ-приборов с сильноточными пучками релятивистских электронов, движущихся прямолинейно. /Релятивистская высочастотная электроника: вып.4, Горький: ИПФ АН СССР. -1984. -C. 5-48.
40. Пикунов В.М., Колесникова И.Ю. Линейная математическая модель релятивистского СВЧ-устройства черенковского типа. //Радиотехника и электроника. -1988 -т.55. -№11, -C.2381-2390.
41. Власов А.Н., Канавец В.И., Черепенин В.А. Геометрооптический метод анализа когерентного дифракционного излучения релятивистских электронных потоков. //Радиотехника и электроника. -1987. -т.32. -№3. -C.606-611.
42. Вычислительные методы в электродинамике: Пер. с англ. /Под ред. Р.Митры. -М.: Мир, 1977. -486 с.
43. Бахвалов Н.С. Численные методы. -М.: Наука, 1975. -632 с.
44. Марчук Г.И. Методы вычислительной математики. -М.: Наука, 1977. -456 с.
45. Бубушка И., Витасек Э., Прагер М. Численные процессы решения дифференциальных уравнений. -М.: Мир, 1969. -368 с.
46. Самарский А.А. Введение в численные методы. -М: Наука, 1987. -288 с.
47. Swanson R.C., Turkey Eu. On central-difference and upwind schemes. //J. Comput. Phys., 1992, v.101, №2, p.292-306.
48. Morse R.L., Nielson C.W. Numerical simulation of warm two-beam plasma. //Phys.Fluids, v.12, p.2418-2425, Nov 1969.
49. Boris J.P., Lee R. Nonphysical self forces in some electromagnetic plasma-simulation algorithms. //J. Comput. Phys., v.12, p.131-136, May 1973.
50. Tajima T., Lee Y.C. Absorbing boundary condition and Budden turning point technique for electromagnetic plasma simulations. //J. Comput. Phys., v.42, p.406-412, August 1981.
51. Lindman E.L. Free-space boundary conditions for the time dependent wave equation. //J. Comput. Phys., v.18, p.66-78, May 1975.
52. Stochniol A. A general transformation for open boundary finite element method for electromagnetic problems. //IEEE Trans. Magn., 1992, v.28, №2, p.1679-1681.
53. Morse R.L., Nielson C.W. Numerical simulation of the Weibel instability in one and two dimensions. //Phys. Fluids, v.14, p.830-840, April 1971.
54. Special Issue on Radar Reflectivity, Proc. IEEE, v.53, №8, 1965.
55. Владимиров В.С. Уравнения математической физики. -М.: Наука, 1981. -512 с.
56. Шестопалов В.П., Сиренко Ю.К. Динамическая теория решеток. -Киев: "Наукова думка", 1989. -216 с.
57. Верлань А.Ф., Сизиков В.С. Интегральные уравнения: методы, алгоритмы, программы. -Киев: "Наукова думка", 1986. -543 с.
58. Калиткин Н.Н. Численные методы. -М.: Наука, 1978. -512 с.
59. Семенов А.А. Теория электромагнитных волн. -М.: изд. Московского университета, 1962. -256 с.
60. Самарский А.А. Введение в теорию разностных схем. -М.: Наука, 1971. -552 с.
61. Стреттон Дж.А. Теория электромагнитизма. -М.: ОГИЗ "ГОСТЕХИЗДАТ", 1948. -539 с.
62. C.П.Бугаев, В.И.Канавец, В.И.Кошелев, В.А.Черепенин. Релятивистские многоволновые СВЧ-генераторы. //Новосибирск, «Наука», 1991 г.296 с.
65. Липаев В.В., Филинов Е.Н. Переносимость прикладных программ.//М. Наука, 1999?
66. POSIX-Based Supercomputing Application Environment Profile. IEEE Std 1003.10-1995.