. Перечислите основные факторы, определяющие сходимость численного решения

Существует ряд факторов, определяющих сходимость численного решения:

Базовые дифференциальные уравнения для моделирования полупроводниковых приборов после дискретизации могут быть представлены как система большого числа нелинейных алгебраических уравнений   F(x)=0.

Система может быть решена итеративно методом Ньютона

            .

Точность вычислений может быть потеряна при расчете правой части и при расчете Якобиана. Количественно распространение ошибки вычислений задается коэффициентом усиления ошибки, который определяется для функции y(x) следующим образом:

 

 

Сходимость зависит от:

         разрядности вычислительной системы (машинная точность);

         коэффициента усиления ошибки при расчете правой части;

         коэффициента усиления ошибки при расчете Якобиана;

         особенностей решаемой физической проблемы

Аппаратная точность определяется разрядностью используемой вычислительной системы и считается известной заранее. Степень нарастания ошибки при расчете правой части зависит, в основном, от параметров сетки, а для Якобиана – еще и от особенностей характеристик в рабочей точке (например, при расчете пробойных явлений).

 

 

Ссылка на основную публикацию
Adblock detector