Método iterativo

Na matemática computacional, um método iterativo é um procedimento matemático que usa um valor inicial para gerar uma sequência de soluções aproximadas de melhoria para uma classe de problemas, em que o n-ésima aproximação é derivada das anteriores. Uma implementação específica de um método iterativo como descida de gradiente ou subida de colina, incluindo qualquer critério de terminação, é um algoritmo do método iterativo. Um método iterativo é chamado de convergente se a sequência correspondente converge para determinadas aproximações iniciais. Uma análise de convergência matematicamente rigorosa de um método iterativo é geralmente realizada; no entanto, métodos iterativos baseados em heurística também são comuns.

Em contraste, métodos diretos tentar resolver o problema por uma sequência finita de operações. Na ausência de erros de arredondamento, métodos diretos forneceriam uma solução exata (por exemplo, resolvendo um sistema linear de equações Ax= = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = =b)Não. Amathbf {x} =mathbf {b} } por eliminação gaussiana). Os métodos iterativos são muitas vezes a única escolha para equações não lineares. No entanto, métodos iterativos são frequentemente úteis mesmo para problemas lineares envolvendo muitas variáveis (às vezes na ordem de milhões), onde métodos diretos seriam proibitivamente caros (e em alguns casos impossível) mesmo com o melhor poder de computação disponível.

Pontos fixos atrativos

Se uma equação pode ser colocada na forma f(x) = x, e uma solução x é um ponto fixo atrativo da função f, então pode-se começar com um ponto x₁ na bacia de atração de x, e seja x_n+1 = f(x_n) para n ≥ 1 e a sequência {x_n}_{n ≥ 1} convergirá para a solução x. Aqui x_n é a nésima aproximação ou iteração de x e x_n+1 é a próxima ou n + 1 iteração de x. Como alternativa, os sobrescritos entre parênteses são frequentemente usados em métodos numéricos, para não interferir nos subscritos com outros significados. (Por exemplo, x⁽ⁿ⁺¹⁾ = f(x⁽ⁿ⁾).) Se a função f for continuamente diferenciável, uma condição suficiente para a convergência é que o raio espectral da derivada seja estritamente limitado por um em uma vizinhança do ponto fixo. Se esta condição for mantida no ponto fixo, então deve existir uma vizinhança suficientemente pequena (bacia de atração).

Sistemas lineares

No caso de um sistema de equações lineares, as duas principais classes de métodos iterativos são os métodos iterativos estacionários e os métodos de subespaço Krylov mais gerais.

Métodos iterativos estacionários

Introdução

Os métodos iterativos estacionários resolvem um sistema linear com um operador que se aproxima do original; e com base na medição do erro no resultado (o resíduo), forme uma "equação de correção" para o qual este processo é repetido. Embora esses métodos sejam simples de derivar, implementar e analisar, a convergência é garantida apenas para uma classe limitada de matrizes.

Definição

Um método iterativo é definido por

xk+1?Telecomunicações Telecomunicações (xk),k≥ ≥ 0(x) ^{k+1}: Psi (mathbf {x} ^{k}),quad kgeq 0

e para um determinado sistema linear Ax= = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = =b)Não. Amathbf {x} =mathbf {b} } com solução exata x∗ ∗ {displaystyle mathbf {x} ^{*}} o erro por

ek?xk- Sim. - Sim. x∗ ∗ ,k≥ ≥ 0.{displaystyle mathbf {e} ^{k}:=mathbf {x} ^{k}-mathbf {x} ^{*},quad kgeq 0,

Um método iterativo é chamado linear linear linear se existe uma matriz C∈ ∈ Rn× × nNão. Cin mathbb {R} ^{ntimes n}} tal que

ek+1= = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = =CekGerenciamento de contas Gerenciamento de contas k≥ ≥ 0(e) - Sim. Cmathbf {e} ^{k}quad forall ,kgeq 0

e esta matriz é chamada de matriz de iteração. Um método iterativo com uma determinada matriz de iteração CNão. C. é chamado Convergência se o seguinte for

Limpar.k→ → ∞ ∞ Ck= = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = =0.{displaystyle lim _{krightarrow infty }C^{k}=0,}

Um teorema importante afirma que para um determinado método iterativo e sua matriz de iteração CNão. C. é convergente se e somente se seu raio espectral ? ? (C)(C)} é menor que a unidade, ou seja,

<math alttext="{displaystyle rho (C)? ? (C)<1.{displaystyle rho (C)<1,.}<img alt="{displaystyle rho (C)

Os métodos iterativos básicos funcionam dividindo a matriz ANão. A. para dentro

A= = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = =M- Sim. - Sim. NNão. A=M-N

e aqui a matriz MNão. deve ser facilmente invertível. Os métodos iterativos são agora definidos como

Mxk+1= = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = =Nxk+b),k≥ ≥ 0.Não. Mmathbf {x} ^{k+1}= Nmathbf {x} ^{k}+b,quad kgeq 0,}

A partir disso segue que a matriz de iteração é dada por

C= = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = =Eu...- Sim. - Sim. M- Sim. - Sim. 1A= = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = =M- Sim. - Sim. 1N.Não. C=I-M^{-1}A=M^{-1}N,}

Exemplos

Exemplos básicos de métodos iterativos estacionários usam uma divisão da matriz ANão. A. como

A= = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = = =D+L+U,D?Diagnóstico((umEu...Eu...)Eu...){displaystyle A=D+L+U,quad D:={text{diag}}(a_{ii})_{i})}

Onde? DNão. é apenas a parte diagonal de ANão. A.e LNão. L. é a parte triangular inferior estrita de ANão. A.. Respectivamente, UNão. é a parte triangular superior estrita de ANão. A..

• Método Richardson: M?1ω ω Eu...(ω ω ≠ ≠ 0)- Sim. Não. }}Iquad (omega neq 0)}
• Método Jacobi: M?DNão. M.
• Método de Jacobi danificado: M?1ω ω D(ω ω ≠ ≠ 0)- Sim. }}Dquad (omega neq 0)}
• Método Gauss–Seidel: M?D+LNão. D+L
• Método de super-relaxação bem sucedido (SOR): M?1ω ω D+L(ω ω ≠ ≠ 0)- Sim. }}D+Lquad (omega neq 0)}
• Super-relaxação simétrica sucessiva (SSOR): M?1ω ω (2- Sim. - Sim. ω ω )(D+ω ω L)D- Sim. - Sim. 1(D+ω ω U)(ω ω ∉(0,2?){displaystyle M:={frac {1}{omega (2-omega)}}(D+omega L)D^{-1}(D+omega U)quad (omega not in {0,2})})}

Métodos iterativos estacionários lineares também são chamados de métodos de relaxamento.

Métodos do subespaço Krylov

Os métodos subespaciais de Krylov funcionam formando uma base da sequência de sucessivas potências matrizes vezes o residual inicial (o Sequência de Krylov). As aproximações para a solução são então formadas minimizando o residual sobre o subespaço formado. O método prototípico nesta classe é o método conjugado gradiente (CG) que assume que a matriz do sistema ANão. A. é simétrico positivo-definido. Para simétrico (e possivelmente indefinido) ANão. A. um funciona com o método residual mínimo (MINRES). No caso de matrizes não simétricas, foram derivados métodos como o método residual mínimo generalizado (GMRES) e o método de gradiente biconjugado (BiCG).

Convergência dos métodos do subespaço Krylov

Como esses métodos formam uma base, é evidente que o método converge em N iterações, onde N é o tamanho do sistema. No entanto, na presença de erros de arredondamento, esta afirmação não é válida; além disso, na prática, N pode ser muito grande e o processo iterativo atinge precisão suficiente muito antes. A análise destes métodos é difícil, dependendo de uma função complicada do espectro do operador.

Pré-condicionadores

O operador de aproximação que aparece em métodos iterativos estacionários também pode ser incorporado em métodos de subespaço de Krylov, como GMRES (alternativamente, métodos de Krylov pré-condicionados podem ser considerados como acelerações de métodos iterativos estacionários), onde eles se tornam transformações do operador original para um presumivelmente melhor condicionado. A construção de pré-condicionadores é uma grande área de pesquisa.

História

Jamshīd al-Kāshī usou métodos iterativos para calcular o seno de 1° e π no Tratado de acordes e Sine para alta precisão. Um dos primeiros métodos iterativos para resolver um sistema linear apareceu em uma carta de Gauss a um de seus alunos. Ele propôs resolver um sistema de equações 4 por 4 resolvendo repetidamente o componente em que o resíduo era o maior.

A teoria dos métodos iterativos estacionários foi solidamente estabelecida com o trabalho de D.M. Young a partir da década de 1950. O método do gradiente conjugado também foi inventado na década de 1950, com desenvolvimentos independentes de Cornelius Lanczos, Magnus Hestenes e Eduard Stiefel, mas sua natureza e aplicabilidade foram mal compreendidas na época. Somente na década de 1970 percebeu-se que os métodos baseados em conjugação funcionam muito bem para equações diferenciais parciais, especialmente do tipo elíptica.