Διαδικτυακό λογισμικό αριθμητικής ανάλυσης

ΣΧΟΛΗ ΤΕΧΝΟΛΟΓΙΚΩΝ ΕΦΑΡΜΟΓΩΝ ΤΜΗΜΑ ΒΙΟΜΗΧΑΝΙΚΗΣ ΠΛΗΡΟΦΟΡΙΚΗΣ ΤΟΜΕΑΣ ΥΠΟΛΟΓΙΣΤΙΚΩΝ ΣΥΣΤΗΜΑΤΩΝ

Διαδικτυακό Λογισμικό Αριθμητικής Ανάλυσης Numerical Analysis Network Software

Πτυχιακή Εργασία

ΚΟΜΠΟΘΑΝΑΣΗ ΝΙΚΗ (ΑΕΜ 2250) ΠΑΠΑΔΗΜΟΠΟΥΛΟΥ ΑΝΤΩΝΙΑ (ΑΕΜ 2204)

Επιβλέπων Καθηγητής: Δρ. Χρήστος Λαυράνος

ΚΑΒΑΛΑ 2013

1 | Σ ε λ ί δ α

ΠΡΟΛΟΓΟΣ

Tα τελευταία χρόνια έχει σημειωθεί ραγδαία ανάπτυξη της τεχνολογίας , η οποία κατάφερε να εισχωρήσει σε όλους τους τομείς της ζωής μας.Η εξέλιξη της αυτή συνέβαλε σημαντικά στον κλάδο των μαθηματικών και ιδιαίτερα στον κλάδο της Αριθμητικής Ανάλυσης, η οποία μπορούμε να πούμε ότι θεωρεί σχεδόν απαραίτητη την χρήση των ηλεκτρονικών υπολογιστών. Η αριθμητική ανάλυση ασχολείται με τον σχεδιασμό, την κατασκευή και την μελέτη αλγορίθμων για την προσέγγιση με ικανοποιητικό τρόπο, των λύσεων προβλημάτων τα οποία μπορούν να εκφραστούν με μαθηματικά μοντέλα.

Οι ηλεκτρονικοί υπολογιστές βοηθούν στην εφαρμογή των μεθόδων της Αριθμητικής Ανάλυσης και στην πληρέστερη κατανόηση αυτών για περαιτέρω ανάπτυξή τους, μέσω διαδραστικών εικόνων, οι οποίες συντελούν στην απεικόνιση των βημάτων εύρεσης του κάθε αλγοριθμικού τύπου. Το συμπέρασμα είναι λοιπόν ότι οι ηλεκτρονικοί υπολογιστές, εκτός από την ταχύτητα προσδιορισμού της προσεγγιστικής τιμής στην οποία οδηγεί η κάθε μέθοδος, αποτελούν και αναπόσπαστο κομμάτι κατά την διδασκαλία των διαφόρων μεθόδων.

Η εργασία αυτή είναι αποτέλεσμα θεωρητικής και εμπειρικής έρευνας που δεν θα

μπορούσε να πραγματοποιηθεί χωρίς την καθοδήγηση, τις γνώσεις και την πολύτιμη βοήθεια

του επιβλέποντα καθηγητή αυτής της πτυχιακής Δρ. Λαυράνο Χ. του οποίου και οφείλουμε τις

θερμότερες ευχαριστίες μας. Τέλος θα θέλαμε να ευχαριστήσουμε τις οικογένειές μας για την

πολύτιμη συμπαράστασή και συναισθηματική υποστήριξη.

2 | Σ ε λ ί δ α

Περιεχόμενα

ΠΕΡΙΛΗΨΗ ... 3

1 ΠΑΡΟΥΣΙΑΣΗ. ΤΩΝ ΓΕΝΙΚΩΝ ΜΕΘΟΔΩΝ ... 4

1.1Μέθοδος Διχοτόμησης (Bolzano) ... 4

1.1.1 Πλεονεκτήματα και Μειονεκτήματα της Μεθόδου της Διχοτόμησης: ... 6

1.2 Μέθοδος Newton-Raphson ... 6

1.2.1 Πλεονεκτήματα και Μειονεκτήματα της Μεθόδου Newton-Raphson: ... 8

1.2.2 Σύγκλιση της μεθόδου ... 9

2. ΣΥΣΤΗΜΑΤΑ ΓΡΑΜΜΙΚΩΝ ΕΞΙΣΩΣΕΩΝ... 11

2.1 Μέθοδος GAUSS ... 12

2.2 Μέθοδος LU ... 15

2.2.1 Γενικός τύπος για «LU» ανάλυση ... 17

2.3 Μέθοδοι LDM

και LDL

Παραγοντοποίησης ... 17

2.4 Μέθοδος JACOBI (Επαναληπτική)... 20

2.5 Μέθοδος GAUSS – SEIDEL... 22

2.6 Μέθοδος Cholesky(LLT) ... 23

3. ΠΡΟΣΕΓΓΙΣΤΙΚΗ ΟΛΟΚΛΗΡΩΣΗ ... 26

3.1 Η µέθοδος τραπεζίου ... 26

3.2 Μέθοδος Simpson: ... 29

4. ΠΟΛΥΩΝΥΜΙΚΗ ΠΑΡΕΜΒΟΛΗ ... 31

4.1 Πολυώνυμο LAGRANGE ... 31

4.2 Μέθοδος Πεπερασμένης Διαφοράς ... 32

4.3 Μέθοδος Ελαχίστων Τετραγώνων ... 33

5. ΑΠΟ ΤΗΝ ΘΕΩΡΙΑ ΣΤΗΝ ΠΡΑΞΗ ... 35

6. ΠΑΡΑΡΤΗΜΑ ... 44

ΒΙΒΛΙΟΓΡΑΦΙΑ ... 150

3 | Σ ε λ ί δ α

ΠΕΡΙΛΗΨΗ

Η εργασία αυτή αναφέρεται στην αριθμητική επίλυση εξισώσεων με την βοήθεια λογισμικού, το οποίο εφαρμόζει τις μεθόδους σε συγκεκριμένες συναρτήσεις με σκοπό την απεικόνιση, επίλυση και κατανόηση της κάθε μεθόδου. Το γενικό λογισμικό αρχικά παρουσιάζει μία εφαρμογή λογισμικού στο περιβάλλον της Visual C++ ακολουθώντας τις αρχές της τεχνολογίας λογισμικού, ενώ ταυτόχρονα θα αποκτά μια σημαντική εμπειρία στην επίλυση προβλημάτων με αριθμητικές τεχνικές.

Πιο συγκεκριμένα θα αναφερθούμε στην επίλυση εξισώσεων με τη μέθοδο Bolzano και τη μέθοδο Newton ,στην επίλυση γραμμικών συστημάτων με τη μέθοδο GAUSS, τη μέθοδο LU, LL

, LDM, LDL

, Jacobi και Gauss-Siedel,στην επίλυση ολοκληρωμάτων με τη μέθοδο Τραπεζίου και Simpson , στην υλοποίηση συμπτωτικής παρεμβολής με τη μέθοδο Lagrange και με τη μέθοδο πεπερασμένων διαφορών και τέλος στην υλοποίηση μη συμπτωτικής παρεμβολής με τη μέθοδο των ελαχίστων τετραγώνων.

Η εφαρμογή μαζί με την απαραίτητη βιβλιογραφική υποστήριξη θα γίνει διαθέσιμη και

μέσω διαδικτύου. Η εργασία θα αποτελέσει ένα χρήσιμο εκπαιδευτικό εργαλείο για όλους τους

φοιτητές θετικών επιστημών, ιδιαιτέρως δε για τους φοιτητές τμημάτων ΑΕΙ/ΤΕΙ στις

ειδικότητες Μαθηματικών, Πληροφορικής και Μηχανικών όλων των ειδικοτήτων καθώς και

απλούς χρήστες.

4 | Σ ε λ ί δ α

1. ΠΑΡΟΥΣΙΑΣΗ ΤΩΝ ΓΕΝΙΚΩΝ ΜΕΘΟΔΩΝ

Γενικά

Ένα από τα κλασικά προβλήματα των εφαρμοσμένων μαθηματικών είναι η επίλυση της εξίσωσης f (x)=0 , ήτοι η εύρεση μιας ή περισσοτέρων τιμών που μηδενίζουν τη συνάρτηση f (x) .Ως γνωστόν, αναλυτική έκφραση των τιμών αυτών (ριζών) μπορεί να δοθεί σε πολύ λίγες περιπτώσεις. Άρα αποτελεί επιτακτική ανάγκη η χρησιμοποίηση αριθμητικών μεθόδων για την προσέγγιση των ριζών μιας δοθείσας συνάρτησης. Σε αυτή την περίπτωση οι μέθοδοι είναι επαναληπτικές οπότε ξεκινώντας από μια αρχική εκτίμηση εφαρμόζουμε τον κατάλληλο αλγόριθμο που θα δημιουργήσει μια ακολουθία αριθμών, η οποία συγκλίνει στη ζητούμενη ρίζα ρ. Στη συνέχεια παρουσιάζουμε τις πιο γνωστές μεθόδους, ήτοι τη μέθοδο της Διχοτόμησης και της Newton-Raphson.

1.1Μέθοδος Διχοτόμησης (Bolzano)

Η μέθοδος της διχοτόμησης βασίζεται κυρίως στο θεώρημα του Bolzano, το οποίο δίνουμε στη συνέχεια, και γι' αυτό πολλές φορές συναντάμε τη μέθοδο αυτή και ως μέθοδο Bolzano.

Θεώρημα Αν η συνάρτηση f (x) είναι συνεχής στο κλειστό διάστημα [a,β] και ισχύει f (a) f (β)<0 , τότε υπάρχει τουλάχιστον μια ρίζα ρ της συνάρτησης f (x) στο διάστημα αυτό. Αν

επιπλέον στο διάστημα [a, β ] ισχύει f '(x) ≠ 0 για κάθε x∈ [a,β ], η ρίζα αυτή είναι μοναδική .Το θεώρημα αυτό είναι πολύ χρήσιμο στην διαδικασία του εντοπισμού μιας ρίζας της εξίσωσης f (x) =0 . Εφαρμόζοντας την μέθοδο της διχοτόμησης παίρνουμε αρχικά το διάστημα [αₒ ,βₒ]

όπου η συνάρτηση f(x) είναι συνεχής και ισχύει f (αₒ) f (βₒ ) < 0 ,οπότε υπάρχει ρίζα της εξίσωσης f (x) = 0 , βάσει του παραπάνω θεωρήματος, στο διάστημα αυτό.

Επίσης θεωρούμε ότι ισχύει f '(x)≠0 , για κάθε x∈ [αₒ ,βₒ] ούτως ώστε η ρίζα στο υπό μελέτη διάστημα να είναι μοναδική. Θεωρούμε το μέσον

5 | Σ ε λ ί δ α

του διαστήματος [α

,β

]. Αν f (x

) = 0 , τότε η ζητούμενη ρίζα είναι ρ= x

. Αν f (x

) ≠ 0 , τότε θεωρούμε τα γινόμενα f( a

) f (x

) και f (x

) f (β

) των τιμών της f (x) στα άκρα των διαστημάτων [ a

,x

] και [x

, β

] αντίστοιχα. Ένα από τα δύο γινόμενα αυτά είναι αρνητικό και ονομάζουμε [ 

, 

] το νέο διάστημα. Δηλαδή

 αν f( aₒ) f (xₒ ) < 0, θέτουμε 

= aₒ και 

= xₒ

 αν f (xₒ) f (βₒ) < 0 , θέτουμε 

= xₒ και 

= βₒ

Θεωρούμε πάλι το μέσον του νέου διαστήματος

και συνεχίζουμε τη διαδικασία με τον ίδιο τρόπο, οπότε ορίζεται η ακολουθία 

, k=0,1,….των μέσων των διαστημάτων, η οποία προσεγγίζει την τιμή της ρίζας ρ .

Το ότι η ακολουθία που δημιουργείται συγκλίνει πάντοτε στη ρίζα ρ αποδεικνύεται εύκολα αν θεωρήσουμε το σφάλμα στο πρώτο βήμα 

για το οποίο ισχύει

2

0 0 0

0



 



    ^

Στο δεύτερο βήμα θα έχουμε

2 0 0 1 1 1

1

2 2







 



   ^







και στο k βήμα

1 0 0

1

2 2

 

 





k







 





6 | Σ ε λ ί δ α

1.1.1 Πλεονεκτήματα και Μειονεκτήματα της Μεθόδου της Διχοτόμησης:

1. Είναι η μόνη μέθοδος που συγκλίνει ακόμη και όταν η αρχική τιμή δεν βρίσκεται κοντά στην επιθυμητή προσέγγιση της ρίζας, ήτοι υπάρχει πάντα σύγκλιση στο διάστημα εφαρμογής της.

2. Ο απαιτούμενος αριθμός επαναλήψεων k που χρειάζονται για την προσέγγιση της ρίζας είναι γνωστός εξ αρχής.

3. Δεν χρειάζονται περαιτέρω πληροφορίες κατά την εφαρμογή της μεθόδου εκτός από το αλγεβρικό πρόσημο της f (x) σε κάθε σημείο.

4. Συγκλίνει αργά στην προσεγγιστική τιμή.

5. Σε ορισμένες περιπτώσεις μπορεί να εμφανιστεί καλύτερη προσέγγιση της ρίζας σε μικρότερο αριθμό βημάτων από τον προκαθορισμένο αριθμό, οπότε τα επιπλέον βήματα είναι περιττά.

1.2 Μέθοδος Newton-Raphson

Η μέθοδος Newton-Raphson αποτελεί την ταχύτερη από τις μεθόδους προσέγγισης ρίζας μιας συνάρτησης και για αυτό το λόγο χρησιμοποιείται συχνότερα σε προβλήματα επίλυσης εξισώσεων, καθώς και σε συστήματα μη γραμμικών εξισώσεων.

Για το τύπο της μεθόδου στην οποία αναφερόμαστε, θεωρούμε ένα σημείο του άξονα , όπου η τιμή της συνάρτησης , η οποία πληροί τις προϋποθέσεις του θεωρήματος Bolzano, είναι ίση με . Στο σημείο βρίσκουμε την εξίσωση της εφαπτομένης.

Αν α η κλίση αυτής τότε έχουμε την εξίσωση η οποία περνά από το σημείο και τέμνει τον άξονα , έστω στο σημείο

Άρα

και

εκ των οποίων παίρνουμε

7 | Σ ε λ ί δ α

Οπότε αντικαθιστώντας την κλίση α της ευθείας με την παράγωγο έχουμε

από την οποία προκύπτει ο γνωστός αλγοριθμικός τύπος

Η μέθοδος Newton-Raphson αποτυγχάνει να συγκλίνει σε τρεις περιπτώσεις:

1. Όταν η παράγωγος σε κάποια επανάληψη μηδενιστεί. Τότε δεν είναι πλέον δυνατός ο προσδιορισμός του x

Σχήμα 1. Πρώτη περίπτωση αποτυχίας

2.Όταν η συνάρτηση αλλάζει πρόσημο σε δύο σημεία π.χ. τα και , ενώ η παράγωγός της

στα σημεία αυτά έχει την ίδια τιμή. Σε αυτή την περίπτωση, η μέθοδος Newton-Raphson

εισέρχεται σε ένα κλειστό βρόχο, από τον οποίο δεν μπορεί να εξέλθει παρά μόνο, όταν

εξαντληθούν οι επαναλήψεις που έχει δηλώσει ο χρήστης για την εύρεση της ρίζας (Σχ. 2).

8 | Σ ε λ ί δ α

Σχήμα 2. Δεύτερη περίπτωση αποτυχίας της μεθόδου

3. Όταν η συνάρτηση προσεγγίζει ασυμπτωτικά το μηδέν και έχει γίνει λανθασμένη επιλογή αρχικού σημείου. Σ’ αυτή την περίπτωση η μέθοδος Newton μπορεί να απομακρύνεται από την ρίζα της συνάρτησης (Σχ. 3).

Σχήμα 3. Τρίτη περίπτωση αποτυχίας της μεθόδου

1.2.1 Πλεονεκτήματα και Μειονεκτήματα της Μεθόδου Newton-Raphson:

1. Το κυριότερο πλεονέκτημα της μεθόδου είναι η μεγάλη ταχύτητα σύγκλισης (2ης τάξης), η οποία ξεπερνά την ταχύτητα σύγκλισης πολλών άλλων μεθόδων.

2. Η μέθοδος είναι επιρρεπής σε ταλαντώσεις.

3. Δεν υπάρχει εγγύηση ότι η μέθοδος θα συγκλίνει.

9 | Σ ε λ ί δ α

4. Απαιτεί σε κάθε ρίζα, η παράγωγος να είναι μη μηδενική, αλλιώς η μέθοδος αποτυγχάνει. Αν μηδενιστεί, τότε τείνει στο άπειρο η προσεγγιστική τιμή της ρίζας και δεν μπορούμε να την επανεκκινήσουμε.

5. Είναι απαραίτητος ο υπολογισμός της παραγώγου.

Για την αντιμετώπιση των ανωτέρω μειονεκτημάτων ελέγχουμε αρχικά την μοναδικότητα της ρίζας στο διάστημα, όπου θα γίνει η εφαρμογή, με θεωρήματα, τα οποία έχουν αναφερθεί στην μέθοδο της διχοτόμησης, και κατόπιν εξετάζουμε την περίπτωση σύγκλισης στην ρίζα.

1.2.2 Σύγκλιση της μεθόδου

Έστω Ι ένα διάστημα στο οποίο υπάρχει ρίζα της και ισχύει η συνάρτηση είναι συνεχής και υπάρχουν οι παράγωγοι πρώτης και δεύτερης τάξης και

συνεχείς, με . Αν και η g απεικονίζει το Ι στο Ι , τότε η ακολουθία που παράγεται από τον αλγόριθμο Newton-Raphson συγκλίνει στη ρίζα ρ .

Δηλαδή ικανή συνθήκη για την σύγκλιση είναι η ακολουθία , που παράγεται από τον αλγόριθμο να ανήκει στο διάστημα Ι . Αφ' ετέρου, εφόσον έχουμε εντοπίσει μία απλή ρίζα της είναι δυνατόν να βρούμε διάστημα ώστε η ακολουθία που παράγεται να συγκλίνει όπως προκύπτει από τα ακόλουθα.

Θεωρούμε το ανάπτυγμα Taylor

Θέτοντας χ=ρ και , από τον τύπο του αλγορίθμου στην πρώτη επανάληψη, προκύπτει

10 | Σ ε λ ί δ α

άρα

Οι f '(x) και f "(x), αφού είναι συνεχείς στο Ι , είναι και φραγμένες, άρα υπάρχουν Μ

και Μ

, τέτοια ώστε και , για όλα τα x στο υπό μελέτη διάστημα, οπότε θέτοντας Μ=

1 2

2



έχουμε

το οποίο αποδεικνύει την δεύτερης τάξης σύγκλιση της μεθόδου Newton-Raphson.

Η σχέση (1) μπορεί να γραφτεί

όπου α και β τα άκρα του διαστήματος. Για να έχουμε σύγκλιση πρέπει

Η τελευταία σχέση μας δίνει τη δυνατότητα εύρεσης του διαστήματος, στο οποίο έχουμε

σύγκλιση. Δηλαδή, αν , διχοτομούμε το αρχικό διάστημα και, με τη βοήθεια του

θεωρήματος Bolzano, επαναλαμβάνουμε τη διαδικασία, μέχρις ότου εγκλωβίσουμε τη ρίζα σε

ένα διάστημα για το οποίο θα ισχύει

11 | Σ ε λ ί δ α

2. ΣΥΣΤΗΜΑΤΑ ΓΡΑΜΜΙΚΩΝ ΕΞΙΣΩΣΕΩΝ

Ορισμός

Σύστημα γραμμικών εξισώσεων ή ανισώσεων ή αλλιώς γραμμικό σύστημα είναι ένα σύνολο από γραμμικές εξισώσεις ή ανισώσεις με τους ίδιους αγνώστους, τους οποίους προσπαθούμε να προσδιορίσουμε ώστε να επαληθεύουν όλες τις εξισώσεις ή ανισώσεις του συνόλου. Η πιο απλή μη τετριμμένη περίπτωση γραμμικού συστήματος είναι όταν έχουμε δύο άγνωστες μεταβλητές:

Για παράδειγμα, ένα σύστημα γραμμικών εξισώσεων δύο άγνωστων μεταβλητών είναι:

ενώ αντίστοιχο σύστημα γραμμικών ανισώσεων είναι:

Η λύση συστημάτων γραμμικών εξισώσεων απαντάται σε μια πλειάδα προβλημάτων κάθε επιστημονικού κλάδου. Σε πολλές περιπτώσεις, χρειάζεται να λύσει κανείς γραμμικά συστήματα πολύ μεγάλου μεγέθους, π.χ. 1000 × 1000 συντελεστών. Η λύση ενός τέτοιου συστήματος απαιτεί ένα πολύ μεγάλο αριθμό πράξεων. Ακόμη και με τη χρήση γρήγορου υπολογιστή, η λύση μπορεί να είναι χρονοβόρα και να απαιτεί μεγάλη υπολογιστική μνήμη.

Επίσης, όσο μεγαλύτερος είναι ο αριθμός των βημάτων, τόσο αυξάνει το συνολικό σφάλμα στρογγυλοποίησης των αριθμητικών πράξεων στη μνήμη του υπολογιστή.

Οι μέθοδοι επίλυσης γραμμικών συστημάτων κατατάσσονται σε δύο κατηγορίες, στις

άμεσες και στις επαναληπτικές μεθόδους. Οι άμεσες μέθοδοι μπορούν να οδηγήσουν σε ακριβή

λύση του συστήματος, ενώ οι επαναληπτικές μέθοδοι ξεκινούν με κάποια αρχική εκτίμηση της

λύσης και βελτιώνουν την εκτίμηση μέχρι κάποια επιθυμητή ακρίβεια. Για πολύ μεγάλα

γραμμικά συστήματα, οι επαναληπτικές μέθοδοι είναι ασύγκριτα πιο γρήγορες απ ότι οι άμεσες

μέθοδοι. Για ορισμένους τύπους γραμμικών συστημάτων π.χ. για συστήματα που ανάγονται σε

συμμετρικό πίνακα ή σε πίνακα με διαγώνια δομή, έχουν αναπτυχθεί εδικές μέθοδοι που

12 | Σ ε λ ί δ α

επιτυγχάνουν την επίλυση του συστήματος με λιγότερες πράξεις από ότι με τη χρήση γενικών μεθόδων.

2.1 Μέθοδος GAUSS

Σε αυτή την ενότητα θα παρουσιάσουμε μια βασική μέθοδο για την επίλυση γραμμικών συστημάτων N εξισώσεων με N αγνώστους. Το βασικό βήμα είναι η μετατροπή του συστήματος σε ένα άνω-τριγωνικό σύστημα οπότε στη συνέχεια η διαδικασία υπολογισμού των λύσεων είναι απλή.

Υπενθυμίζουμε ότι στα γραμμικά συστήματα επιτρέπονται οι παρακάτω πράξεις που δεν αλλοιώνουν τις λύσεις του αρχικού συστήματος :

• Αλλαγή της σειράς δύο εξισώσεων

• Πολλαπλασιασμός μιας εξίσωσης με μία μη-μηδενική σταθερά

• Μια εξίσωση μπορεί να αντικατασταθεί από το άθροισμα αυτής της εξίσωσης και ένα πολλαπλάσιο κάποιας από τις υπόλοιπες.

Ας υποθέσουμε ότι δίδεται το γραμμικό σύστημα: A·x = B με det (A) 6= 0.

1 1

3 13 2 12 1

11

x a x a x .... a x b

a    



2 2

3 23 2 22 1

21

x a x a x .... a x b

a    



. . .

N N NN N

N

N

x a x a x a x b

a





 ....  

Για τη μετατροπή του παραπάνω συστήματος σε άνω τριγωνικό θα ακολουθήσουμε τα επόμενα

βήματα:

13 | Σ ε λ ί δ α

Βήμα 1ο

Πολλαπλασιάζω την πρώτη εξίσωση με a

/ a

και την αφαιρώ από τη δεύτερη εξίσωση.

Ομοίως, πολλαπλασιάζω την πρώτη με a

/ a

και την αφαιρώ από την τρίτη κ.ο.κ., οπότε λαμβάνω:

1 1

3 13 2 12 1

11

x a x a x .... a x b

a    



2 2

3 23 2

22

....

0  a x  a x   a

x

 b . .

. . . .

N N NN N

N

x a x a x b

a    

 ....

0

Όπου για παράδειγμα, είναι

22 11

21 12

22

a

a a

a  a 

Βήμα 2ο

Η πρώτη γραμμή και η πρώτη στήλη παραμένουν οπότε πολλαπλασιάζω αντίστοιχα τη δεύτερη εξίσωση με a

/ a

και την αφαιρώ από την τρίτη εξίσωση κ.ο.κ.

οπότε,

1 1

3 13 2 12 1

11

x a x a x .... a x b

a    



2 2

3 23 2

22

....

0  a x  a x   a

x

 b

3 3

3

33

....

0

0   a x   a

x

 b . .

. . . .

N N NN

N

x a x b

a   



 0 ....

0

14 | Σ ε λ ί δ α

Αντίστοιχα, για παράδειγμα, είναι:

33 22

31 32

33

a

a a

a  a 

Μετά από Ν - 1 Βήματα καταλήγω στο σύστημα:

1 1

3 13 2 12 1

11

x a x a x .... a x b

a    



a

x

 a

x

 ....  a

x

 b

a

x

 ....  a

x

 b

. . . . . .

) 1 ( )

1 ( 3

3

....

0

0   a

x   a

x

 b

Το παραπάνω σύστημα είναι τριγωνικό και η λύση του μπορεί να δοθεί εύκολα ακολουθώντας την παρακάτω διαδικασία.

• Προφανώς για από τη Ν-οστή εξίσωση του παραπάνω συστήματος λαμβάνουμε την τιμή του x

:

) 1 (

) 1 (







NN N N

N

a

x b

• ενώ οι υπόλοιπες ρίζες του συστήματος υπολογίζονται εύκολα από την σχέση:

) 1 (

1 ) 1 ( )

1 (











^ 



ii N

i k

k i ik i

i

i

a

x a b

x

Ο αριθμός των πράξεων που απαιτεί η λύση ενός συστήματος N γραμμικών εξισώσεων με τη

μέθοδο Gauss είναι  ^{4 N}

^{ 9 N}

^{ 7 N}  ^{/ 6} _.

15 | Σ ε λ ί δ α

2.2 Μέθοδος LU

Η μέθοδος πραγματοποίησης ή διάσπασης LU αναφέρεται στο πρόβλημα της διάσπασης ενός πίνακα Α στη μορφή A=LU. Κάθε πίνακας A μπορεί να γραφεί ως γινόμενο δυο πινάκων που περιέχουν τη διαγώνιο και τα πάνω ή κάτω από αυτή στοιχεία του πίνακα. Για παράδειγμα:



 









 







44 43 42 41

34 33 32 31

24 23 22 21

14 13 12 11

a a a a

a a a a

a a a a

a a a a

=



 









 







44 43 42 41

33 32 31

22 21 11

0 0 0

0 0 0

l l l l

l l l

l l l

*



 









 







1 0 0 0

1 0 0

1 0 1

34 24 23

14 13 12

u u u

u u u

A = _(lower l _{) *}

) (upper u

Στόχος μας είναι ο υπολογισμός των στοιχείων των πινάκων L και U. Αυτό θα γίνει με τη λύση ενός συστήματος N × N εξισώσεων που στην περίπτωση μας όπου ο πίνακας A είναι 4 × 4 αναγόμαστε στη λύση ενός συστήματος 16 εξισώσεων.

Πολλαπλασιάζοντας τις γραμμές του L με την πρώτη στήλη του U, λαμβάνουμε :

41 41 31 31 21 21 11

11

a l a l a l a

l    

Δηλαδή, η πρώτη στήλη του L είναι η ίδια με την πρώτη στήλη του A. Στη συνέχεια, πολλαπλασιάζουμε την πρώτη γραμμή του L με τις στήλες του U, οπότε λαμβάνουμε:

11 12

12

l

u  a ,

11 13

13

l

u  a ,

11 14

14

l

u  a

16 | Σ ε λ ί δ α

Άρα και η πρώτη γραμμή του U υπολογίστηκε. Συνεχίζοντας υπολογίζουμε τη δεύτερη στήλη του L.

 



 















42 42 12 41

32 32 12 31

22 22 12 21

a l u l

a l u l

a l u l

12 41 42 42

12 31 32 32

12 21 22 22

u l a l

u l a l

u l a l













Όπως παρατηρούμε, τα l

, l

_, l

και u

έχουν ήδη υπολογισθεί, επομένως και η δεύτερη στήλη του πίνακα L υπολογίσθηκε. Με ανάλογο τρόπο, οι σχέσεις

22 13 21 23

23

l

u l

u a 

32 32 13 31 33

33

a l u l u

l   

22 14 21 24

24

l

u l

u a 

23 42 13 41 43

43

a l u l u

l   

33

24 32 14 31 43

34

l

u l u l

u a  

34 43 24 42 14 41 44

44

a l u l u l u

l    

μας δίνουν τα υπόλοιπα στοιχεία των δυο πινάκων U και L.

17 | Σ ε λ ί δ α

2.2.1 Γενικός τύπος για «LU» ανάλυση

Με βάση τα προηγούμενα οδηγούμαστε στη δημιουργία ενός ‘κανόνα’ υπολογισμού των στοιχείων των δύο πινάκων L και U.









1 j

k

kj ik ij

ij

a l u

l _για j  i _{και i  1 , 2 ,..., }

ljj u l a

u

j

k

ki jk ji

ji









1

1

για j  i _{και i  2 , 3 ,..., }

Για την ειδική περίπτωση του j  1 τα l

θα είναι l

 a

ενώ για i  1 ο κανόνας για τα u

είναι

11 1 11

1

1

a

a l

u

 a



2.3 Μέθοδοι LDM

και LDL

Παραγοντοποίησης

Ας υποθέσουμε ότι ο Α είναι αντιστρέψιμος nxn πίνακας που έχει χρησιμοποίει παραγοντοποίηση LU, A = LU. Ξέρουμε ότι L είναι ο κάτω τριγωνικός, και ο U είναι άνω τριγωνικός πίνακας. Αν ορίσουμε τον διαγώνιο πίνακα με D

) ,..., , ( 0

0

0 0

0 0

22 11 22

11

nn

nn

u u u diag U

U U

D 

 

 





 

 





















Τότε ο πίνακας D είναι επίσης αντιστρέψιμος και έτσι ο πίνακας D

U, ο οποίος έχει σαν είσοδο



 ^,

ij ij

IJ

U

U U

D



i,j=1,2,…,n.

18 | Σ ε λ ί δ α

Οι διαγώνιες αυτές καταχωρήσεις ισούνται με το 0, επομένως D

U είναι μέρος του άνω τριγωνικού πίνακα. Άρα εάν ορίσουμε τον πίνακα Μ ως Μ

=D

U, θα έχουμε την παραγοντοποίηση

LDM

U LDD LU

A  

 ,

Στην οποία και το L και το Μ είναι μέρος του κάτω τριγωνικού και το D είναι η διαγώνιος. Αυτή είναι η «LDM

Παραγοντοποίηση»

Εξαιτίας τις στενής σχέσης μεταξύ των μεθόδων LDM

και LU , η LDM

συνήθως δεν χρησιμοποιείται στην πράξη για να λύση το σύστημα Αx=b για έναν γενικά αντιστρέψιμο πίνακα Α. Ωστόσο αυτή η μέθοδος γίνετε πολύ πιο ενδιαφέρουσα όταν είναι συμμετρική.

Εάν Α=Α

τότε LDM

=(LDM

)

=MD

L

=MDL

, επειδή ο D γίνεται διαγώνιος πίνακας είναι επίσης και συμμετρικός. Επειδή τα L και M γίνονται μέρη του κάτω τριγωνικού πίνακα που είναι και αντιστρέψιμος, προκύπτει ότι ^M

^{LD  DL}

^M

^{ D}  ^M

^L 

_.

Ο πίνακας Μ

L είναι μέρος του κάτω τριγωνικού. Άρα η ακόλουθη εξίσωση δηλώνει ότι ο κάτω τριγωνικός πίνακας είναι ίσος του άνω τριγωνικού το οποίο συνεπάγεται ότι και οι δύο πίνακες πρέπει να είναι διαγώνιοι. Προκύπτει λοιπόν ότι Μ

L=I, επειδή οι διαγώνιες καταχωρήσεις είναι ήδη γνωστό ότι ισούνται με ένα.

Συμπεραίνουμε ότι L=M και λόγω αυτού έχουμε την LDL

μέθοδο πραγματοποίησης LDL

A  .Αυτή η μέθοδος θεωρείται πιο «οικονομική» σε σύγκριση με την LU και LDM, επειδή χρειάζονται μόνο n(n+1)/2 καταχωρήσεις για το L και το D. Μόλις αυτοί οι παράγοντες ληφθούν μπορούμε να λύσουμε το Αx=b λύνοντας το απλό σύστημα ^{Ly  b , Dz  y} ,

, z x L

 .

Με χρήση της εμπρός αντικατάστασης, των απλές διαιρέσεων, και τις πίσω

αντικατάστασης, η μέθοδος LDL

μπορεί να ληφθεί με την εκτέλεση της μεθόδου Gauss, αλλά

κάτι τέτοιο δεν θα ήταν αποτελεσματικό, γιατί η απαλοιφή Gauss απαιτεί την εκτέλεση

εργασιών για ολόκληρες τις σειρές του Α, η οποία δεν εκμεταλλεύεται την συμμετρία. Αυτό

μπορεί να αντιμετωπιστεί, παραλείποντας τις ενημερώσεις του άνω τριγωνικού τμήματος του Α,

δεδομένου ότι δεν επηρεάζεται ο υπολογισμός του L και D.

19 | Σ ε λ ί δ α

Μια εναλλακτική προσέγγιση, η οποία είναι εξίσου αποτελεσματική στα πλαίσια της μεθόδου της κινητής υποδιαστολής, αλλά και η πιο επιθυμητή λόγω της χρήσης διανύσματος, περιλαμβάνει τον υπολογισμό του L στήλη κατά στήλη. Αν πολλαπλασιάσουμε και τα δυο μέρη τις εξίσωσης ^{A  LDL}

με το βασικό διανύσματος ℮

για την εξαγωγή της j-όστις στήλης αυτού του πίνακα, θα πάρουμε





k

j

lkukj a

1

,

Όπου A   a

... a

 , L   l

... l



Είναι στήλες του A και του L και v

=DL

℮

Υποθέστε ότι οι στήλες 1,2,.,j-1 του L, καθώς επίσης οι d

,d

..,d

, j-1, και τα πρώτα j-1 διαγώνια στοιχείο του D, έχουν ήδη υπολογιστεί. Στην συνέχεια μπορούμε να υπολογίσουμε το u

=d

ljk για k=1,2,…,j-1, επειδή αυτές οι ποσότητες εξαρτώνται από τα στοιχεία των L και D τα οποία είναι διαθέσιμα. Προκύπτει ότι

jj jj j jj j j j

k k

j

l uk l u l d l

a  

 

 1

1

Ωστόσο l

=1, που σημαίνει ότι μπορούμε να βρούμε το d

από το j-οστό στοιχείο του διανύσματος.

kj j

k k j

j

a l u

u 







1

και στη συνέχεια παίρνουμε την «ενδιαφέρουσα» περιοχή της στήλης l

η οποία είναι οι

καταχωρήσεις j:n, από τους υπολογισμούς l

=u

/d

.Το υπόλοιποι από αυτή τη στήλη είναι μηδέν

επειδή το L είναι κάτω τριγωνικό. Ακολουθεί ολόκληρος ο αλγόριθμος

20 | Σ ε λ ί δ α

L = 0

D = 0

for j = 1: n do for k = 1: j-1 do Vkj = dkkljk end

uj = aj: n; j for k = 1 : j-1 do uj = uj -lj:n;kvkj end

djj = u1j lj:n;j = uj=djj end

Ο αλγόριθμος αυτός απαιτεί περίπου το ³ 1

n

της λειτουργίας της κινητής υποδιαστολής ,το μισό δηλαδή από ότι χρειάζεται η μέθοδος Gauss.

2.4 Μέθοδος JACOBI (Επαναληπτική)

Η μέθοδος αυτή είναι γενίκευση της μεθόδου x = g (x) που έχουμε χρησιμοποιήσει για την εύρεση ριζών μη-γραμμικών εξισώσεων και συστημάτων .Προφανώς, η μέθοδος αυτή δεν είναι ακριβής αλλά υπό κατάλληλες συνθήκες μπορεί να επιτύχει υψηλή ακρίβεια με μικρό αριθμό υπολογιστικών πράξεων και πολύ απλό, προγραμματιστικά, κώδικα.

Έστω το σύστημα των N εξισώσεων με N αγνώστους :



,

,...,  0

1

x x x



f



,

,...,  0

2

x x x



f

…

21 | Σ ε λ ί δ α



,

,...,

  0

n

x x x

f

Που εύκολα μπορεί να γραφεί στη μορφή:

 x x x



g

x



,

,...,

 x x x



g

x



,

,...,

…



,

,...,





N

g x x x

x

με αυτό τον τρόπο το αντιμετωπίζουμε όπως τα μη γραμμικά συστήματα, με τη διαφορά ότι απουσιάζουν οι μη-γραμμικοί όροι. Πρακτικά κάθε μια από τις N εξισώσεις θα μπορούσε να γραφεί στη μορφή:

j N

i j j

ij ii ii i

i

a x

a a

x b 







1

1

και στη συνέχεια δίνοντας N ‘αυθαίρετες ’ αρχικές τιμές x

, x

,... x

, δημιουργούμε μια γενικευμένη αναδρομική σχέση της μορφής

) ,...,

(

) 1

( k

N k

i k

i

g x x

x



Ικανή συνθήκη σύγκλισης είναι η :







i j j

ij

ii

a

a

1

που αν ικανοποιείται η σύγκλιση είναι βέβαιη και ανεξάρτητη από τις αρχικές τιμές .

,...., ,

) 0 (

1

x x

x

22 | Σ ε λ ί δ α

Σε μορφή πινάκων η αναδρομική σχέση μπορεί να γραφεί ως εξής:

) (

1 1

) 1 (

X K

k

D B D C

x





όπου A = D+C δηλ. ο D περιέχει τα διαγώνια στοιχεία του A και ο C όλα τα υπόλοιπα στοιχεία έχοντας θέσει 0 τα διαγώνια.

2.5 Μέθοδος GAUSS – SEIDEL

Είναι επαναληπτική μέθοδος και αποτελεί βελτίωση της μεθόδου Jacobi ώστε να επιτυγχάνεται ταχύτερα η σύγκλιση στις ρίζες του συστήματος .Αν θεωρήσουμε κάποιες αρχικές τιμές για το διάνυσμα x

έστω τις x

υπολογίζουμε από την πρώτη εξίσωση το x

και στη συνέχεια το χρησιμοποιώ στη δεύτερη εξίσωση μαζί με τα αρχικά  x

, x

,..., x

 για τον υπολογισμό του x

. Στη συνέχεια τα x

και x

χρησιμοποιούνται στον υπολογισμό του x

με αυτό τον τρόπο από τις υπόλοιπες N − 3 εξισώσεις λαμβάνουμε τα x

.

Στη γενική περίπτωση για τον υπολογισμό του x

μετά από k επαναλήψεις χρησιμοποιούμε μια σχέση της μορφής :

 

 



 

 



 N

j

k j j

k

b a x

x a

2

) ( 1 1

11 )

1 ( 1

1

στη δεύτερη εξίσωση από την οποία θα υπολογίσουμε το x

μετά από k επαναλήψεις αντικαθιστώ το 



k

k

x x

x

,

,..., και υπολογίζουμε το x

από την σχέση

 



 

  

 





 N

j

k j j k

k

b a x a x

x a

3

) ( 2 )

1 ( 1 21 2 22 )

1 ( 2

1

23 | Σ ε λ ί δ α

Οπότε στην τρίτη εξίσωση θέτουμε 



k

k

x x

x

,

,... κ.ο.κ Άρα ο γενικός τύπος θα είναι:

 



 

  

 



 



 1

1 1

) 1 ( )

1

(

1

j

N

i J

k j ij k

j ij i

ii k

i

b a x a x

x a

Και εδώ η συνθήκη σύγκλισης είναι:







i J J

ij

ii

a

a

1

i  1 , 2 ,..., N





1 )

1

(k k k

Ux Lx

B D

x







Όπου

upper diogonal

lower

L D U

A    .Ο πίνακας L περιέχει τα στοιχεία του πίνακα Α που βρίσκονται κάτω από τη διαγώνιο, ο πίνακας D μόνο τα διαγώνια στοιχεία του Α και τέλος ο πίνακας U τα στοιχεία του πίνακα Α που βρίσκονται πάνω από τη διαγώνιο.

2.6 Μέθοδος Cholesky(LLT)

Η μέθοδος Cholesky αναφέρεται στην ειδική διάσπαση που χαρακτηρίζει τους συμμετρικούς  ^A

^{ A}  και θετικά ορισμένους πίνακες. Για τους πίνακες αυτούς ισχύει ,

L

U  δηλαδή:

LL

A 

Συγκεκριμένα ισχύει το θεώρημα :

Θεώρηµα : ∆ιάσπαση Cholesky

Ένας συµµετρικός πίνακας Α µπορεί να τεθεί στη µορφή A  LL

όπου L κάτω

τριγωνικός, µε l

> 0, i  1 ,..., n , αν και µόνο αν είναι θετικά ορισμένος.