Machine Learning 7: Νόμος του Hooke με Gradient Descent

Το γνωστό μας παράδειγμα: Hooke's Law

Στην προηγούμενη ενότητα μελετήσαμε τη σχέση μεταξύ τάσης (stress) και παραμόρφωσης (strain) σε ένα πείραμα μηχανικής πετρωμάτων.

Η βασική φυσική σχέση είναι ο νόμος του Hooke:

σ = E · ε

• σ = stress (τάση)
• ε = strain (παραμόρφωση)
• E = Young's modulus

Στην ενότητα ML6 υπολογίσαμε το μέτρο Young χρησιμοποιώντας τη μέθοδο των ελαχίστων τετραγώνων (OLS).

Τώρα θα δούμε πώς το ίδιο πρόβλημα διατυπώνεται στο πλαίσιο του Machine Learning.

Τα Πειραματικά Δεδομένα

Χρησιμοποιούμε τα ίδια δεδομένα του πειράματος:

Ορισμός Μεταβλητών στο Machine Learning

Στο Machine Learning τα δεδομένα εκπαίδευσης (training data) περιγράφονται με συγκεκριμένη μαθηματική σημειογραφία.

• x : input ή feature του μοντέλου. Στο παράδειγμά μας είναι η παραμόρφωση (strain).
• y : output ή target variable. Στο παράδειγμά μας είναι η τάση (stress).
• (x,y) : ένα ζεύγος δεδομένων, δηλαδή μία μέτρηση από το πείραμα.
• (x⁽ⁱ⁾, y⁽ⁱ⁾) : το i-th training example.
• m : αριθμός training examples.
• n : αριθμός features.
• θ : παράμετρος του μοντέλου που πρέπει να μάθει ο αλγόριθμος.

Στο πείραμά μας έχουμε:

• m = 6 (έξι πειραματικές μετρήσεις)
• n = 1 (ένα feature: strain)

Training Examples

Κάθε γραμμή του πίνακα είναι ένα training example:

Υπόθεση του Μοντέλου (Hypothesis)

Το μοντέλο που θέλουμε να μάθει ο αλγόριθμος είναι:

h_θ(x) = θx

όπου:

• x = strain
• h_θ(x) = προβλεπόμενη τιμή stress
• θ = παράμετρος του μοντέλου

Στην πραγματικότητα η παράμετρος θ αντιστοιχεί στο Young's modulus.

Στόχος του Learning Algorithm

Ο στόχος του Machine Learning είναι να βρει την τιμή του θ που κάνει τις προβλέψεις του μοντέλου όσο το δυνατόν πιο κοντά στις πραγματικές μετρήσεις stress.

Δηλαδή θέλουμε να ελαχιστοποιήσουμε το σφάλμα μεταξύ:

• πραγματικής τιμής: y
• πρόβλεψης του μοντέλου: h_θ(x)

Στην επόμενη ενότητα θα δούμε πώς αυτό γίνεται με τον αλγόριθμο:

Gradient Descent

Ο Gradient Descent βρίσκει σταδιακά την τιμή του θ που ελαχιστοποιεί το σφάλμα του μοντέλου.

Η Συνάρτηση Κόστους (Cost Function)

Για να μπορέσουμε να βρούμε την καλύτερη τιμή της παραμέτρου θ, πρέπει πρώτα να μετρήσουμε πόσο καλές είναι οι προβλέψεις του μοντέλου μας.

Αυτό γίνεται με τη συνάρτηση κόστους (cost function).

Στην απλή γραμμική παλινδρόμηση η συνάρτηση κόστους ορίζεται ως:

J(θ) = (1 / 2m) Σ (h_θ(x⁽ⁱ⁾) − y⁽ⁱ⁾)²

όπου:

• m : αριθμός training examples
• x⁽ⁱ⁾ : η είσοδος της i-οστής παρατήρησης
• y⁽ⁱ⁾ : η πραγματική τιμή
• h_θ(x) : η πρόβλεψη του μοντέλου

Η συνάρτηση κόστους μετρά το μέσο τετραγωνικό σφάλμα (mean squared error) μεταξύ των πραγματικών τιμών και των προβλέψεων του μοντέλου. Αποκαλείται και Mean Squared Error Loss.

Υπολογισμός της J(θ)

Για το παράδειγμα του νόμου του Hooke έχουμε:

h_θ(x) = θx

Άρα η συνάρτηση κόστους γίνεται:

J(θ) = (1 / 2m) Σ (θx⁽ⁱ⁾ − y⁽ⁱ⁾)²

Δοκιμάζοντας διαφορετικές τιμές του θ μπορούμε να υπολογίσουμε την τιμή της J(θ) για κάθε περίπτωση.

Γράφημα της Cost Function

Με τη βοήθεια ενός προγράμματος Python υπολογίσαμε τη συνάρτηση κόστους για πολλές διαφορετικές τιμές του θ και σχεδιάσαμε το γράφημα της J(θ).

Ερμηνεία του Διαγράμματος

Το γράφημα της J(θ) έχει σχήμα παραβολής.

Για διαφορετικές τιμές της παραμέτρου θ το σφάλμα του μοντέλου αλλάζει.

• Μεγάλες τιμές της J(θ) σημαίνουν ότι το μοντέλο προβλέπει πολύ λάθος τις τιμές stress.
• Μικρές τιμές της J(θ) σημαίνουν ότι οι προβλέψεις είναι πιο κοντά στα πραγματικά δεδομένα.

Το χαμηλότερο σημείο της καμπύλης ονομάζεται minimum της cost function.

Η τιμή του θ στο σημείο αυτό είναι η καλύτερη δυνατή παράμετρος για το μοντέλο μας.

Στο παράδειγμα του πειράματος η τιμή αυτή αντιστοιχεί περίπου στο:

θ ≈ 2 × 10¹⁰ Pa

δηλαδή περίπου στο Young's modulus που υπολογίσαμε στην προηγούμενη ενότητα με τη μέθοδο OLS.

Gradient Descent

Θέλουμε να βρούμε την τιμή της παραμέτρου θ που ελαχιστοποιεί τη συνάρτηση κόστους:

min J(θ)

Για να βρούμε αυτό το ελάχιστο χρησιμοποιούμε έναν αλγόριθμο που ονομάζεται:

Gradient Descent

Στην επόμενη ενότητα θα δούμε πώς ο Gradient Descent βρίσκει σταδιακά την τιμή του θ που ελαχιστοποιεί τη συνάρτηση κόστους.

Gradient Descent: Βήμα προς Βήμα

Το πρόβλημα που θέλουμε να λύσουμε είναι το εξής:

min J(θ)

Δηλαδή θέλουμε να βρούμε την τιμή της παραμέτρου θ που ελαχιστοποιεί τη συνάρτηση κόστους.

Ο πιο συνηθισμένος αλγόριθμος για αυτό το πρόβλημα είναι ο Gradient Descent.

Η βασική ιδέα

Φανταστείτε ότι βρισκόμαστε σε ένα βουνό μέσα σε ομίχλη και θέλουμε να φτάσουμε στο χαμηλότερο σημείο της κοιλάδας.

Δεν βλέπουμε όλο το τοπίο, αλλά μπορούμε να αισθανθούμε την κλίση του εδάφους κάτω από τα πόδια μας.

Σε κάθε βήμα κινούμαστε προς την κατεύθυνση όπου το έδαφος κατεβαίνει περισσότερο.

Βήμα 1: Επιλογή αρχικής τιμής

Ξεκινάμε από μια αρχική τιμή της παραμέτρου:

θ₀

Η τιμή αυτή μπορεί να είναι τυχαία.

Βήμα 2: Υπολογισμός του Gradient

Υπολογίζουμε την παράγωγο της συνάρτησης κόστους ως προς τη παράμετρο θ:

∂J(θ) / ∂θ

Η παράγωγος αυτή δείχνει την κατεύθυνση στην οποία αυξάνεται η συνάρτηση κόστους.

Βήμα 3: Κίνηση προς την αντίθετη κατεύθυνση

Για να μειώσουμε το σφάλμα, κινούμαστε προς την αντίθετη κατεύθυνση του gradient.

Η ενημέρωση της παραμέτρου γίνεται με τον κανόνα:

θ := θ − α ∂J(θ) / ∂θ

όπου:

• α : learning rate (μέγεθος βήματος)
• ∂J(θ)/∂θ : gradient της συνάρτησης κόστους

Βήμα 4: Επανάληψη

Η διαδικασία επαναλαμβάνεται πολλές φορές:

1. Υπολογίζουμε το gradient
2. Ενημερώνουμε την παράμετρο θ
3. Μειώνεται η τιμή της cost function

Μετά από αρκετές επαναλήψεις η παράμετρος συγκλίνει προς το σημείο όπου η συνάρτηση κόστους είναι ελάχιστη.

Πότε σταματά ο αλγόριθμος;

Ο Gradient Descent σταματά όταν:

• η μεταβολή της παραμέτρου γίνεται πολύ μικρή
• ή όταν το gradient είναι κοντά στο μηδέν

∂J(θ) / ∂θ ≈ 0

Στο σημείο αυτό έχουμε φτάσει σε ένα minimum της cost function.

Gradient Descent στο παράδειγμα του Hooke

Στο πρόβλημα της εκτίμησης του Young's modulus η παράμετρος που θέλουμε να βρούμε είναι το: Θ

Ο Gradient Descent ξεκινά από μια αρχική τιμή και προσαρμόζει σταδιακά το θ μέχρι οι προβλέψεις του μοντέλου να ταιριάζουν όσο το δυνατόν καλύτερα στα πειραματικά δεδομένα stress–strain.

Gradient Descent σε Python

Για να εφαρμόσουμε τον αλγόριθμο Gradient Descent στο παράδειγμα του νόμου του Hooke μπορούμε να χρησιμοποιήσουμε το ακόλουθο πρόγραμμα Python.

import numpy as np
import matplotlib.pyplot as plt

# strain
X = np.array([0.0005,0.0010,0.0015,0.0020,0.0025,0.0030]).reshape(-1,1)

# stress in MPa
y = np.array([11.2,20.5,30.8,39.9,51.1,59.4])

theta = 0.0

l_rate = 5000
rep = 200

losses = []

for _ in range(rep):

    preds = theta * X.ravel()

    err = preds - y

    loss = (err**2).mean()/2

    losses.append(loss)

    dtheta = (X.ravel()*err).mean()

    theta -= l_rate*dtheta

print("Estimated Young Modulus:",theta)

Ανάλυση του Αλγορίθμου Gradient Descent

Ο παραπάνω κώδικας υλοποιεί τον αλγόριθμο Gradient Descent για να υπολογίσει το μέτρο Young από τα πειραματικά δεδομένα. Ας εξετάσουμε τα βασικά του μέρη.

1. Τα δεδομένα εκπαίδευσης

X = np.array([0.0005,0.0010,0.0015,0.0020,0.0025,0.0030])
y = np.array([11.2,20.5,30.8,39.9,51.1,59.4])

Το διάνυσμα X περιέχει τις τιμές της παραμόρφωσης (strain) ενώ το διάνυσμα y περιέχει τις αντίστοιχες τιμές της τάσης (stress).

Κάθε ζεύγος:

(x⁽ⁱ⁾, y⁽ⁱ⁾)

αποτελεί ένα training example.

2. Αρχικοποίηση της παραμέτρου

theta = 0.0

Ο αλγόριθμος ξεκινά από μια αρχική τιμή της παραμέτρου θ.

Στο πρόβλημά μας η παράμετρος αυτή αντιστοιχεί στο Young's modulus.

3. Ορισμός του learning rate

l_rate = 5000

Το learning rate καθορίζει το μέγεθος του βήματος που κάνει ο αλγόριθμος σε κάθε επανάληψη.

Αν το learning rate είναι πολύ μεγάλο, ο αλγόριθμος μπορεί να γίνει ασταθής. Αν είναι πολύ μικρό, η σύγκλιση γίνεται πολύ αργή.

4. Ο αριθμός επαναλήψεων

rep = 200

Ο Gradient Descent είναι επαναληπτικός αλγόριθμος. Σε κάθε επανάληψη ενημερώνεται η τιμή της παραμέτρου.

5. Υπολογισμός της πρόβλεψης

preds = theta * X

Το μοντέλο που χρησιμοποιούμε είναι:

h_θ(x) = θx

Η μεταβλητή preds περιέχει τις προβλέψεις του μοντέλου.

6. Υπολογισμός του σφάλματος

err = preds - y

Το σφάλμα είναι η διαφορά μεταξύ της πραγματικής τιμής και της πρόβλεψης.

7. Υπολογισμός της Cost Function

loss = (err**2).mean()/2

Η συνάρτηση κόστους είναι:

J(θ) = (1 / 2m) Σ (h_θ(x⁽ⁱ⁾) − y⁽ⁱ⁾)²

Η συνάρτηση αυτή μετρά το μέσο τετραγωνικό σφάλμα του μοντέλου.

8. Υπολογισμός του Gradient

dtheta = (X * err).mean()

Το gradient δείχνει προς την κατεύθυνση στην οποία αυξάνεται περισσότερο η συνάρτηση κόστους.

9. Ενημέρωση της παραμέτρου

theta -= l_rate * dtheta

Η ενημέρωση της παραμέτρου γίνεται σύμφωνα με τον κανόνα του Gradient Descent:

θ := θ − α ∂J(θ)/∂θ

Με αυτό το βήμα ο αλγόριθμος κινείται προς την κατεύθυνση όπου η συνάρτηση κόστους μειώνεται.

Αποτέλεσμα

Μετά από αρκετές επαναλήψεις ο αλγόριθμος συγκλίνει σε μια τιμή της παραμέτρου:

θ ≈ 20000 MPa

η οποία αντιστοιχεί στο Young's modulus του υλικού που μελετήσαμε.

Βιβλιογραφία

Montgomery, D. C., Peck, E. A., & Vining, G. G. (2021). Introduction to linear regression analysis (6th ed.). Wiley.

Stanford Online. Stanford CS229: Machine Learning - Linear Regression and Gradient Descent | Lecture 2 (Autumn 2018) [Video]. YouTube. https://www.youtube.com/watch?v=4b4MUYve_U8&t=3051s

St-Aubin, A. (n.d.). An introduction to supervised machine learning. McGill University.