BEGIN:VCALENDAR VERSION:2.0 PRODID:-//TUC//Events//EN CALSCALE:GREGORIAN BEGIN:VTIMEZONE TZID:Europe/Athens TZNAME:EEST DTSTART:19700329T030000 RRULE:FREQ=YEARLY;BYDAY=-1SU;BYMONTH=3 BEGIN:STANDARD TZOFFSETFROM:+0200 TZOFFSETTO:+0300 TZNAME:EET DTSTART:19701025T040000 RRULE:FREQ=YEARLY;BYDAY=-1SU;BYMONTH=10 END:STANDARD END:VTIMEZONE BEGIN:VEVENT CREATED:20260831T110926Z LAST-MODIFIED:20260831T110926Z DTSTAMP:20261014T051131Z UID:1791943891@tuc.gr SUMMARY:Παρουσίαση διπλωματικής εργασίας κας Δάφνης Παπαδάκη - Σχολή ΗΜΜΥ LOCATION: DESCRIPTION:https://www.tuc.gr/el/to-polytechnei o/ilektronikes-ypiresies/imerologio/ imerologio-ekdiloseon-1?tx_tucevents 2_tuceventsdisplay%5Baction%5D=show& tx_tucevents2_tuceventsdisplay%5Bcon troller%5D=Event&tx_tucevents2_tucev entsdisplay%5Bevent%5D=8651&cHash=ef d19b8ec787412d5c97fa4da784a6b2\nΠΟΛΥ ΤΕΧΝΕΙΟ ΚΡΗΤΗΣ\n Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών\ n Πρόγραμμα Προπτυχιακών Σπουδών\n Π ΑΡΟΥΣΙΑΣΗ ΔΙΠΛΩΜΑΤΙΚΗΣ ΕΡΓΑΣΙΑΣ\n Δά φνης Παπαδάκη\n με θέμα\n Σύγκριση Τ εχνικών Ομοσπονδιακής Μάθησης στο Py Torch\n A Comparison of Federated Le arning Techniques at PyTorch\n Εξετα στική Επιτροπή\n Καθηγητής Αντώνιος  Δεληγιαννάκης (επιβλέπων, ΗΜΜΥ)\n Α ναπληρωτής Καθηγητής Βασίλειος Σαμολ αδάς (ΗΜΜΥ)\n Καθηγητής Μίνως Γαροφα λάκης  (ΗΜΜΥ)\n Περίληψη\n Παραδοσια κά, στο Machine Learning, όλα τα raw data των clients στέλνονται σε έναν κεντρικό server με σκοπό την εκπαίδ ευση του μοντέλου. Η μεταφορά των δε δομένων των πελατών σε έναν server δ εν είναι μόνο ακριβή από άποψη επικο ινωνίας, αλλά δημιουργεί επίσης σοβα ρούς κινδύνους για την ιδιωτικότητα και την ασφάλεια. Το πρόβλημα αυτό ε ίναι ιδιαίτερα σημαντικό σε τομείς ό πως η υγεία, τα χρηματοοικονομικά κα ι οι φορητές συσκευές. Η Ομοσπονδιακ ή Μάθηση (Federated Learning) αντιμε τωπίζει αυτό το πρόβλημα και διασφαλ ίζει ότι τα προσωπικά και ευαίσθητα δεδομένα παραμένουν στη συσκευή κάθε πελάτη. Αντί να στέλνονται τα raw d ata, οι clients συνεργάζονται για τη ν εκπαίδευση ενός κοινού μοντέλου, α ποστέλλοντας στον server μόνο τις πα ραμέτρους του μοντέλου ή άλλες απαρα ίτητες πληροφορίες απαραίτητες για τ ον αλγόριθμο. Με αυτόν τον τρόπο, η Ομοσπονδιακή Μάθηση επιτρέπει την απ οκεντρωμένη εκπαίδευση μοντέλων, μει ώνοντας παράλληλα το επικοινωνιακό κ όστος και προστατεύοντας την ιδιωτικ ότητα των δεδομένων.\n Ωστόσο, το πλ αίσιο αυτό εισάγει ορισμένες βασικές προκλήσεις, όπως η ετερογένεια των δεδομένων μεταξύ των πελατών, οι δια φορές στο hardware των συσκευών τους , οι ασταθείς συνδέσεις δικτύου και τα διαφορετικά επίπεδα συμμετοχής τω ν πελατών. Έχει προταθεί ένα ευρύ φά σμα αλγορίθμων, καθένας από τους οπο ίους στοχεύει στην αντιμετώπιση διαφ ορετικών προκλήσεων. Ωστόσο, έχει απ οδειχθεί δύσκολο να προσδιοριστεί πο ια μέθοδος είναι η βέλτιστη, καθώς ο ι υπάρχοντες αλγόριθμοι συχνά αξιολο γούνται κάτω από διαφορετικές πειραμ ατικές συνθήκες και με διαφορετικούς στόχους. Για τον λόγο αυτό, είναι α παραίτητη η δημιουργία ενός κοινού π ειραματικού πλαισίου για τη σύγκριση αυτών των μεθόδων, ώστε να μπορούν να εξαχθούν αντικειμενικά και αξιόπι στα συμπεράσματα σχετικά με την απόδ οσή τους.\n Η παρούσα διπλωματική ερ γασία αξιολογεί διάφορους αλγορίθμου ς βελτιστοποίησης Ομοσπονδιακής Μάθη σης κάτω από διαφορετικά σενάρια. Οι μέθοδοι που μελετώνται είναι οι Fed Avg, FedProx, SCAFFOLD, FedAdam και FDA-OPT. Όλες οι μέθοδοι υλοποιούντα ι σε Python και αξιολογούνται σε τρί α datasets, τα MNIST, EMNIST και CIF AR-10, και σε τέσσερις αρχιτεκτονικέ ς μοντέλων: Logistic Regression, LeN et-5, CNN και ResNet-18. Το performa nce αξιολογείται με βάση τρια metric s: τον αριθμό γύρων επικοινωνίας, το ν χρόνο εκπαίδευσης και το επικοινων ιακό κόστος που απαιτείται για την ε πίτευξη μιας επιθυμητής ακρίβειας.\n Τα αποτελέσματα δεν αναδεικνύουν μί α συγκεκριμένη μέθοδο ως ανώτερη από τις υπόλοιπες και στα τρια metrics. Ο FDA-OPT επιτυγχάνει γενικά το χαμ ηλότερο επικοινωνιακό κόστος, ενώ ο FedAdam συγκλίνει ταχύτερα ως προς τ ον χρόνο εκπαίδευσης. Ο SCAFFOLD, πα ρά τις ισχυρές θεωρητικές του εγγυήσ εις, δυσκολεύεται να επιτύχει υψηλές τιμές ακρίβειας και συνοδεύεται από σημαντική επικοινωνιακή επιβάρυνση. Ο FedProx περιορίζει το φαινόμενο c lient drift σε ορισμένες περιπτώσεις , ενώ σε άλλες παρουσιάζει παρόμοια απόδοση με τον FedAvg. Συνολικά, τα αποτελέσματα δείχνουν ότι η Ομοσπονδ ιακή Μάθηση περιλαμβάνει έναν συμβιβ ασμό μεταξύ ταχύτητας, σταθερότητας και επικοινωνιακής αποδοτικότητας.\n Abstract \n Traditionally in machin e learning all the raw data from the clients is sent to a central server in order to train the model. Transf erring the clients’ data to a server is not only expensive communication -wise, but it also creates serious p rivacy and security risks. This prob lem is especially important in secto rs such as healthcare, finance, and mobile computing. Federated Learning (FL) addresses this problem and ens ures that personal and sensitive dat a remain on each client’s device. In stead of sharing the raw data, clien ts collaboratively train a global mo del by sending only model parameters , or other necessary optimization in formation, to the server. That way, Federated Learning enables decentral ized model training while reducing c ommunication overhead and preserving data privacy. However, this framewo rk introduces some key challenges, s uch as data heterogeneity across cli ents, difference in hardware on clie nts’ devices, unstable network conne ction and varying levels of client p articipation. A wide range of algori thms has been proposed, each aiming to address the different challenges and improve the optimization process . It has proved difficult to determi ne which method is the most optimal, since existing algorithms are often evaluated under different experimen tal settings, with different targets each time. For this reason, it’s ne cessary to create a common experimen tal framework and compare the popula r methods. That way, objective and r eliable conclusions about their perf ormance can be drawn. This thesis ev aluates several federated optimizati on algorithms under different scenar ios. The methods studied include Fed Avg, FedProx, SCAFFOLD, FedAdam and FDA-OPT. All methods are implemented in Python and are evaluated across 3 datasets (MNIST and EMNIST, CIFAR- 10) and 4 model architectures (Logis tic Regression, LeNet-5, and a custo m CNN, ResNET-18). The performance i s assessed under 3 metrics: communic ation rounds, training time, and com munication cost that was required to reach a target accuracy. The result s do not single out one specific met hod as consistently superior to the rest across all three metrics. FDA-O PT achieves generally the lowest com munication cost , while FedAdam conv erges fastest in terms of training t ime. SCAFFOLD, in spite of its stron g theoretical guarantees, struggles to reach the high accuracies and int roduces significant communication ov erhead. FedProx alleviates client dr ift in some cases, while in others h as identical perfomance with FedAvg. Overall, these findings showcase th at Federated Learning involves a tra de-off between speed, stability, and communication efficiency.\n STATUS:CONFIRMED ORGANIZER;RSVP=FALSE;CN=TUC;CUTYPE=TUC:mailto:webmaster@tuc.gr DTSTART:20260903T110000 DTEND:20260903T120000 TRANSP:OPAQUE CLASS:DEFAULT END:VEVENT END:VCALENDAR