Advanced Techniques for Evaluating and Auditing AI Systems (with examples)
Το ISACA Athens Chapter, σε συνεργασία με την code4thought, διοργανώνει τη διαδικτυακή εκδήλωση “Advanced Techniques for Evaluating and Auditing AI Systems”, με αντικείμενο τις σύγχρονες τεχνικές αξιολόγησης και ελέγχου συστημάτων Τεχνητής Νοημοσύνης.
Η παρουσίαση θα περιέχει μια εισαγωγή στους τρόπους με τους οποίους μπορούμε να ελέγξουμε διαφορετικούς τύπους τεχνητής νοημοσύνης (ΤΝ) (Gen AI, Visual, Tabular / Timeseries) όσον αφορά την Αντιπροσωπευτικότητα (fairness) , Aκρίβεια (accuracy) και Επεξηγησιμότητα (explainability). Εν συνεχεία θα γίνει μια παρουσίαση των απαιτήσεων τεχνικού ελέγχου για συστήματα ΑΙ των EU AI Act και ISO/IEC42001 και μια παρουσίαση παραδειγμάτων πραγματοποίησης ελέγχων σε συστήματα πρόσληψης υπαλλήλων με χρήση ΤΝ, και στο πλαίσιο του NYC Bias Audit Law και βάσει ελεύθερων κριτηρίων που ορίζει ο χρήστης.
Tα βασικότερα σημεία που θα καλύψει η παρουσίαση:
- 1. Με ποιούς τρόπους μπορούμε να ελέγξουμε διαφορετικούς τύπους μοντέλων ΤΝ (GenAI, Visual, Tabular/Timeseries) όσον αφορά την Αντιπροσωπευτικότητα (fairness) , Aκρίβεια (accuracy) και Επεξηγησιμότητα (explainability) (Πέτρος Σταυρουλάκης)
- 2. Ανάλυση σημείων χρήσης αυτοματοποιημένου ελέγχου ποιότητας συστημάτων ΤΝ σε συνάρτηση με το EU AI Act και το ISO42001 (Πέτρος Σταυρουλάκης)
- 3. Παράδειγμα αυτοματοποιημένου ελέγχου συστήματος ΤΝ με χρήση στην πρόσληψη υπαλλήλων, βάσει του NYC Bias Audit Law.(Ρωμανός Καψάλης)
- 4. Παράδειγμα αυτοματοποιημένου ελέγχου συστήματος ΤΝ με χρήση στην πρόσληψη υπαλλήλων, βάσει κριτηρίων του χρήστη. (Ρωμανός Καψάλης)
Ομιλητές:
Πέτρος Σταυρουλάκης
Ο Πέτρος Σταυρουλάκης είναι Σύμβουλος Υπεύθυνης Τεχνητής Νοημοσύνης στην code4thought. Δραστηριοποιείται τόσο στο κομμάτι της εταιρικής συμβουλευτικής, όσο και στην παραγωγή συστημάτων ελέγχου τεχνητής νοημοσύνης σε ερευνητικό και τεχνικό επίπεδο.
Τελείωσε το πτυχίο του σε Ηλεκτρονική Μηχανική στο πανεπιστήμιο του Σαουθάμπτον της Αγγλίας, και διαθέτει και MSc και PhD από το ίδιο πανεπιστήμιο. Έχει δουλέψει ως μεταδιδακτορικός ερευνητής στο Πανεπιστήμιο του Νοτινγκαμ αλλά και στο Ιδρυμα Τεχνολογίας κι Έρευνας στο Ηράκλειο της Κρήτης, ενώ έχει δουλέψει και ως Higher Research Scientist στο Εθνικό Ινστιτούτο Πιστοποίησης της Αγγλίας, (National Physical Laboratory) στο Λονδίνο και σε πολλαπλές εταιρείες ως Research Manager και Senior Research Manager στο ίδιο πόστο σε Αγγλία, Γερμανία και Κίνα. Από το 2025 εργάζεται κι ως καθηγητής στην Στρατιωτική Σχολή Ευελπίδων στο Τμήμα Πληροφορικής.
Ρωμανός Καψάλης
Ο Ρωμανός Καψάλης είναι Μηχανικός Τεχνητής Νοημοσύνης στην code4thought, με εξειδίκευση στην αξιολόγηση, τον έλεγχο και τη διασφάλιση ποιότητας συστημάτων AI. Η εργασία του επικεντρώνεται στην ανάπτυξη τεχνικών και εργαλείων για την αξιολόγηση της απόδοσης, της αξιοπιστίας και της συμμόρφωσης μοντέλων μηχανικής μάθησης, συμπεριλαμβανομένων ελέγχων μεροληψίας και επεξηγησιμότητας (explainability).
Συμμετέχει ενεργά στην ανάπτυξη της πλατφόρμας iQ4AI, συμβάλλοντας στον σχεδιασμό και την υλοποίηση λειτουργιών που υποστηρίζουν τον εσωτερικό έλεγχο και τη διακυβέρνηση συστημάτων τεχνητής νοημοσύνης. Παράλληλα, έχει εμπειρία σε έργα τεχνικής αξιολόγησης και AI due diligence, υποστηρίζοντας οργανισμούς στην κατανόηση και διαχείριση κινδύνων που σχετίζονται με την υιοθέτηση της τεχνητής νοημοσύνης.
Ξεκίνησε την πορεία του ως Μηχανικός Μηχανικής Μάθησης σε ευρωπαϊκά ερευνητικά προγράμματα στο Ινστιτούτo Βιοοικονομίας και Αγροτεχνολογίας του ΕΚΕΤΑ, όπου ανέπτυξε μοντέλα βαθιάς μάθησης και μηχανικής μάθησης. Είναι απόφοιτος του Τμήματος Μηχανικών Ηλεκτρονικών Υπολογιστών και Πληροφορικής του Πανεπιστημίου Πατρών (Integrated MSc), με κύρια ενδιαφέροντα την ανάπτυξη αξιόπιστων AI συστημάτων και τις σύγχρονες εφαρμογές μεγάλων γλωσσικών μοντέλων (LLMs).
Σε συνεργασία με την Ελληνοαμερικανική Ένωση.