Ας μοιραστούμε πράγματα...

Αλγοριθμοί και Διαφάνεια: Μπορούν τα Αυτόνομα Συστήματα να Εξηγούν τις Αποφάσεις τους;

Στο μεταίχμιο της τέταρτης βιομηχανικής επανάστασης, οι αλγόριθμοι αποφασίζουν ποιος θα λάβει δάνειο, ποια βιογραφικά θα περάσουν στην τελική φάση, ποιες συναλλαγές είναι ύποπτες. Η αποτελεσματικότητα είναι αναμφισβήτητη. Η διαφάνεια όμως;

Η εισαγωγή της τεχνητής νοημοσύνης σε επιχειρησιακά και διοικητικά συστήματα εγείρει ένα θεμελιώδες ερώτημα: Μπορούμε να εξηγήσουμε πώς προκύπτουν οι αποφάσεις; Η ανάγκη για Explainable AI (XAI) δεν είναι μόνο επιστημονική∙ είναι ηθική, νομική και στρατηγική.

Τα πιο ισχυρά μοντέλα —όπως τα deep neural networks— λειτουργούν ως «μαύρα κουτιά». Δέχονται δεδομένα, αποδίδουν έξοδο, αλλά χωρίς σαφή μηχανισμό ερμηνείας. Αυτό λειτουργεί στις ταξινομήσεις εικόνας, αλλά τι γίνεται όταν απορρίπτεται μια αίτηση δανείου ή μια υποψηφιότητα επειδή ένα feature που κανείς δεν κατανοεί επηρέασε τον δείκτη;

Σε πολλές επιχειρήσεις, scoring models για risk assessment ή marketing segmentation χρησιμοποιούν παραμέτρους που δεν ερμηνεύονται από τους ίδιους τους αναλυτές. Το 2020, ένα γνωστό αμερικανικό ασφαλιστικό ταμείο βρέθηκε υπό έλεγχο όταν το μοντέλο του πρότεινε χαμηλότερα ποσά κάλυψης για γυναίκες με ίδια οικονομικά χαρακτηριστικά με άνδρες.

Η λογοδοσία δεν είναι κάτι που προστίθεται εκ των υστέρων. Πρέπει να ενσωματώνεται στον σχεδιασμό. Εργαλεία όπως τα LIME (Local Interpretable Model-Agnostic Explanations) και SHAP (SHapley Additive exPlanations) επιτρέπουν την αποσύνθεση των αλγορίθμων και την απόδοση βαρών στις μεταβλητές. Έτσι, μπορεί ένας decision maker να κατανοήσει π.χ. ότι το ύψος εισοδήματος συνεισέφερε 30% στη θετική πρόβλεψη έγκρισης.

Σε επιχειρησιακά συστήματα, ο σχεδιασμός εξηγήσιμων ροών εργασίας (explainable workflows) είναι κρίσιμος. Για παράδειγμα, ένα HR σύστημα αξιολόγησης υποψηφίων μπορεί να συνοδεύει την κατάταξη με φυσική γλώσσα: “Η επιλογή βασίστηκε σε προφίλ δεξιοτήτων, πιστοποίηση Scrum Master και εμπειρία σε SaaS προϊόντα.”

Η ύπαρξη ενός Data Ethics Board δεν είναι πολυτέλεια. Είναι επιτακτική ανάγκη για κάθε οργανισμό που χρησιμοποιεί AI για κρίσιμες αποφάσεις. Οι ρόλοι όπως Algorithmic Auditor ή Fairness Officer ήδη εμφανίζονται σε τεχνολογικά ώριμες επιχειρήσεις.

Η νέα οδηγία της Ε.Ε. για την Τεχνητή Νοημοσύνη (AI Act) επιβάλλει στις εφαρμογές υψηλού ρίσκου την τεκμηρίωση και επεξηγησιμότητα αποφάσεων. Η λογοδοσία πλέον δεν αφορά μόνο τον άνθρωπο. Αφορά και τον αλγόριθμο που εκπαιδεύσαμε.

Η χρήση αλγορίθμων δεν είναι ούτε ουδέτερη ούτε τεχνικά απομονωμένη. Επηρεάζει ανθρώπινες ζωές και επαγγελματικές επιλογές. Η διαφάνεια στην εποχή των αυτόνομων συστημάτων δεν είναι πολυτέλεια. Είναι τεχνολογική υποχρέωση και διοικητική ευθύνη. Η επιτυχία των επιχειρήσεων του αύριο θα κρίνεται όχι μόνο από την ακρίβεια των αλγορίθμων, αλλά από την ικανότητά τους να εξηγούν γιατί επέλεξαν ό,τι επέλεξαν.

Βιβλιογραφία

• Doshi-Velez, F., & Kim, B. (2017). Towards A Rigorous Science of Interpretable Machine Learning. [arXiv:1702.08608]
• Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). "Why Should I Trust You?": Explaining the Predictions of Any Classifier. KDD.
• Lundberg, S. M., & Lee, S.-I. (2017). A Unified Approach to Interpreting Model Predictions. NIPS.
• Selbst, A. D., & Barocas, S. (2018). The Intuitive Appeal of Explainable Machines. Fordham Law Review.
• European Commission. (2023). AI Act Proposal – Regulation on Artificial Intelligence. [https://artificialintelligenceact.eu]