Η είσοδος των αλγορίθμων στη λήψη αποφάσεων δεν είναι πλέον τεχνολογικό ζήτημα. Είναι ζήτημα ηγεσίας. Από τα recommendation engines μέχρι τα predictive analytics σε finance, HR και operations, οι οργανισμοί μετατοπίζουν σταδιακά την ευθύνη επιλογών από τον άνθρωπο στο μοντέλο. Το ερώτημα, όμως, παραμένει ανοιχτό! 'Οταν μια απόφαση παράγεται από έναν αλγόριθμο, ποιος αποφασίζει πραγματικά;
Στην πράξη, οι αλγόριθμοι δεν αποφασίζουν. Εκτελούν. Ενσωματώνουν δεδομένα, παραδοχές, βάρη και στόχους που έχουν τεθεί εκ των προτέρων. Η “απόφαση” που παράγουν είναι το αποτέλεσμα μιας αλυσίδας επιλογών που έχει ήδη γίνει από ανθρώπους. Ποια δεδομένα συλλέγονται, ποια αγνοούνται, ποια μεταβλητή θεωρείται σημαντική, ποιος είναι ο objective function. Η ηγεσία δεν εξαφανίζεται. Μετατοπίζεται προς τα πίσω, στο design της απόφασης.
Σε ένα σύστημα αξιολόγησης πιστοληπτικής ικανότητας, για παράδειγμα, ο αλγόριθμος μπορεί να απορρίψει έναν αιτούντα δανείου με βάση ιστορικά δεδομένα. Η απόφαση φαίνεται “αντικειμενική”. Ωστόσο, αν τα δεδομένα ενσωματώνουν προκαταλήψεις του παρελθόντος, ο αλγόριθμος απλώς τις αναπαράγει με μεγαλύτερη κλίμακα. Ο ηγέτης που αποδέχεται άκριτα το αποτέλεσμα, μεταθέτει την ευθύνη. Ο ηγέτης που κατανοεί τη δομή του μοντέλου, αναλαμβάνει την ευθύνη της χρήσης του.
Αντίστοιχα, σε περιβάλλοντα HR, εργαλεία αξιολόγησης υποψηφίων υπόσχονται ταχύτητα και ακρίβεια. Όμως, όταν το KPI είναι η μείωση του “time to hire”, ο αλγόριθμος βελτιστοποιεί για ταχύτητα, και όχι απαραίτητα για ποιότητα. Το αποτέλεσμα είναι συνεπές με τον στόχο που του δόθηκε. Το ερώτημα είναι αν ο στόχος ήταν ο σωστός. Εκεί ακριβώς εντοπίζεται η ηγετική ευθύνη.
Η ηγεσία στον αλγόριθμο δεν σημαίνει τεχνική κατανόηση κάθε λεπτομέρειας. Σημαίνει κατανόηση των ορίων. Σημαίνει να γνωρίζεις πότε το μοντέλο λειτουργεί ως εργαλείο υποστήριξης και πότε μετατρέπεται σε de facto μηχανισμό λήψης αποφάσεων. Σημαίνει να μπορείς να αμφισβητήσεις ένα αποτέλεσμα ακόμη κι αν είναι στατιστικά ισχυρό, όταν συγκρούεται με το πλαίσιο, την εμπειρία ή τη στρατηγική κατεύθυνση.
Ένα κρίσιμο σημείο είναι η ψευδαίσθηση της ουδετερότητας. Οι αριθμοί δημιουργούν την εντύπωση αντικειμενικότητας. Όμως, κάθε μοντέλο είναι μια απλοποίηση της πραγματικότητας. Όταν οι ηγέτες αντιμετωπίζουν τις αλγοριθμικές εξόδους ως “αλήθεια”, παραιτούνται από τον ρόλο της κρίσης. Η απόφαση μετατρέπεται σε τεχνικό γεγονός, αποκομμένο από τις αξίες και τις προτεραιότητες του οργανισμού.
Στον χώρο των επενδυτικών σχέσεων, για παράδειγμα, τα analytics μπορούν να υποδείξουν τη βέλτιστη στρατηγική επικοινωνίας με βάση τη συμπεριφορά της αγοράς. Όμως, η επιλογή του τι θα επικοινωνηθεί, πότε και με ποιον τρόπο δεν είναι απλώς θέμα optimization. Είναι θέμα εμπιστοσύνης, κανονιστικής συμμόρφωσης και στρατηγικής τοποθέτησης. Ο αλγόριθμος μπορεί να υποδείξει. Ο ηγέτης αποφασίζει.
Η μετατόπιση προς data-driven αποφάσεις δεν μειώνει την ανάγκη για ηγεσία. Την καθιστά πιο απαιτητική. Ο ηγέτης δεν καλείται πλέον μόνο να επιλέξει μεταξύ εναλλακτικών, αλλά να ορίσει το πλαίσιο μέσα στο οποίο παράγονται οι εναλλακτικές. Να αποφασίσει ποια προβλήματα αξίζει να λυθούν αλγοριθμικά και ποια απαιτούν ανθρώπινη κρίση.
Τελικά, ο αλγόριθμος δεν αφαιρεί την ευθύνη. Την καθιστά λιγότερο ορατή. Και ακριβώς εκεί δοκιμάζεται η ηγεσία. Όχι στο αν θα χρησιμοποιήσει τα εργαλεία, αλλά στο αν θα παραμείνει υπεύθυνη για τα αποτελέσματά τους.
Βιβλιογραφία
- O’Neil, C. (2016). Weapons of Math Destruction. Crown Publishing.
- Kahneman, D., Sibony, O., & Sunstein, C. R. (2021). Noise: A Flaw in Human Judgment. Little, Brown Spark.
- Agrawal, A., Gans, J., & Goldfarb, A. (2018). Prediction Machines. Harvard Business Review Press.
- Brynjolfsson, E., & McAfee, A. (2014). The Second Machine Age. W. W. Norton & Company.
- Schein, E. H. (2010). Organizational Culture and Leadership. Jossey-Bass.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου