Μια ομιλία διαφορετική από όσες μας έχει συνηθίσει έκανε την εβδομάδα που μας πέρασε ο διοικητής της Τράπεζας της Ελλάδος Γιάννης Στουρνάρας, καθώς δεν είχε σχέση με σημεία αναφοράς όπως κόκκινα δάνεια, «Σχέδιο Ηρακλής», επίτευξη δημοσιονομιών πλεονασμάτων και γενικότερα προκλήσεις για την ελληνική οικονομία.
Το θέμα της ομιλία του Γιάννη Στουρνάρα ήταν «Η Τεχνητή Νοημοσύνη και ο ρόλος της στην Οικονομία, τη Διοίκηση-Οργάνωση Επιχειρήσεων και το Χρηματοπιστωτικό Τομέα» και πραγματοποιήθηκε στο πλαίσιο εκδήλωσης που διοργάνωσε το Ινστιτούτο για το Δίκαιο Προστασίας της Ιδιωτικότητας, των Προσωπικών Δεδομένων και την Τεχνολογία του EPLO – European Public Law Organization.
Η τεχνητή νοημοσύνη σε τράπεζες και ασφάλειες
Στον τραπεζικό τομέα, η τεχνητή νοημοσύνη χρησιμοποιείται σε διαδικασίες αλληλεπίδρασης με πελάτες μέσω chatbots (π.χ. αναγνώριση φυσικής γλώσσας), δημιουργία προσωποποιημένων χρηματοοικονομικών προϊόντων και υπηρεσιών βασιζόμενων στο προφίλ του κάθε πελάτη, διαχείριση κινδύνων (εντοπισμός απάτης, ανάλυση πιστοληπτικής ικανότητας) και βελτιστοποίηση διαδικασιών μέσω της αυτοματοποίησης επαναλαμβανόμενων εργασιών.
Στον ασφαλιστικό τομέα παράδειγμα χρήσης της τεχνητής νοημοσύνης είναι η αυτοματοποιημένη τιμολόγηση, η προώθηση και διαχείριση των ασφαλιστηρίων συμβολαίων των πελατών από τις ασφαλιστικές επιχειρήσεις και η δημιουργία εξατομικευμένων ασφαλιστικών προϊόντων προσαρμοσμένων στις επιμέρους ανάγκες των πελατών.
Ενδεικτικά οφέλη από την εφαρμογή της τεχνητής νοημοσύνης, όπως είπε ο Γιάννης Στουρνάρας, περιλαμβάνουν τη βελτίωση της εμπειρίας του πελάτη, την απλοποίηση και αυτοματοποίηση διαδικασιών με ελαχιστοποίηση της εμπλοκής του ανθρώπινου παράγοντα, και τη βελτίωση του κόστους των υπηρεσιών, αφενός λόγω της αποδοτικότερης χρήσης των δεδομένων και αφετέρου λόγω της αυξημένης ικανότητας των συστημάτων για συνδυαστική ανάλυση τόσο από συμβατικές πηγές δεδομένων (πχ προφίλ συναλλαγών, στοιχεία δανείων) όσο και από μη συμβατικές (πχ δεδομένα κοινωνικών δικτύων).
Εκτός από τη βελτίωση της εξυπηρέτησης των πελατών, η αξιοποίηση τεχνολογιών τεχνητής νοημοσύνης αφορά και τη βελτιστοποίηση υφιστάμενων διαδικασιών των οργανισμών που δραστηριοποιούνται σε αυτόν τον τομέα, όπως είναι η ανίχνευση απάτης, οι εργασίες διαχείρισης επενδύσεων, η διαχείριση κινδύνων και η ανάλυση της αγοράς.
Παράλληλα, η ανάγκη για αποτελεσματική συμμόρφωση των εποπτευόμενων από τις κεντρικές τράπεζες χρηματοπιστωτικών οργανισμών σε ένα δυναμικό κανονιστικό πλαίσιο, αναμένεται να τους οδηγήσει στην αξιοποίηση τεχνολογιών τεχνητής νοημοσύνης και για κανονιστικούς σκοπούς, δηλαδή στο Regtech – Regulatory Technology.
H ορθή εφαρμογή θα τους ωφελήσει όλους
Από την ορθή εφαρμογή της τεχνητής νοημοσύνης, επισήμανε ο διοικητής, μπορούν να επωφεληθούν όλα τα μέρη του χρηματοπιστωτικού συστήματος:
– Οι πελάτες μπορούν να απολαμβάνουν καλύτερες και πιο προσωποποιημένες υπηρεσίες και να έχουν πρόσβαση σε εξατομικευμένα χρηματοπιστωτικά προϊόντα.
– Οι επιχειρήσεις μπορούν να μειώσουν το κόστος λειτουργίας τους με παράλληλη βελτίωση της αποδοτικότητας των εσωτερικών διαδικασιών τους.
– Τέλος, οι εποπτικές αρχές μπορούν να βελτιώσουν την αποτελεσματικότητα της εποπτείας.
Εκτός από τις μεγάλες ευκαιρίες που παρουσιάζονται από τη χρήση της τεχνητής νοημοσύνης στο χρηματοπιστωτικό τομέα, αναδύονται και νέες προς αντιμετώπιση προκλήσεις.
Οι προκλήσεις της τεχνητής νοημοσύνης
Τις προκλήσεις αυτές παρουσίασε ο Γιάννης Στουρνάρας:
– Η αδιαφάνεια ως προς τα χαρακτηριστικά και τη συμπεριφορά των εφαρμοζόμενων, συνήθως πολύπλοκων, αλγορίθμων επεξεργασίας των δεδομένων, ενδέχεται να επιφέρει δυσκολίες στην κατανόηση και στον έλεγχο των εμπλεκόμενων διαδικασιών και περιορισμό της ιχνηλασιμότητας τους, τόσο από τους ίδιους τους οργανισμούς που τους υιοθετούν, όσο και από τις αρχές που τους εποπτεύουν (φαινόμενο «black box»).
– Ο ακατάλληλος σχεδιασμός των αλγορίθμων τεχνητής νοημοσύνης ενδέχεται να εισάγει μεροληψία και διακρίσεις στα αποτελέσματα που προκύπτουν από την εφαρμογή της. Η ανεπαρκής αξιολόγηση των αποτελεσμάτων που προκύπτουν από την επεξεργασία δεδομένων με τεχνητή νοημοσύνη ενδέχεται να οδηγήσει οργανισμούς σε λήψη λανθασμένων αποφάσεων και κατ’ επέκταση να επιφέρει κινδύνους φήμης και συμμόρφωσης με το κανονιστικό πλαίσιο.
– Οι ευπάθειες στα μοντέλα τεχνητής νοημοσύνης ή στις υποδομές διαχείρισης των πληροφοριών, ενδέχεται να οδηγήσουν στην εμφάνιση κινδύνων ασφάλειας πληροφοριών, κυβερνοασφάλειας και εν γένει προστασίας δεδομένων. Επιπρόσθετα, ενδέχεται να ενισχυθούν οι κίνδυνοι εξάρτησης οργανισμών από τρίτους, τεχνολογικούς παρόχους.
– Η ελλιπής γνώση, εξοικείωση και εμπειρία του προσωπικού του κάθε οργανισμού με τα συστήματα τεχνητής νοημοσύνης ενδέχεται να οδηγήσει σε αστοχίες ή δυσλειτουργίες στη διακυβέρνηση των επιχειρησιακών διαδικασιών που βασίζονται στην τεχνητή νοημοσύνη. Παράλληλα, η διοίκηση ενός οργανισμού δεν θα πρέπει να αυτοματοποιεί τις βασικές της ευθύνες, ενώ επίσης είναι απαραίτητη η ύπαρξη απόλυτης διαφάνειας στη διαδικασία λήψης αποφάσεων σε όλα τα επίπεδα της οργανωτικής δομής.
Για να αντιμετωπιστούν οι ανωτέρω κίνδυνοι, οι οργανισμοί οφείλουν να εξασφαλίζουν ότι κάθε προσπάθεια αξιοποίησης της τεχνητής νοημοσύνης θα υπακούει σε κανόνες ηθικής, σύμφωνα με τις κατευθυντήριες γραμμές της Ευρωπαϊκής Ένωσης, και ότι τα αποτελέσματα εφαρμογής των αλγορίθμων θα είναι εξηγήσιμα και αμερόληπτα. Απαιτείται να διαθέτουν ένα πλαίσιο κατανόησης, ελέγχου και διακυβέρνησης αυτών των τεχνολογιών, που θα εξασφαλίζει ότι κάθε κρίσιμη απόφαση που λαμβάνεται με τη βοήθεια της τεχνητής νοημοσύνης θα είναι επαρκώς τεκμηριωμένη και θα μπορεί, εφόσον απαιτηθεί, να αναπαραχθεί σε μελλοντικό χρόνο. Αυτό το πλαίσιο θα πρέπει να διασφαλίζει την ορθή λειτουργία και την ακρίβεια των αποτελεσμάτων των αλγορίθμων, μέσω της συνεχούς επίβλεψης από εξειδικευμένο προσωπικό, που θα έχει κατανοήσει τον τρόπο λειτουργίας τους. Επιπλέον, οι χρηματοπιστωτικοί οργανισμοί θα πρέπει να εφαρμόζουν όλες εκείνες τις δικλίδες ασφαλείας για την ενίσχυση της προστασίας των δεδομένων.
Το παράδειγμα του Γιάννη Στουρνάρα
Κλείνοντας, ο Γιάννης Στουρνάρας αναφέρθηκε σε ένα παράδειγμα που δείχνει ότι η χρήση της τεχνητής νοημοσύνης είναι δίκοπο μαχαίρι και χρειάζεται προσοχή.
Με τη χρήση μεθόδων τεχνητής νοημοσύνης μπορούν να δημιουργηθούν fake news, συγκεκριμένα deep fake (συνθετικά) ηχητικά ή βίντεο, όπου κάποιος εμφανίζεται να λέει ή να κάνει πράγματα που ουδέποτε είπε ή έκανε, τα οποία μετά μπορούν γρήγορα να διακινηθούν παγκόσμια στο διαδίκτυο από ρομπότ με τη χρήση των κοινωνικών δικτύων, οδηγώντας σε λανθασμένη διαμόρφωση της κοινής γνώμης και του δημόσιου αισθήματος.
Με τη χρήση όμως πάλι της τεχνητής νοημοσύνης, μπορούν πολύ γρήγορα να ανιχνευθούν περιστατικά fake news και deep fakes και να αφαιρεθούν από το διαδίκτυο.
«Επέλεξα το παράδειγμα αυτό γιατί θεωρώ πολύ σημαντική τη διαμόρφωση του δημοσίου αισθήματος. Όπως είχε πει ο Abraham Lincoln σε λόγο του το 1858: Το δημόσιο αίσθημα είναι το παν. Με αυτό, τίποτα δεν μπορεί να αποτύχει, και εναντίον του τίποτα δεν μπορεί να επιτύχει. Όποιος διαμορφώνει δημόσιο αίσθημα πηγαίνει βαθύτερα από αυτόν που θεσπίζει νόμους, ή εκδίδει δικαστικές αποφάσεις. Κάνει την εκτέλεση νόμων και αποφάσεων δυνατή ή αδύνατη», τόνισε ο διοικητής της ΤτΕ.
