Από το Human-to-Human Economy στο Human Authority

Στο άρθρο Human-to-Human Economy παρουσιάσαμε την ιδέα ότι όσο η Τεχνητή Νοημοσύνη αυτοματοποιεί την παραγωγή, την ανάλυση και την οργάνωση της γνώσης, τόσο μεγαλύτερη αξία αποκτούν οι ανθρώπινες δεξιότητες.

Επικοινωνία, ενσυναίσθηση, κρίση, εμπιστοσύνη, συνεργασία και ηγεσία δεν εξαφανίζονται στην εποχή του AI. Αντίθετα, γίνονται πιο σημαντικές, γιατί είναι οι δεξιότητες που επιτρέπουν στον άνθρωπο να συνδέει τη γνώση με πραγματικές ανάγκες, σχέσεις και αποφάσεις.

Το Human Authority αποτελεί το επόμενο επιχείρημα αυτής της λογικής. Αν το Human-to-Human Economy εξηγεί γιατί οι ανθρώπινες δεξιότητες αποκτούν αξία, το Human Authority εξηγεί γιατί η ανθρώπινη ευθύνη παραμένει απαραίτητη.

Η γνώση δεν ταυτίζεται με την ευθύνη

Η Τεχνητή Νοημοσύνη αλλάζει τον τρόπο με τον οποίο παράγεται η γνώση. Πληροφορίες που άλλοτε απαιτούσαν ώρες έρευνας μπορούν σήμερα να παραχθούν μέσα σε λίγα δευτερόλεπτα.

Αυτό όμως δεν σημαίνει ότι η ευθύνη μεταφέρεται μαζί με τη γνώση. Η δυνατότητα παραγωγής μιας πρότασης δεν ταυτίζεται με την ανάληψη ευθύνης για τις συνέπειές της.

Η πληροφορία μπορεί να παράγεται από ένα σύστημα AI. Η απόφαση όμως εξακολουθεί να ανήκει στον άνθρωπο ή στον οργανισμό που επιλέγει να τη χρησιμοποιήσει.

Κάθε τεχνολογική επανάσταση αλλάζει και την έννοια της ευθύνης

Η ιστορία της τεχνολογίας δεν είναι μόνο ιστορία καινοτομίας. Είναι και ιστορία ευθύνης. Κάθε φορά που εμφανίζεται ένα νέο εργαλείο που αυξάνει τις δυνατότητες του ανθρώπου, γεννιέται και το ίδιο ερώτημα: ποιος ευθύνεται όταν αυτό το εργαλείο χρησιμοποιείται για να ληφθούν σημαντικές αποφάσεις;

Οι ατμομηχανές άλλαξαν τη βιομηχανία. Οι υπολογιστές άλλαξαν τη διαχείριση της πληροφορίας. Το διαδίκτυο άλλαξε την πρόσβαση στη γνώση. Σήμερα, η Τεχνητή Νοημοσύνη αλλάζει τον τρόπο με τον οποίο παράγεται, αναλύεται και αξιοποιείται η γνώση.

Όσο όμως εξελίσσονται τα εργαλεία, η ευθύνη για τη χρήση τους δεν παύει να ανήκει στους ανθρώπους που τα σχεδιάζουν, τα χρησιμοποιούν και λαμβάνουν αποφάσεις με τη βοήθειά τους.

Τι είναι το Human Authority;

Στο Education.gr χρησιμοποιούμε τον όρο Human Authority για να περιγράψουμε μια αρχή που γίνεται ολοένα σημαντικότερη στην εποχή της Τεχνητής Νοημοσύνης: ότι η τελική ευθύνη για σημαντικές αποφάσεις παραμένει ανθρώπινη, ακόμη και όταν αυτές υποστηρίζονται από AI.

Δεν αφορά το ποιος γνωρίζει περισσότερα ούτε το ποιος μπορεί να επεξεργαστεί περισσότερα δεδομένα. Αφορά το ποιος αναλαμβάνει τη λογοδοσία όταν μια απόφαση επηρεάζει ανθρώπους, οργανισμούς ή την κοινωνία.

Η εμπιστοσύνη δεν αποδίδεται μόνο στις μηχανές

Οι σύγχρονες κοινωνίες λειτουργούν πάνω στην έννοια της εμπιστοσύνης. Εμπιστευόμαστε ανθρώπους, οργανισμούς και θεσμούς επειδή μπορούν να εξηγήσουν τις αποφάσεις τους, να διορθώσουν λάθη και να αναλάβουν την ευθύνη όταν κάτι δεν εξελιχθεί όπως αναμενόταν.

Η εμπιστοσύνη δεν προκύπτει μόνο από την ακρίβεια μιας απάντησης. Προκύπτει από τη δυνατότητα λογοδοσίας. Για αυτό η ευθύνη αποτελεί θεμελιώδες στοιχείο της επιστήμης, της εκπαίδευσης, της δημόσιας διοίκησης και της επιχειρηματικής δραστηριότητας.

Όσο ισχυρότερο γίνεται το AI, τόσο σημαντικότερη γίνεται η ανθρώπινη εποπτεία

Είναι εύκολο να θεωρήσουμε ότι όσο εξελίσσεται η Τεχνητή Νοημοσύνη τόσο λιγότερος θα είναι ο ρόλος του ανθρώπου. Στην πραγματικότητα, σε πολλές κρίσιμες εφαρμογές συμβαίνει το αντίθετο.

Όσο μεγαλύτερη επιρροή αποκτούν τα συστήματα AI στην εκπαίδευση, στην υγεία, στις επιχειρήσεις και στη δημόσια διοίκηση, τόσο μεγαλύτερη σημασία αποκτά η ανθρώπινη κρίση, η εποπτεία και η υπεύθυνη χρήση τους.

Η πρόκληση δεν είναι να αποφασίσουμε αν θα χρησιμοποιούμε Τεχνητή Νοημοσύνη. Είναι να διασφαλίσουμε ότι οι άνθρωποι θα συνεχίσουν να έχουν τον έλεγχο των αποφάσεων που επηρεάζουν άλλους ανθρώπους.

Η κατεύθυνση που ακολουθούν οι θεσμοί

Η ιδέα αυτή δεν αποτελεί μόνο φιλοσοφική προσέγγιση. Αρχίζει ήδη να αποτυπώνεται στους θεσμούς που διαμορφώνουν το μέλλον της Τεχνητής Νοημοσύνης.

Ο European AI Act εισάγει την έννοια της human oversight, δηλαδή της ουσιαστικής ανθρώπινης εποπτείας σε εφαρμογές υψηλού κινδύνου. Η ευρωπαϊκή προσέγγιση δεν αντιμετωπίζει την Τεχνητή Νοημοσύνη ως αυτόνομο φορέα αποφάσεων, αλλά ως εργαλείο που πρέπει να παραμένει υπό ανθρώπινο έλεγχο.

Αντίστοιχα, οι Αρχές Τεχνητής Νοημοσύνης του OECD και η Σύσταση της UNESCO για την Ηθική της Τεχνητής Νοημοσύνης δίνουν ιδιαίτερη έμφαση στην ανθρώπινη λογοδοσία, στη διαφάνεια και στην υπεύθυνη χρήση των συστημάτων AI.

Η κοινή κατεύθυνση είναι σαφής: η τεχνολογία μπορεί να υποστηρίζει τις αποφάσεις, όμως η ευθύνη παραμένει στους ανθρώπους και στους οργανισμούς που τις λαμβάνουν.

Η νέα αξία στην εποχή του AI

Καθώς η παραγωγή γνώσης αυτοματοποιείται, η αξία μετατοπίζεται σταδιακά από την πληροφορία προς την κρίση, την υπευθυνότητα και την εμπιστοσύνη.

Οι κοινωνίες δεν βασίζονται μόνο στη σωστή απάντηση. Βασίζονται στην εμπιστοσύνη ότι κάποιος μπορεί να εξηγήσει, να αξιολογήσει, να αναλάβει τις συνέπειες μιας επιλογής και να λογοδοτήσει για αυτήν.

Αυτός είναι ένας από τους λόγους για τους οποίους ο ρόλος του ανθρώπου δεν μειώνεται όσο εξελίσσεται η Τεχνητή Νοημοσύνη. Αντίθετα, γίνεται περισσότερο απαιτητικός.

Η εκπαίδευση του μέλλοντος

Η εκπαίδευση δεν καλείται πλέον μόνο να μεταδίδει γνώση. Καλείται να προετοιμάζει ανθρώπους που μπορούν να χρησιμοποιούν υπεύθυνα τη γνώση, να συνεργάζονται με την Τεχνητή Νοημοσύνη και να λαμβάνουν αποφάσεις με κριτική σκέψη και κοινωνική ευθύνη.

Η ανάπτυξη τεχνικών δεξιοτήτων θα παραμείνει απαραίτητη. Παράλληλα όμως, η κατανόηση των ορίων της τεχνολογίας, της ηθικής χρήσης της και της ανθρώπινης λογοδοσίας θα αποτελεί ολοένα σημαντικότερο μέρος της εκπαίδευσης και της επαγγελματικής ζωής.

Education.gr Perspective

Στο Education.gr πιστεύουμε ότι η εξέλιξη της Τεχνητής Νοημοσύνης δεν είναι μόνο μια τεχνολογική αλλαγή. Είναι μια αλλαγή που επαναπροσδιορίζει και τον ρόλο του ανθρώπου.

Για αυτό, παράλληλα με την ενότητα AI & Νέες Τεχνολογίες, αναπτύσσουμε τον πυλώνα Human Skills, εξερευνώντας τις δεξιότητες, τις αξίες και τις ευθύνες που θα διαμορφώσουν την εκπαίδευση, την εργασία και την κοινωνία τα επόμενα χρόνια.

Η Τεχνητή Νοημοσύνη θα συνεχίσει να εξελίσσεται. Το ίδιο πρέπει να εξελίσσονται και οι άνθρωποι που τη χρησιμοποιούν. Γιατί όσο σημαντική γίνεται η τεχνολογία, τόσο σημαντικότερη γίνεται η ανθρώπινη ευθύνη.