Διαβάστε παρακάτω τις εισηγήσεις των ομιλητών στη διαδικτυακή εκδήλωση του Ευρωβουλευτή του ΣΥΡΙΖΑ – GUE/NGL Κώστα Αρβανίτη, που έγινε στις 15/7/20 και μεταδόθηκε διαδικτυακά.
Χαράλαμπος Πουλόπουλος
Καθηγητής Κοινωνικής Εργασίας, Δημοκρίτειο Πανεπιστήμιο Θράκης
Ανάπτυξη νέων δυναμικών στις ανθρώπινες σχέσεις
Η Τεχνητή νοημοσύνη είναι μια νέα πραγματικότητα που εξελίσσεται με ραγδαίους ρυθμούς. Το θέμα είναι το πως θα μπορέσουμε να αξιοποιήσουμε τις θετικές και να περιορίσουμε τις αρνητικές επιπτώσεις, ενδυναμώνοντας τους πολίτες και αναδεικνύοντας στην πράξη τη σημασία της ανθρώπινης υπόστασης και των ανθρωπίνων σχέσεων. Όταν αναφερόμαστε στην έννοια της τεχνητής νοημοσύνης και της επίδρασής της στο εργασιακό περιβάλλον, χρειάζεται εκτός από τις οικονομικές ελίτ που έχουν συμφέροντα για την προώθηση και την εφαρμογή της τεχνητής νοημοσύνης, να βλέπουμε και ποιοι είναι εκείνοι που προγραμματίζουν και διαδραματίζουν σημαντικό ρόλο, ενδεχομένως, στην αναπαραγωγή κάποιων κυρίαρχων αντιλήψεων, τόσο όσον αφορά τις εργασιακές σχέσεις, όσο και τις ανθρώπινες.
Γιατί ενώ π.χ. η Silicon Valley, που θεωρείται η πρωτεύουσα της σύγχρονης τεχνολογίας, έχει συγκεντρώσει μεγάλο αριθμό επιστημόνων, πληροφορικάριων, που δουλεύουν σε αυτήν την κατεύθυνση, ωστόσο υπάρχουν κι άλλοι, που δουλεύουν σε άλλες περιοχές και μοιράζονται κοινά χαρακτηριστικά. Αυτό είναι πολύ σημαντικό, γιατί αυτές οι κατασκευές που γίνονται από τα νέα προγράμματα έρχονται και εκφράζουν τις κυρίαρχες αντιλήψεις των προγραμματιστών και της μιας κυρίαρχης ιδεολογίας. Δεν είναι τυχαίο ότι απλές εφαρμογές τεχνητής νοημοσύνης, όπως η Siri της Apple ή η Alexa της Amazon και το Google Home, παίζουν τον ρόλο των οικιακών ή προσωπικών βοηθών και χρησιμοποιούν από προεπιλογή τη γυναικεία ταυτότητα. Ακόμη κι αν έχει κάποιος την επιλογή να αλλάξει το φύλο, η φωνή η οποία μιλάει και σου λέει: «Μπορώ να σε βοηθήσω;» «Τί θέλετε;», είναι γυναίκα. Αναπαράγεται έτσι ο ρόλος της γυναίκας-βοηθού σε μία ανδροκρατούμενη κοινωνίας. Για αρκετούς ενήλικες αυτό μπορεί να είναι απλό ή αυτονόητο, να ακούνε μια εξυπηρετική γυναικεία φωνή, ωστόσο χρειάζεται να δούμε το ότι αυτό μπορεί να αναπαράγει το στερεότυπο της γυναίκας-βοηθού και στις εργασιακές σχέσεις και να διαμορφώνει στάσεις και αντιλήψεις για τον ρόλο της γυναίκας και στα νέα άτομα επηρεάζοντας τον ψυχισμό τους και τις προσδοκίες τους.
Έχω μία κόρη 14 ετών. Συχνά, παίζει με τη φίλη της και μιλάνε με τη Siri, της κάνουν ερωτήσεις. Εδώ έχουμε μία εφαρμογή της τεχνητής νοημοσύνης, με την οποία τα παιδιά είναι εξοικειωμένα και παίζουν μαζί της και μεγαλώνουν μαζί της. Είναι σημαντικό να αναρωτηθούμε ποιες είναι οι βαθύτερες ανάγκες στις οποίες έρχονται και απαντούν αυτά τα προγράμματα, όταν δίνοντας μια εντολή στην Siri ή την Alexa, αυτές την ακολουθούν υπάκουα. Ενδεχομένως για τα παιδιά ή και για τους ενήλικές φέρνει μια αίσθηση παιδικής παντοδυναμίας, να ενισχύεται με την ύπαρξη μιας γυναίκας-πρόγραμμα/ρομπότ/σκλάβας η οποία ακόμα κι όταν διαφωνεί, με μια αρνητική ή ιδιότροπη εντολή, ή ακόμα και με μία προσβολή (γιατί τα παιδιά και οι ενήλικες παίζουν και με αυτό), απαντά με ηρεμία και καρτερικότητα εκφράζοντας τη λύπη της για την αδυναμία της να μας εξυπηρετήσει.
Τι μπορεί να περνάει αυτό στον ψυχισμό των παιδιών ή και τον ενηλίκων; Στο κοντινό μέλλον, διαφαίνεται ότι θα υπάρξουν ακόμα πιο εξελιγμένα προγράμματα (γιατί αυτά δεν είναι τόσο εξελιγμένα ή όσα είναι δεν κυκλοφορούν ακόμα στην αγορά). Θα εφαρμόσουν την τεχνολογία της τεχνητής νοημοσύνης σε ρομπότ ή υπολογιστές, αξιοποιώντας αισθητήρες αφής, φωτός, ήχου, κίνησης και θερμοκρασίας, σχεδιασμένα έτσι ώστε να μιμούνται την ανθρώπινη συμπεριφορά. Θα αξιοποιούν πληροφορίες – αυτό το κάνουν και σήμερα- που υπάρχουν σε διάφορες εφαρμογές, αλλά και προσωπικά δεδομένα, προκειμένου να παρέχουν υπηρεσίες και συμβουλές σε προσωπικά, επαγγελματικά και κοινωνικά προβλήματα, αναλαμβάνοντας τον ρόλο του συμβούλου, του φίλου, του βοηθού του συντρόφου, που είναι γνώστης σημαντικών πληροφοριών, αναγκών και προτιμήσεων. Μην ξεχνάμε ότι κάθε στιγμή που μπαίνουμε στο διαδίκτυο δίνουμε προσωπικές πληροφορίες σε σχέση με τις προτιμήσεις μας, σε σχέση με τις ανάγκες μας και όλα αυτά καταγράφονται.
Εδώ λοιπόν θα έχουμε μια σημαντική αλλαγή στις ανθρώπινες σχέσεις. Όπως γνωρίζαμε μέχρι σήμερα, οι ανθρώπινες σχέσεις απαιτούν κόπο, δέσμευση, έχουν κόστος. Σε αντίθεση με τις τεχνητές που τις προσομοιάζουν πλέον, αλλά είναι λιγότερο δαπανηρές: μπορεί να είναι εφήμερες, διακόπτονται χωρίς κόστος και ψυχοσυναισθηματικές επιπτώσεις και μπορούν πολύ εύκολα να αντικατασταθούν με ένα νέο μοντέλο ή πρόγραμμα. Κι αυτές οι σχέσεις, όποιες και να είναι -φιλικές, προσωπικές, ερωτικές επαγγελματικές συμβουλευτικές- είναι διαθέσιμες 24 ώρες το 24ωρο και ανταποκρίνονται στις ανάγκες του χρήστη, όταν θελήσει να τις χρησιμοποιήσει.
Εδώ έχουμε μια σημαντική αλλαγή, με την εφαρμογή της σύγχρονης τεχνολογίας, που μας επηρεάζει και θα μας επηρεάσει στο μέλλον. Κι αυτό γιατί οι ανάγκες και οι επιθυμίες, τα κίνητρα και οι προσδοκίες δύο ανθρώπων, για να πάρουμε ένα παράδειγμα, πολύ συχνά διαφέρουν και μπορεί να προκαλούν άγχος, αβεβαιότητα και ανασφάλεια. Έτσι απαιτούν μεγαλύτερη προσπάθεια ή και συγκρούσεις για να υπάρχει ανταπόκριση, σε ένα κόσμο που έχει γίνει περίπλοκος, χαοτικός και πολύ συχνά αυτές οι συγκρούσεις μπορεί να οδηγούν σε ματαιώσεις και μοναξιά.
Η νέα προτεινόμενη μορφή σχέσης μέσω της τεχνητής νοημοσύνης φαίνεται πως είναι ευκολότερη και με μικρότερα ρίσκα και για αυτό μπορεί για ορισμένους να γίνεται περισσότερο ελκυστική. Άλλωστε μην ξεχνάμε ότι ένα μεγάλο μέρος της ζωής μας έχει μεταφερθεί στο διαδίκτυο, σε ετεροτοπικές σχέσεις που συγχέουν την εικονική με την κοινωνική πραγματικότητα και η εικονική πραγματικότητα αποτελεί μια νέα διάσταση της ζωής μας. Σε αυτήν την πραγματικότητα κυριαρχεί η ψευδαίσθηση και η αίσθηση της συμπύκνωσης του χρόνου. Πολύ συχνά καταργούνται τα όρια μεταξύ φαντασίας και πραγματικότητας, δεν χρειάζεται να διαμεσολαβήσει πραγματικός χρόνος ανάμεσα στη γέννηση και την πραγματοποίηση μιας επιθυμίας. Κάνουμε ένα κλικ και μπαίνουμε εκεί που θέλουμε. Σήμερα, ο όγκος των πληροφοριών στις οποίες εκτίθενται τα άτομα, επηρεάζει τον τρόπο που σκέφτονται, αισθάνονται, επικοινωνούν, εκφράζονται, σχετίζονται και αποφασίζουν για μικρότερης ή και μεγαλύτερης σημασίας θέματα.
Μέσα από την οθόνη ενός τάμπλετ, κινητού ή υπολογιστή, ένας άγνωστος κόσμος βιώνεται ως μικρός και οικείος και στο μέλλον, με την τεχνητή νοημοσύνη πρόκειται να καταστεί ακόμα φιλικότερος, ενώ ταυτόχρονα θα παραμένει μεγάλος και άγνωστος. Το διαδίκτυο, δηλαδή, έχει προετοιμάσει το έδαφος, γιατί στο διαδίκτυο κυριαρχεί η ψευδαίσθηση της κάλυψης προσωπικών και κοινωνικών αναγκών. Ο έλεγχος του χώρου, του χρόνου και των σχέσεων γίνεται ταχύτατα. Οι φαντασιώσεις έρχονται κοντά μέσω της εικόνας και δημιουργείται η ψευδαίσθηση των σχέσεων που προσωρινά μπορεί να απαλύνουν τη μοναξιά που μπορεί να νοιώθουν κάποιοι και προσφέρουν έστω και μια εφήμερη ικανοποίηση.
Αυτές οι διαδικτυακές σχέσεις είναι εφήμερες και επιφανειακές, για κάποιους ενδεχομένως να έχουν και κάποιες άλλες προεκτάσεις των κοινωνικών σχέσεων και να τις βιώνουν με τον αντίστοιχο τρόπο. Αλλά μια σύνδεση ταχεία, με εφήμερη εμπιστοσύνη που μπορεί να διαγραφεί από τη μία στιγμή στην άλλη με το πάτημα ενός κουμπιού, χωρίς κόστος, είναι κάτι που ενδεχομένως μπορεί να εξυπηρετεί πολλούς. Τα άτομα μπορεί να νοιώθουν ότι έχουν απεριόριστο έλεγχο τη στιγμή που απομονώνονται και αποκόπτονται ουσιαστικά από τον φυσικό τους χώρο. Είναι λοιπόν φανερό ότι οι διαδικτυακές εφαρμογές, ιδιαίτερα των κοινωνικών δικτύων έχουν προετοιμάσει το έδαφος για την επόμενη φάση της νέας εποχής, συλλέγοντας δεδομένα και δημιουργώντας ένα φιλικό για τον χρήστη περιβάλλον.
Είδαμε κάποιες επεμβατικές απόπειρες, είδαμε τι έγινε με τα bot στις αμερικανικές εκλογές, πως επηρέασαν μερίδα συντηρητικών ψηφοφόρων. Με την τεχνητή νοημοσύνη θα επιχειρηθεί να καλυφθούν και ψυχολογικές, κοινωνικές, πολιτικές και σεξουαλικές ανάγκες των ατόμων. Άλλωστε οι άνθρωποι έχουν την ανάγκη να προσδίδουν ανθρωπόμορφα χαρακτηριστικά σε αντικείμενα, ακόμα και να κάνουν μαζί τους μονολόγους θεωρώντας ότι επικοινωνούν, έχοντας την ψευδαίσθηση του διαλόγου, σε ιδιαίτερες προσωπικές τους στιγμές. Αυτή η αυταπάτη έχει τις ρίζες της στα παιδικά χρόνια και την καθήλωση του ανθρώπου σε ένα πρώιμο στάδιο ψυχοσυναισθηματικής ανάπτυξης. Σκεφτείτε τα παιδιά που μιλάνε τις κούκλες τους. Εξυπηρετεί την ανάγκη για κάλυψη βαθύτερων αναγκών που δεν βρίσκουν ανταπόκριση από άλλους ανθρώπους, ή όταν το κόστος της ανθρώπινης σχέσης φαίνεται να είναι υψηλό για το άτομο και επομένως επώδυνο.
Στόχος λοιπόν της τεχνητής νοημοσύνη, για να ολοκληρώσω, είναι να αναπτυχθούν προγράμματα έξυπνα και φιλικά, που θα δείχνουν κατανόηση στις εξατομικευμένες ανάγκες του χρήστη για ανθρώπινη επαφή και επικοινωνία. Σε πρώτη φάση δεν είναι απαραίτητο να έχουν ανθρώπινη μορφή, όπως έχουμε δει σε ταινίες και λογοτεχνικά έργα. Το ζητούμενο είναι να μπορούν να προσομοιάζουν με την ανθρώπινη συμπεριφορά αξιολογώντας τη λογική και την ενσυναίσθηση. Άλλωστε με τους αλγόριθμους, το πρόγραμμα, μέσω της αλληλεπίδρασης έχει την ικανότητα συνεχώς να μαθαίνει, να ανατροφοδοτείται και να βελτιώνεται.
Το ερώτημα είναι εμείς τι θα κάνουμε.
Ερρίκος Βεντούρας
Καθηγητής Βιοϊατρικής Τεχνολογίας, Πανεπιστήμιο Δυτικής Αττικής
Εξελικτική ιστορία και σύγχρονες εφαρμογές της Τεχνητής Νοημοσύνης
Η Τεχνητή Νοημοσύνη (ΤΝ) είναι ένας όρος που έχει «εισβάλλει» στην σφαίρα των δημόσιων συζητήσεων εδώ και λίγα σχετικά χρόνια. Πιστεύω ότι είναι ωφέλιμη μια οριοθέτηση του πεδίου στο οποίο αναφέρεται ο όρος αυτός. Και όπως θα προσπαθήσω να δείξω με σύντομα παραδείγματα, η οριοθέτηση συναρτάται και με την εξέλιξη της ΤΝ.
Ας ξεκινήσουμε από τις κύριες επιστημονικές περιοχές «γένεσης» της ΤΝ: Η ΤΝ αναπτύσσεται στα χωράφια τριών πεδίων: της επιστήμης των ηλεκτρονικών υπολογιστών, της επιστήμης της πληροφορίας και των ηλεκτρονικών διατάξεων και συσκευών.
Στενά δεμένη με την ΤΝ είναι και η έννοια του αλγορίθμου. Ο αλγόριθμος είναι ένας συστηματικός τρόπος να περιγράψουμε τα βήματα που κάνουμε όταν θέλουμε να λύσουμε ένα πρόβλημα ή να εκτελέσουμε μια διαδικασία που μας έχει ανατεθεί. Ο αλγόριθμος καταλήγει να αποτελεί μια σειρά οδηγιών προς ένα υπολογιστή να εκτελέσει πράξεις, μέσω των οποίων θέλουμε να πετύχουμε ένα συγκεκριμένο αποτέλεσμα. Σε μια απλούστατη εκδοχή: να δίνουμε δύο αριθμούς και να ο υπολογιστής εξάγει το άθροισμά τους.
Ας περάσουμε τώρα στις κύριες τεχνολογικές εξελίξεις που επέτρεψαν την ανάπτυξή της ΤΝ: η αύξηση της ταχύτητας των υπολογιστών, η μείωση του κόστους του αποθηκευτικού χώρου δεδομένων, η σμίκρυνση των ηλεκτρονικών διατάξεων, η ανάπτυξη του διαδικτύου.
Ας δούμε και τον ίδιο τον όρο ΤΝ: έχει δύο συνιστώσες: ένα ουσιαστικό, τη νοημοσύνη και ένα επίθετο. Γιατί ενδιαφέρει τους επιστήμονες των τριών πεδίων που προανέφερα η νοημοσύνη; Οι υπολογιστικές μηχανές έχουμε πετύχει να είναι εξαιρετικά ταχείες. Μπορούν να κάνουν με εξαιρετική ακρίβεια δισεκατομμύρια υπολογισμούς κάθε δευτερόλεπτο. Στο άλλο άκρο, είναι το πλέον νοήμον όν που γνωρίζουμε: ο «σοφός άνθρωπος» (homo sapiens). Ο ανθρώπινος εγκέφαλος έχει και αυτός τις «υπολογιστικές» του μονάδες, τα νευρικά κύτταρα του εγκεφάλου. Αυτά λειτουργούν με κύκλους του χιλιοστού του δευτερολέπτου και όχι του δισεκατομμυριοστού όπως οι υπολογιστές. Όμως πετυχαίνουμε αξιοθαύμαστα πράγματα με τον εγκέφαλό μας: μαθαίνουμε από εξωτερικά ερεθίσματα, μιλάμε, αλληλεπιδρούμε μέσω της γλώσσας, των κινήσεων και των εκφράσεων του προσώπου και κυριότερα: σκεφτόμαστε. Σε μια απλή έκφανση αυτό σημαίνει επεξεργασία των αισθητηριακών δεδομένων, ανάκληση μνημών, αναγνώριση μορφών, μοτίβων, προτύπων και απόφαση για την κατάλληλη αντίδραση. Σε πιο προχωρημένες εκφάνσεις: παραγωγή νέας γνώσης και νέων εννοιών. Ας πούμε, απλοποιώντας, ότι όλα αυτά είναι η νοημοσύνη.
Ο στόχος λοιπόν είναι οι υπολογιστικές μηχανές να αποκτήσουν νοημοσύνη τεχνητή. Δηλαδή να αναπτυχθούν μαθηματικές μέθοδοι που να δίνουν μέσω κατάλληλων αλγορίθμων στις μηχανές τη δυνατότητα να εκτελούν ανθρώπινες δραστηριότητες που έως τώρα ήταν εκτός των δυνατοτήτων των μηχανημάτων, έως και να φτάσουν να έχουν στοιχεία αυτού που ονομάζουμε σκέψη. Στην προσπάθεια αυτή, που ξεκίνησε ήδη από τα μέσα του 20ου αιώνα, θα λέγαμε ότι είχαμε δύο φάσεις: η πρώτη, η λεγόμενη και «συμβατική» ΤΝ, όπου γινόταν προσπάθεια παραγωγής κανόνων απόφασης που μιμούνταν τον τρόπο π.χ. που ένας ιατρός αποφασίζει για μια διάγνωση. Η δεύτερη, και τρέχουσα, φάση, ξεκίνησε από την δεκαετία του 1980, όταν μαθηματικοποιήθηκε η λειτουργία των νευρώνων του εγκεφάλου, με την ελπίδα ότι θα πλησιάζαμε έτσι ταχύτερα και καλύτερα τις ανώτερες γνωστικές λειτουργίες του ανθρώπου.
Θα δώσω μερικά παραδείγματα για να καταλάβουμε τι είναι και τι δεν είναι ΤΝ:
Ο τηλεχειρισμός συσκευών, η συλλογή δεδομένων από συσκευές, το λεγόμενο «διαδίκτυο των πραγμάτων», είτε είναι το πόσες φορές άναψα το κλιματιστικό του σπιτιού μου ή τι κλίκαρα στο κινητό μου τηλέφωνο (η σμίκρυνση των διατάξεων που ανέφερα παραπάνω) δεν είναι ΤΝ. Η ταχεία παραγωγή λογιστικών πράξεων στα οικονομικά στοιχεία εκατομμυρίων ατόμων (η ταχύτητα της επεξεργασίας που ανέφερα παραπάνω) δεν είναι ΤΝ. Η χρήση πλατφορμών τηλεκπαίδευσης και τηλε-εξέτασης ταυτόχρονα από εκατομμύρια χρήστες σε όλο τον πλανήτη δεν είναι ΤΝ. Επίσης δεν είναι ΤΝ η ταχεία εύρεση μιας συγκεκριμένης λέξης εντός δισεκατομμύρια ψηφιοποιημένων κειμένων.
Ας προσέξουμε όμως ότι, στα παραδείγματα που παρέθεσα, ξεκίνησα από μεμονωμένες «ποσότητες» δεδομένων και σταδιακά τις αύξησα. Δεν έχουμε ακόμη ΤΝ, έχουμε όμως το «τροφικό» υπόστρωμα της ΤΝ, που είναι οι πολύ μεγάλες ποσότητες δεδομένων, τα λεγόμενα σήμερα «μεγάλα δεδομένα», των οποίων η παραγωγή και αποθήκευση έχουν φθηνύνει εκπληκτικά. Και εδώ ερχόμαστε στο σύνορο, δυσδιάκριτο αρκετές φορές, πέραν του οποίου έχουμε νόηση στις μηχανές και μάλιστα μια «νόηση» που σε πολλές εφαρμογές ξεπερνά τις χρονικές δυνατότητες ενός μεμονωμένου ανθρώπου. Αυτό που χρειάζεται είναι ο κατάλληλος αλγόριθμος που μαθηματικοποιεί επιτυχημένα την αναγνώριση μιας μορφής ή που οδηγεί σε ορθή απόφαση. Όταν χιλιάδες κάμερες στους δρόμους προσπαθούν σε «πραγματικό» χρόνο να εντοπίσουν ένα συγκεκριμένο πρόσωπο και το επιτυγχάνουν, έχουμε ένα από τα πιο χαρακτηριστικά (και επίφοβα) παραδείγματα ΤΝ. Αν βάζαμε χιλιάδες ανθρώπους να δουν χιλιάδες ώρες βίντεο, ίσως να εντόπιζαν το υπό παρακολούθηση άτομο. Θα ήταν όμως αργά και θα ήταν και οικονομικά ασύμφορο. Αλλά δεν χρειάζεται να πάμε σε αυτό το ακραίο παράδειγμα. Η αυτόματη οδήγηση, κάτι που ο άνθρωπος κάνει σχετικά απλά, απαιτεί ταχύτατη επεξεργασία πολλών δεδομένων, απαιτεί αποφάσεις αλλά και δυνατότητα μάθησης σε κλάσματα του δευτερολέπτου. Και εδώ έχουμε ΤΝ, όπου δεν υπεισέρχονται φόβοι επιτήρησης, αλλά μια μεγάλη αβεβαιότητα ως προς τις ευθύνες για τυχόν λάθη. Ας πάμε σε ένα ακόμη πιο απλό επίπεδο: η αναγνώριση ομιλίας και η αυτόματη μετάφραση. Απλό μεν για τον άνθρωπο, αλλά με τα δύο αυτά παραδείγματα αγγίξαμε τα σημερινά όρια των δυνατοτήτων των μηχανημάτων. Όμως τα όρια αυτά είναι φτιαγμένα για να ξεπερνιούνται, όπως μας λέει η «φωνή» του πνεύματος της τεχνικής προόδου, μια φωνή όμως που μάθαμε, με πολύ πίκρα, ότι δεν σημαίνει και μονοσήμαντη πρόοδο της ανθρώπινης κατάστασης, τουναντίον πολλές φορές.
Ελπίζω με τα παραπάνω, αναγκαστικώς ελλειπτικά, να έδωσα μερικά σημεία ώστε να είναι πιο ξεκάθαρο από ποιο σημείο και ύστερα μπορούμε να μιλάμε για ΤΝ. Αυτό με τη σειρά του είναι άμεσα συνδεδεμένο με το τι επιπτώσεις, θετικές και αρνητικές έχει αυτή η τεχνολογία.
Θα περάσω τώρα σε εφαρμογές σε ένα πεδίο που μου είναι ιδιαίτερα οικείο και αγαπητό: αυτόν της εκπαίδευσης: εκεί η χρήση της ΤΝ είναι ακόμη στα πολύ πρώτα στάδιά της, όσον αφορά τη διάδοσή της. Αν και υπάρχουν έτοιμες ή «σχεδόν» έτοιμες εφαρμογές, η χρήση στην καθημερινή εργασιακή ρουτίνα έχει ακόμη μόνο χαρακτήρα πιλοτικών δοκιμών ή μεμονωμένων περιπτώσεων. Σύντομα όμως, μια που οι σχετικές επενδύσεις είναι σημαντικότατες, εκπαιδευτικοί και εκπαιδευόμενοι θα δούνε εφαρμογές στη καθημερινή τους πρακτική.
Πλησιέστερα στην υλοποίηση φαίνεται να είναι η αυτόματη παραγωγή υλικού εξετάσεων, όπου, παρέχοντας ένα «σώμα» βιβλίων, σημειώσεων, παρουσιάσεων και δίνοντας μερικές κατευθυντήριες «γραμμές», μπορεί να παραχθεί πλήθος ερωτήσεων και ασκήσεων για εξάσκηση και εξέταση. Η χρήση ερωτήσεων πολλαπλής επιλογής ως μεθόδου εξέτασης έχει ως κύριο ανασταλτικό παράγοντα την δυσκολία να παραχθεί μεγάλο υλικό εξέτασης με αξιόπιστες παραλλαγές. Αυτό ακριβώς το εμπόδιο θα ξεπεραστεί μέσω της ΤΝ. Ομοίως, η ΤΝ θα βρει σύντομα εφαρμογή σε συστήματα ελέγχου των εργασιών που συγγράφουν οι εκπαιδευόμενοι. Πέραν από συστήματα ανίχνευσης λογοκλοπής, τα οποία στηρίζονται κυρίως σε συστήματα ταχείας επεξεργασίας μεγάλων δεδομένων και πολύ λίγο σε τεχνικές ΤΝ, σε πιο προηγμένα συστήματα ο έλεγχος θα συνίσταται στον εντοπισμό «απότομων» αλλαγών στη δομή των κειμένων, στον τρόπο προσέγγισης ζητημάτων κ.ά.
Ένα ακόμη πεδίο όπου σύντομα αναμένουμε διαθέσιμες εφαρμογές, είναι συστήματα που προσαρμόζουν τον τρόπο που παρουσιάζεται η ύλη στον εκπαιδευόμενο και το επίπεδο του υλικού εξετάσεων, ανάλογα με το μαθησιακό του υπόβαθρο και τις επιδόσεις του στην διάρκεια της εκπαίδευσης, με τη βοήθεια και στοχευμένων ερωτήσεων και ανατροφοδότησης του συστήματος με πληροφορίες από τον χρήστη. Εδώ έχουμε ένα παράδειγμα αυτού που κάποιες φορές αποκαλείται «ρηχή» ΤΝ. Είναι γνωστό ότι ένα από τα μεγάλα προβλήματα που έχουν βρει τα «Μαζικά Ελεύθερα (ή μη) Διαδικτυακά Μαθήματα» (ή MOOCS, από τα αγγλικά αρχικά των αντίστοιχων λέξεων) είναι ότι μικρό ποσοστό αυτών που τα ξεκινούν τα ολοκληρώνει. Ένας από τους κύριους λόγους είναι ότι η μίξη με την καθημερινή ρουτίνα της οικίας, θέτει πολύ μεγαλύτερες απαιτήσεις στο εκπαιδευτικό υλικό για να «κρατήσει» ενεργό τον εκπαιδευόμενο. Αυτό το πρόβλημα έδωσε την ώθηση να περάσουμε σε ένα πιο προχωρημένο επίπεδο, αυτού που αποκαλείται ενίοτε «βαθιά» ΤΝ. Θα εντοπίζονται «βαθύτερες» ιδιότητες που θα προκύπτουν από ανάλυση των εκφράσεων του προσώπου και των κινήσεων των ματιών του εκπαιδευόμενου, σε συνδυασμό με αλληλεπιδράσεις που θα λαμβάνουν χώρα στη διάρκεια του μαθήματος. Στόχος είναι να εντοπιστούν σημεία της «παράδοσης» όπου υπάρχει μείωση της προσοχής ή και «απεμπλοκή» και σημεία στα οποία το ενδιαφέρον αυξάνεται ή επανέρχεται, είτε λόγω της δομής του υλικού, είτε λόγω της διαδικασίας του μαθήματος, είτε λόγω του τρόπου που μιλάει, εκφράζεται και αντιδρά ο εκπαιδευτής. Αυτό δε θα βοηθά απευθείας ένα συγκεκριμένο εκπαιδευόμενο, δεν είναι εκεί ο στόχος της μεγάλης επένδυσης που γίνεται, αλλά τον εκπαιδευτή και, κυριότερα, τον παραγωγό του εκπαιδευτικού υλικού. Και επειδή οι όροι που χρησιμοποιούμε δεν είναι ποτέ «αδιάφοροι» και «πολιτικά ουδέτεροι», δεν θα ξέφυγε νομίζω ο όρος «παραγωγός εκπαιδευτικού υλικού», ώστε να το γενικεύσω πέραν του δασκάλου και καθηγητή που «φτιάχνει» τις παραδόσεις και τις παρουσιάσεις του. Και αν η πρόσφατη εμπειρία της απόπειρας να μπουν κάμερες στα σχολεία άφησε τις χειρότερες εντυπώσεις και σύντομα κατέρρευσε, είναι προφανές ότι η εισαγωγή των παραπάνω τεχνικών ΤΝ θα γίνει με τρόπο ομαλής, οικειοθελούς και νομικά ελεγμένης διείσδυσης, μια που οι εταιρείες του κλάδου δεν έχουν καμία διάθεση να εμπλακούν σε προχειρότητες και να «βιάσουν καταστάσεις». Αυτές οι εφαρμογές θα είναι διαθέσιμες για «συνεργασία» με την εκάστοτε «ηλεκτρονική» τάξη, προσφέροντας υποδείξεις βελτίωσης. Ας σκεφτούμε, βέβαια, στη περίπτωση γενίκευσης, το πλήθος των προσωπικών δεδομένων, συνδεδεμένων πλέον με μαθησιακά και γενικότερα χαρακτηριστικά της προσωπικότητας που θα αποθηκεύονται και θα τυγχάνουν επεξεργασίας. Εδώ πάλι ερχόμαστε αντιμέτωποι με όλα όσα αναπτύχθηκαν ήδη ή θα αναπτυχθούν από τους άλλους ομιλητές σχετικά με τα νομικά και ηθικά ζητήματα της χρήσης αυτής της τεχνολογίας.
Δημοσθένης Σταμάτης
Καθηγητής Μηχανικών Πληροφορικής και Ηλεκτρονικών Συστημάτων, Διεθνές Πανεπιστήμιο της Ελλάδας
Τεχνολογικός μετασχηματισμός της εργασίας
Η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ
Τα τελευταία χρόνια γίνεται μεγάλη συζήτηση για την ταχύτατη πρόοδο της τεχνητής νοημοσύνης, η οποία σε συνδυασμό με τις υπόλοιπες, επίσης ταχύτατα εξελισσόμενες, ψηφιακές τεχνολογίες διεισδύει συνεχώς σε όλους τους τομείς της ανθρώπινης δραστηριότητας.
Διαλέγοντας έναν λειτουργικό ορισμό θα μπορούσαμε να πούμε ότι η Τεχνητή Νοημοσύνη (ΤΝ) αναφέρεται σε συστήματα που εμφανίζουν ευφυή συμπεριφορά έχοντας τη δυνατότητα να αναλύσουν το περιβάλλον τους και να αναλάβουν να πραγματοποιήσουν ενέργειες – με κάποιο βαθμό αυτονομίας – για την επίτευξη συγκεκριμένων στόχων1. Ένα σύστημα ΤΝ μπορεί να είναι υλοποιημένο ως σύστημα λογισμικού (software) είτε να είναι ενσωματωμένο σε μία συσκευή υλικού (hardware) είτε να αποτελεί συνδυασμό των παραπάνω.
Δεν υπάρχει αμφιβολία ότι η αξιοποίηση των επιστημονικών και τεχνολογικών εξελίξεων στον τομέα της ΤΝ έχει ήδη συνεισφέρει θετικά με εφαρμογές στην ιατρική, στις μεταφορές, στην κατανάλωση ενέργειας, στη βιομηχανία κ.α. Ταυτόχρονα, όσο αυξάνει η διείσδυση της ΤΝ, τόσο γίνεται και εντονότερος ο προβληματισμός για τις πιθανές αρνητικές της επιπτώσεις, μεταξύ άλλων, σε τομείς όπως η διασφάλιση των προσωπικών μας δεδομένων, η επίδραση που θα έχει στον τομέα της εργασίας, της ανεργίας, η συσσώρευση δύναμης σε λίγα κέντρα που θα διαχειρίζονται την πληροφορία και τη γνώση και γενικότερα στην πιθανότητα να λειτουργήσει καταλυτικά στην αύξηση των ήδη τεράστιων ανισοτήτων σε όλο τον κόσμο.
Ο προβληματισμός για τεχνητά ευφυή όντα μπορούμε να πούμε ότι ξεκίνησε από την αρχαιότητα, ο όρος όμως τεχνητή νοημοσύνη με τη μορφή που τον χρησιμοποιούμε σήμερα και ως ερευνητικό πεδίο εμφανίζεται το 1956 στο πλαίσιο συνάντησης εργασίας (workshop) στο πανεπιστημιακό κολέγιο του Dartmouth των ΗΠΑ. Από τότε μέχρι σήμερα υπήρξαν περίοδοι υπερβολικών προσδοκιών για τις εφαρμογές της ΤΝ καθώς και περίοδοι απογοήτευσης. Οι πρώτες συνοδεύονται από ιδιαίτερα υψηλές κρατικές επενδύσεις στην έρευνα, κυρίως από ΗΠΑ, Αγγλία και Ιαπωνία και οι δεύτερες από δραστική μείωση της χρηματοδότησης. Σήμερα
διανύουμε ένα νέο κύκλο που οι επενδύσεις στην ΤΝ αυξάνουν με γεωμετρική πρόοδο, τόσο οι κρατικές όσο και οι ιδιωτικές, κυρίως από τους «μεγάλους παίκτες» της τεχνολογίας (amazon, apple, facebook, google, microsoft κ.α.). Η ΕΕ έχει επανακαθορίσει πρόσφατα (Απρίλιος του 2018) την ευρωπαϊκή στρατηγική της για την τεχνητή νοημοσύνη2 και έχει ανακοινώσει συνεχή αύξηση των κονδυλίων που θα διαθέσει για το προσεχές μέλλον. Έχει επίσης διακηρύξει (Φεβρουάριος 2020) την εντατικοποίηση των πολιτικών που θα διασφαλίζουν ότι οι σύγχρονες τεχνολογίες θα τίθενται στην υπηρεσία όλων των Ευρωπαίων – βελτιώνοντας τη ζωή τους με παράλληλο σεβασμό των δικαιωμάτων τους (Λευκή Βίβλος για την Τεχνητή Νοημοσύνη: Η ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης).
Τι διαφορετικό συμβαίνει σήμερα και δίνεται τόσο μεγάλη έμφαση στο ρόλο που διαδραματίζει η τεχνητή νοημοσύνη; Η απάντηση είναι ότι κατ’ αρχήν τα τελευταία χρόνια έχουν γίνει ιδιαίτερα αποτελεσματικές και αξιόπιστες, σε σχέση με το παρελθόν, οι εφαρμογές της στους διάφορους τομείς. Ο κυριότερος λόγος όμως είναι η σύζευξη της ΤΝ με άλλους τομείς των σύγχρονων τεχνολογιών, όπως είναι η ρομποτική, τα δίκτυα υψηλών ταχυτήτων (5G), το διαδίκτυο των πραγμάτων (IoT), τα κέντρα αποθήκευσης και επεξεργασίας δεδομένων τεράστιου όγκου (Big Data), η βιοϊατρική κ.α. Η σύζευξη αυτή επιταχύνει τον τεχνολογικό μετασχηματισμό της κοινωνίας, οδηγεί σε «αλλαγή παραδείγματος», με αποτέλεσμα να μιλάμε σήμερα για την 4η Βιομηχανική Επανάσταση.
Στα πλαίσια του διαδικτύου των πραγμάτων, για να αναφέρουμε ένα ενδεικτικό παράδειγμα, η μεγάλη μείωση του κόστους και η ευρεία χρήση αισθητήρων δίνει τη δυνατότητα, μέσω δισεκατομμυρίων διασυνδεδεμένων συσκευών (αριθμό κατά πολύ μεγαλύτερο από αυτόν των διασυνδεδεμένων χρηστών) να αποστέλλεται συνεχώς μεγάλος όγκος δεδομένων και σημάτων που αποθηκεύονται και επεξεργάζονται αυτόματα από προηγμένους αλγορίθμους μηχανικής μάθησης και εξόρυξης γνώσης της ΤΝ. Ο πλούτος των πληροφοριών και της γνώσης που παράγεται έχει πρωτοφανείς και απεριόριστες εφαρμογές σχεδόν σε κάθε τομέα της ανθρώπινης δραστηριότητας.
Ο ΤΕΧΝΟΛΟΓΙΚΟΣ ΜΕΤΑΣΧΗΜΑΤΙΣΜΟΣ ΤΗΣ ΕΡΓΑΣΙΑΣ
Στο σημείο αυτό θα επικεντρωθούμε ιδιαίτερα στο ποια θα είναι η πιθανή επίδραση της τεχνητής νοημοσύνης, της ρομποτικής και των ψηφιακών τεχνολογιών γενικότερα στον τομέα των επαγγελμάτων και των θέσεων εργασίας.
Τα ζητήματα που προκύπτουν και πρέπει να απαντηθούν είναι πολλά αν και στις περισσότερες περιπτώσεις αλληλοσυνδέονται. Επιλέγουμε να κωδικοποιήσουμε και να ξεκινήσουμε τη συζήτηση για τέσσερα από αυτά:
- Ποια είναι τα επαγγέλματα που κινδυνεύουν και αντίστοιχα ποια νέα επαγγέλματα θα προκύψουν; Δεν υπάρχει αμφιβολία ότι με τη συνεχή εισαγωγή των αυτοματισμών, της τεχνητής νοημοσύνης και της ρομποτικής μία σειρά από επαγγέλματα εκλείπουν. Στην τρέχουσα περίοδο όμως το κυριότερο ζήτημα είναι ότι τα περισσότερα επαγγέλματα θα αλλάξουν μορφή καθώς θα μετεξελίσσονται οι αντίστοιχοι κλάδοι της οικονομίας. Θα προκύψουν νέα επαγγέλματα, κυρίως στους κλάδους της τεχνολογίας, με υψηλές απαιτήσεις σε γνώσεις και δεξιότητες. Οι κλάδοι του εμπορίου, της τραπεζικής/χρηματοοικονομικής, της εξυπηρέτησης πελατών και των μεταφορών-συγκοινωνιών αποτελούν, μεταξύ άλλων, χαρακτηριστικά παραδείγματα που συντελείται ήδη η μετεξέλιξή τους. Το ηλεκτρονικό εμπόριο π.χ. αντικαθιστά συνεχώς τις δραστηριότητες του «κλασσικού» εμπορίου και το ηλεκτρονικό μάρκετινγκ έχει αντικαταστήσει, σχεδόν εξ ολοκλήρου, τη διαφήμιση και τον μέχρι πρότινος τρόπο προώθησης των προϊόντων. Ευφυείς πράκτορες λογισμικού (intelligent agents) μετέχουν σε ηλεκτρονικές δημοπρασίες και αποφασίζουν για την αγορά προϊόντων και υπηρεσιών εκ μέρους των εντολοδόχων τους (φυσικών προσώπων ή και άλλων ευφυών πρακτόρων). Με την ταχύτατη εξέλιξη στον τομέα των έξυπνων οχημάτων χωρίς οδηγό, στο μέλλον (ίσως το άμεσο) οι αυτοκινούμενοι κάδοι συλλογής απορριμμάτων θα αποθέτουν μόνοι τους τα σκουπίδια στους ΧΥΤΑ. Με την εξέλιξη της αγροτικής ρομποτικής τα ρομπότ θα μαζεύουν φράουλες στη Μανωλάδα. Στα σούπερ μάρκετ δεν θα υπάρχουν ταμίες ούτε καν ταμεία, καθώς τα προϊόντα που προμηθευτήκαμε θα καταγράφονται και θα πληρώνονται αυτόματα από την έξυπνη πιστωτική μας κάρτα καθώς θα διασχίζουμε την έξοδο του καταστήματος. Τα παραπάνω παραδείγματα δεν ανήκουν στο χώρο της επιστημονικής φαντασίας. Έχουν ήδη αναπτυχθεί οι τεχνολογικές λύσεις υλοποίησης και μόλις καταστεί οικονομικά συμφέρον θα υιοθετηθούν από τις επιχειρήσεις και τους οργανισμούς. Οι διάφορες αναλύσεις για τα επαγγέλματα που βρίσκονται σε κίνδυνο, στο πλαίσιο της ΕΕ, αναφέρουν ποσοστά από 14-47%. Αντίστοιχα αναφέρεται4 ότι την περασμένη δεκαετία δημιουργήθηκαν 2 εκατομμύρια νέες θέσεις εργασίας από την εισαγωγή των ψηφιακών τεχνολογιών και προβλέπονται άλλες τόσες μέχρι το 2030.
- Θα αυξηθεί το μέγεθος της ανισότητας ανάμεσα στις τεχνολογικά πλούσιες και τεχνολογικά φτωχές χώρες; Θα βιώσουν όλες οι χώρες με τον ίδιο τρόπο τον τεχνολογικό μετασχηματισμό της εργασίας; Πως θα
επηρεάσει τις χώρες και τους πολίτες τους η επιταχυνόμενη συγκέντρωση τεχνολογικής δύναμης και ελέγχου στις «ισχυρές χώρες» ή στους παγκοσμιοποιημένους οργανισμούς που καρπώνονται σήμερα τα τεράστια κέρδη από τις τεχνολογικές εξελίξεις; Αν δεν αλλάξει κάτι δραστικά διακινδυνεύουμε μία συνεχόμενη εμβάθυνση του τεχνολογικού χάσματος μεταξύ εκείνων που έχουν τη δυνατότητα υλοποίησης και χρήσης συστημάτων τεχνητής νοημοσύνης, ρομποτικής και βιομηχανικών αυτοματισμών και εκείνων που δεν έχουν. Τι πρέπει να γίνει για να αποτελέσει η ΤΝ ένα νέο είδος ανθρώπινου δικαίωματος, ώστε όλες οι χώρες και οι πολίτες τους να έχουν πρόσβαση και να ωφεληθούν από αυτήν τη νέα κρίσιμη τεχνολογία και τις υπόλοιπες επιστημονικές και τεχνολογικές εξελίξεις;
- Ποιο μπορεί να είναι το πλαίσιο που θα προστατέψει τους εργαζόμενους από το φάσμα της «τεχνολογικής» ανεργίας; Μπορούμε να φανταστούμε έναν ΟΑΕΔ ο οποίος θα τροφοδοτείται με πόρους της πολιτείας για να στηρίζει ανέργους σε ποσοστό πιθανά της τάξης του 40-50% σε βραχυπρόθεσμο ή μεσοπρόθεσμο χρόνο; Ακόμα και αν το παραπάνω γίνει εφικτό θα είναι υγιές; Ποιο θα είναι το νόημα σε μια ζωή χωρίς εργασία για μεγάλη μερίδα του πλυθησμού; Ποιες είναι οι κοινωνικές συγκρούσεις που θα προκαλέσει μία τέτοια νέα κατάσταση πραγμάτων; Το πρόβλημα μπορεί να αντιμετωπιστεί τοπικά και με ποιες πολιτικές; Σε ευρωπαϊκό επίπεδο πως μπορούμε να παρέμβουμε στη σχετική διαβούλευση που έχει ξεκινήσει με τη «Λευκή Βίβλο για την Τεχνητή Νοημοσύνη»; Η μήπως απαιτείται μία παγκόσμιου επιπέδου συμφωνία για την προστασία της εργασίας των ανθρώπων, αντίστοιχη με αυτή που επιχειρείται για την προστασία του περιβάλλοντος;
- Τι πρέπει να γίνει στο επίπεδο της εκπαίδευσης και επαγγελματικής κατάρτισης; Σε μια εποχή που ο τεχνολογικός μετασχηματισμός της εργασίας είναι ιδιαίτερα επιταχυνόμενος και προκαλεί μετεξέλιξη της φύσης των επαγγελμάτων και δημιουργία νέων ποιες αλλαγές πρέπει να σκεφτούμε για όλες τις βαθμίδες της τυπικής εκπαίδευσης, καθώς και της επαγγελματικής εκπαίδευσης και κατάρτισης; Θα πρέπει να έχουμε μία εκπαίδευση που θα στοχεύει στην απόκτηση των απαραίτητων τεχνολογικών γνώσεων, αλλά παράλληλα να στοχεύει σε κοινωνικές και υψηλού επιπέδου νοητικές δεξιότητες, στη δημιουργικότητα και στην κριτική σκέψη; Για να διασφαλιστεί ότι οι εργαζόμενοι που θα χάνουν τη δουλειά τους θα βρίσκουν γρήγορα εργασία θα πρέπει άμεσα να σχεδιαστούν κατάλληλα προγράμματα επαγγελματικής εκπαίδευσης και κατάρτισης. Τα προγράμματα αυτά θα πρέπει να χρηματοδοτούνται από τις επιχειρήσεις και την πολιτεία ώστε να ανατραπεί η τρέχουσα κατάσταση που προσπαθεί να μεταφέρει το οικονομικό βάρος στους εργαζόμενους με την λογική «τα πράγματα αλλάζουν! πρέπει να το συνηθίσεις και να τα βγάλεις πέρα μόνος σου».
ΑΝΤΙ ΕΠΙΛΟΓΟΥ
Σε όλες τις φάσεις εισαγωγής αυτοματισμών στη βιομηχανική παραγωγή, που συνοδεύουν την επιστημονική και τεχνολογική εξέλιξη το επιχείρημα των τεχνολατρών είναι ένα: Η προβολή του ονείρου ότι θα δουλεύουμε λιγότερο, οι σκληρές δουλειές θα γίνονται από τις μηχανές και εμείς θα έχουμε περισσότερο ελεύθερο χρόνο για δημιουργικές δραστηριότητες. Είναι όμως έτσι; Τελικά τι πρέπει να κάνουμε για να εκμεταλλευτούμε τις αναμφίβολα εξαιρετικές δυνατότητες της Τεχνητής Νοημοσύνης και της Ρομποτικής στον τομέα της Υγείας, του περιβάλλοντος και γενικότερα για την ευμάρεια των ανθρώπων και να
αποφύγουμε τα εφιαλτικά σενάρια μιας κοινωνίας με θεαματική αύξηση της ανεργίας και διεύρυνσης των σημερινών ανισοτήτων;
Πρέπει γρήγορα να περάσουμε από το στάδιο της ενημέρωσης για τις τεχνολογικές εξελίξεις και από τα ερωτήματα του τι πρόκειται να συμβεί στο τι πρέπει να συμβεί και να προχωρήσουμε σε οργανωμένες ενέργειες στο επίπεδο της πολιτικής που να στοχεύουν στον έλεγχο της νέας κατάστασης πραγμάτων που φέρνει η 4η βιομηχανική επανάσταση. Αν πάρει υπόψη του κανείς την τρέχουσα φάση της παγκοσμιοποίησης και την κατάσταση στο επίπεδο της διακυβέρνησης χωρών και της Ευρωπαϊκής Ένωσης ένα είναι σίγουρο: Η «μάχη» για να τεθεί η τεχνολογική εξέλιξη υπό τον έλεγχο και να είναι σε όφελος της κοινωνίας θα βαδίζει χέρι-χέρι με αυτήν ενάντια στη πολιτική της λιτότητας, στη συρρίκνωση των εργασιακών δικαιωμάτων και του περιορισμού της ελευθερίας των πολιτών.
Νίκος Παρασκευόπουλος
τ. Υπουργός Δικαιοσύνης
Νομικά ζητήματα και κοινωνικές ανισότητες
Σε μια συμβολή επτά λεπτών τα πλείστα για την τεχνητή νοημοσύνη αναγκαστικά θα υποτεθούν γνωστά λόγω γενικών γνώσεων ή λόγω των συμβολών των άλλων εισηγητών. Κατ’ ευθείαν λοιπόν, τέσσερις θέσεις συνδεόμενες με κεντρικά ερωτήματα η κάθε μια, και ένας επίλογός τους.
Α. Η κεκτημένη ταχύτητα δείχνει πως ό,τι μπορεί να ψηφιοποιηθεί και χρειάζεται για την αγορά ή την ασφάλεια θα ψηφιοποιηθεί. Το ερώτημα εδώ το οποίο θα συζητάται πλέον διαρκώς είναι αν στην ψηφιοποίηση πρέπει να τεθούν όρια.
Β. Ο αλγόριθμος (συνεκδοχικά, ως βασικό εργαλείο της τ.ν.) θα είναι ταξικός: είναι ορατή η σχηματοποίηση τριών κοινωνικών κατηγοριών. Μιας πολύ μικρής υπερελίτ μετρούμενης σε χιλιοστά, η οποία θα απαρτίζεται από τους ιδιοκτήτες και τους διαχειριστές των ψηφιακών συστημάτων. Μια δεύτερη μεσαία κατηγορία που θα απαρτίζεται από όσους εργάζονται στο πλαίσιο της τεχνητής νοημοσύνης και των εφαρμογών της. Εδώ θα συναντώνται ανισοβαρείς ομάδες με τους προγραμματιστές από τη μια πλευρά ως πιο ισχυρούς και τους κατασκευαστές υλικών και κυκλωμάτων από την άλλη ως πιο αδύναμους. Στην τρίτη κατηγορία θα σωρεύονται όσοι θα μείνουν εκτός του ψηφιακού κόσμου (μεταφορείς, άνεργοι κλπ.) Το ερώτημα εδώ είναι : μπορεί να αναπτυχθεί μια κοινωνική εξισωτική πολιτική και μια πολιτική που να εντάσσει το σύνολο του πληθυσμού στον κοινωνικό χώρο;
Γ. Λόγω θέματος η τρίτη θέση θα αναπτυχθεί κάπως περισσότερο. Στο πεδίο της δικαιοσύνης οι δυνατότητες που ανοίγονται αλλά και οι κίνδυνοι που προκαλούνται με την ανάπτυξη της τ.ν. είναι τεράστιοι.
α ) Δυνατότητες
- Συγκρότηση ενιαίας κωδικοποίησης των νόμων σε παγκόσμιο επίπεδο και γενικά άνετη δυνατότητα εύρεσης του ισχύοντος δικαίου.
- Ανάπτυξη επιχειρήσεων ψηφιακής συμβουλευτικής στα νομικά θέματα. Ασφάλεια συναλλαγών
- Δυνατότητα διερεύνησης πραγματικών ζητημάτων και αποδείξεων. Εντοπισμός υπόπτων
- Τελευταίο και ίσως σημαντικότερο. Η τεχνητή νοημοσύνη μπορεί να στηρίξει ένα σύστημα διαφάνειας και λογοδοσίας το οποίο θα υπηρετεί τη δικαιοσύνη.
β) Κίνδυνοι
- Η ανάπτυξη της τεχνητής νοημοσύνης προϋποθέτει συλλογή προσωπικών δεδομένων. Είναι αυτονόητο ότι ο πληροφοριακός αυτοπροσδιορισμός του ατόμου θα δοκιμαστεί. Τα παραδοσιακά νομοθετικά πλαίσια προστασίας προσωπικών δεδομένων είναι πιθανόν να μην αντέξουν
- Στο πεδίο της ψηφιακής νοημοσύνης τα πάντα είναι δυνατόν να υποκλαπούν. Έτσι στον παραπάνω συστημικό κίνδυνο προστίθεται και ο παράνομος.
- Κατά τη διερεύνηση σφαλμάτων που μπορεί να προκύψουν από την λειτουργία της τεχνητής νοημοσύνης (πχ ατύχημα από αυτοκίνητο με αυτόματο πιλότο), η δυνατότητα εξεύρεσης ενός ατομικού ενόχου χάνεται σε ένα χάος αιτιακών παραγόντων. Το ερώτημα εδώ είναι: όταν δεν θα μπορούν να εντοπίζονται συγκεκριμένα άτομα ως ένοχοι,ο θα μπορεί να ασκηθεί προληπτική πολιτική;
- Κατά την εξεύρεση υπόπτων μέσω επεξεργασμένων χαρακτηριστικών ταυτότητας θα υπάρξουν λάθη. Η ως τωρα εμπειρία δείχνει αυξημένη συμμετοχή π.χ.. Αφρικανών και Ασιατών ανάμεσα σε όσους θα χαρακτηρίζονται επικίνδυνοι. Πώς μπορούμε να διασφαλίσουμε τον ανεπηρέαστο αλγόριθμο;
- Οι παραπάνω κίνδυνοι δείχνουν ότι η ανάπτυξη της τεχνητής νοημοσύνης χρειάζεται θεσμικά όρια. Ένα ερώτημα εδώ είναι αν αυτά θα έχουν τη μορφή αυστηρών δεσμευτικών κανόνων ή δεοντολογίας.
Δ. Χαριτολογώντας μπορούμε να πούμε ότι το πλαίσιο της τ.ν. στο εργασιακό πεδίο μπορεί να αποτελέσει τη χαρά του καπιταλιστή: Η κυριότερη εργασία, που είναι η παραγωγή περιεχομένου, δεδομένων κλπ. θα γίνεται από τους ίδιους τους χρήστες με τα κλικ και τις άλλες ψηφιακές επιλογές τους. Τηλεγραφικά σημειώνω κάποια βασικά προβλήματα.
- Ανάμεσα στους εργαζόμενους θα αναπτυχθούν σαφείς διακρίσεις.
- Η υπερεργασία θα γίνει σε κάποιες περιπτώσεις ανεξέλεγκτη
- Η ηλεκτρονική επιτήρηση τόσο στο χώρο της εργασίας όσο και στο σπίτι ασφαλώς θα αφορά και την προσωπική ζωή.
Όπως είναι φανερό τα παραπάνω προβλήματα θα μπορούν να έχουν δυσμενείς ψυχολογικές επιπτώσεις και να οδηγήσουν στην ανάπτυξη ενός κομφορμισμού.
Επιπτώσεις ωστόσο θα υπάρξουν και σε όσους θα βρεθούν έξω από τους χώρους της ψηφιακής εργασίας. Εκεί τα προβλήματα θα είναι έλλειψη ασφάλισης, ανεπαρκής περίθαλψη, ανεργία, έκθεση σε άμεσους κινδύνους και μικρόβια. Με βάση τα παραπάνω μπορούμε να κάνουμε κάποιες σκέψεις για την μελλοντική εργασιακή πολιτική. Αυτό που λέγεται ευρέως σήμερα είναι ότι η δυνατότητα του πολίτη να κρατά την ιδιωτικότητά του και την προσωπική διαφορά από τους άλλους θα χαθεί. Θα θριαμβεύσει μια βιοπολιτική που θα φθάσει στην πειθάρχηση των σωμάτων.
Η προσωπική μου γνώμη είναι όμως ότι αυτή η εξέλιξη μπορεί να χαρακτηρίσει μόνο όσους θα εργάζονται μέσα στον ψηφιακό κόσμο. Όσοι θα βρίσκονται εκτός θα «αποθηκεύονται» χωρίς να υπάρχει ενδιαφέρον για τα σώματά τους ή για τις προσωπικές τους ταυτότητες και αποκλίσεις. Με δυο λόγια για να καταλάβουμε τους εργαζόμενους εντός θα πρέπει να διαβάζουμε το Μισέλ Φουκώ, για να καταλάβουμε τους εκτός θα μας χρειάζεται ο Ζίγκμουντ Μπάουμαν.
Ο επίλογος για όλα τα παραπάνω είναι βέβαια ενιαίος. Η ανθρωπότητα θα αναμετρηθεί με τον ψηφιακό κόσμο και χρειάζεται να αξιοποιήσει τις δυνατότητές του. Ο άνθρωπος δεν θα πρέπει να αντιδράσει τεχνοφοβικά εγκαταλείποντας το διαδίκτυο. Ωστόσο Παράλληλα θα πρέπει να διατηρήσει την ενσώματη ζωή του, τις άμεσες κοινωνικές του σχέσεις, τις πολιτικές δραστηριότητες και ιδίως την οικολογική φροντίδα του για τη γη. Αυτό που έχει σημασία είναι τόσο εντός του ψηφιακού κόσμου όσο και εκτός να διατηρήσει «τα αυτά», δηλ. τις ίδιες αξίες». Ελευθερία, δημοκρατία, ισότητα, σεβασμό στη φύση.
Τάσος Πετρόπουλος
τ. Υφυπουργός Εργασίας
Η εργασία στην εποχή της ψηφιοποίησης και της Τεχνητής Νοημοσύνης
Στις μέρες μας σημειώνεται ορατή μεταβολή στον τρόπο οργάνωσης της παραγωγής Η τηλεργασία καταλαμβάνει το χώρο παραδοσιακών μορφών οργάνωσης. Επιταχύνθηκε στις συνθήκες της πρόσφατης πανδημίας και του lockdown. Προτάθηκε ως λύση ή επινοήθηκε ως μέθοδος αποφυγής εργοδοτικών δεσμεύσεων και αδιαμαρτύρητη επιβολή ελαστικότερων μορφών εργασίας.
Εν τω μεταξύ, η αλυσίδα παραγωγής προϊόντων που απαιτούσε τη συνύπαρξη των μισθωτών στον ίδιο χώρο εργασίας, ως μέθοδος οργάνωσης της εργασίας αλλά και ως κυρίαρχη και μέχρι πρότινος μοναδική διαδικασία παραγωγής, υποχωρεί.
Γενικότερα: Οι τεχνολογικές αλλαγές σε συνθήκες παγκοσμιοποίησης αναδεικνύονται ως ακατάβλητες δυνάμεις που καθορίζουν την εξέλιξη της οικονομίας, των κοινωνιών, και της πολιτικής στη διαχείριση των σύγχρονων προβλημάτων, τα οποία αναδύονται στο πεδίο της οργάνωσης των παραγωγικών δυνάμεων.
Η πιο δυναμική εξέλιξη σχετίζεται με την εξάπλωση των ηλεκτρονικών υπολογιστών και την ψηφιοποίηση σε όλους τους τομείς της οικονομικής δραστηριότητας. Ο μισός πληθυσμός του πλανήτη είναι συνδεδεμένος στο διαδίκτυο. Η νέα τεχνολογία πληροφοριών έχει οδηγήσει σε νέες μορφές οργάνωσης της εργασίας.
Η αυτοματοποίηση μετασχηματίζει τα επαγγέλματα χαμηλής ειδίκευσης. Θέτω ως παράδειγμα δύο στρατηγικούς κλάδους της παραδοσιακής οικονομίας:
- Οι υψηλής έντασης θέσεις εργασίας λιμενεργατών εκτοπίζονται από την εμπορευματοκιβωτιοποίηση του θαλάσσιου εμπορίου.
- Η αυτοματοποίηση των χρηματοοικονομικών υπηρεσιών απομειώνει θέσεις εργασίας των τραπεζοϋπαλλήλων.
Γενικότερα παρατηρείται ραγδαία μεταβολή των εργασιακών δομών και σχέσεων από την ολοένα επιταχυνόμενη επέλαση της τεχνολογίας. Μελέτες στις Η.Π.Α (2017) συμπεραίνουν ότι η προσθήκη ενός επιπλέον ρομπότ ανά 1000 εργαζόμενους, μειώνει την αναλογία απασχόλησης προς τον πληθυσμό κατά 0,18 έως 0,34 ποσοστιαίες μονάδες και τους μισθούς κατά 0,25 έως 0,5 μονάδες.
Εν τω μεταξύ το εισόδημα εργασίας ως ποσοστό του ΑΕΠ, σημειώνει πτωτική πορεία, ενώ οι αλλαγές στη φορολογική πολιτική ευνοούν το κεφάλαιο έναντι της εργασίας.
Έχει παρατηρηθεί ότι οι θέσεις εργασίας δημιουργούνται είτε σε χαμηλόμισθες δουλειές «όπου δεν συμφέρει να αυτοματοποιθηθούν», είτε σε υψηλά αμειβόμενες θέσεις εργασίας με διευθύνουσα επιρροή και εξουσία.
Οι νέες καινοτομίες τείνουν να αυτοματοποιήσουν θέσεις εργασίας που άλλοτε κατείχαν άνθρωποι της μεσαίας τάξης, εκτοπίζοντας όχι μόνο δουλειές «ρουτίνας» αλλά και επαγγέλματα, όπως οι δικηγόροι και οι γιατροί.
Σοβαρή απειλή για την κοινωνική πρόοδο είναι ο κίνδυνος του ψηφιακού χάσματος. Στην όλο και πιο ψηφιοποιημένη εποχή μας, πολλαπλασιάζονται οι άνθρωποι που αποκλείονται από την παραγωγή και τη νέα οργάνωση της οικονομίας. Οι άνθρωποι αυτοί βαθμιαία στερούνται κίνητρα και ευκαιρίες για κοινωνική συμμετοχή, για συμμετοχή στην πολιτική δράση ως φορείς πολιτικών δικαιωμάτων σε μία δρώσα κοινωνία.
Από την άλλη μεριά, η υποκατάσταση της εργασιακής ικανότητας με προγράμματα παροχής επιδομάτων ανικανότητας, αποτελεί κίνδυνο για τον οριστικό εργασιακό και (γιαυτό) κοινωνικό αποκλεισμό μεγάλων τμημάτων του ενεργού (ακόμη) πληθυσμού.
Η οικονομία, από τη δεκαετία του 1980 και ύστερα, κινείται εκτός ελέγχου, υπό την επίδραση μιας μαζικής τάσης απορρύθμισης της αγοράς.
Αξίζει να επιδιώξουμε τον δημοκρατικό εκσυγχρονισμό της οικονομίας με κατοχυρωμένο το δικαίωμα στην αξιοπρέπεια, χωρίς κοινωνικοοικονομικό αποκλεισμό, ταπείνωση και φόβο.
Η τεχνολογία δημιουργήθηκε και προόδευσε ως επίτευγμα του ανθρώπινου πνεύματος των προγόνων όλων μας, που πορεύτηκαν από την αρχαιότητα μέχρι σήμερα. Για τούτο το λόγο, πρέπει να τίθεται στην υπηρεσία του κοινωνικού συνόλου.
Όπως επισημαίνει ο Ομότιμος Καθηγητής του Εργατικού Δικαίου, Δημήτριος Τραυλός – Τζανετάτος, (Το εργατικό δίκαιο στην τέταρτη βιομηχανική επανάσταση, Εκδόσεις Σάκκουλα 2019): «Σήμερα το ενδιαφέρον σε εθνικό και υπερεθνικό επίπεδο των επιστημόνων, των πολιτικών και του συνδικαλιστικού κινήματος, συγκεντρώνεται στη λεγόμενη τέταρτη βιομηχανική επανάσταση, η οποία αποτελεί βασικά μετεξέλιξη της ψηφιακής επανάστασης. Έννοιες όπως «οικονομία της πλατφόρμας» (Plattformenökonomie), «οικονομία του διαμοιρασμού (Sharing Economy), «πληθοπορισμός» (Crowdworking), μαζικά δεδομένα (Big Data), «διαδίκτυο των πραγμάτων (Internet of Things, Internet der Dinge), τρισδιάστατη εκτύπωση (3D Drucker), «κυβερνοφυσικά συστήματα» (Cyber – Physical Systems), «αλγόριθμοι, Ρομποτική και τεχνητή νοημοσύνη» (Robotik, Technische Intelligenz) βρίσκονται στο επίκεντρο της συζήτησης και συγκροτούν βασικά χαρακτηριστικά της τέταρτης βιομηχανικής επανάστασης. Ωστόσο εκείνες οι εκφάνσεις της επανάστασης αυτής, στις οποίες εστιάζεται το παγκόσμιο ενδιαφέρον και κυριαρχούν στις σχετικές συζητήσεις είναι η ρομποτική τεχνολογία, η εμβολιασμένη από τεχνητή νοημοσύνη, τα εξελιγμένα λογισμικά και τα «έξυπνα» ρομπότ τελευταίας γενιάς, και οι συνέπειές τους ιδίως στον κόσμο της εργασίας και της απασχόλησης γενικότερα. Ο επίκαιρος διάλογος για το μέλλον (ή το τέλος) της εργασίας ή (και) του καπιταλισμού είναι άμεσα συνδεδεμένος με τη δυναμική εξέλιξη της αντικατάστασης της ζωντανής εργασίας από τις μηχανές, δηλ. τη νεκρή αντικειμενικοποιημένη εργασία. Χαρακτηριστικό της φλέγουσας επικαιρότητας της προβληματικής αυτής είναι ότι από το 2016 αποτελεί ένα από τα κεντρικά ζητήματα συζήτησης στο παγκόσμιο οικονομικό forum του Νταβός. Οι επαναστατικές αυτές μεταβολές της παραγωγικής διαδικασίας δεν παρεμβαίνουν μόνο στον τρόπο οργάνωσης ή και στο περιεχόμενο. Ούτε περιορίζονται στη χωροχρονική αποσταθεροποίηση της εργασίας (κινητή εργασία, τηλεργασία, crwodworking). Πολύ περισσότερο φαίνεται να απειλούν με βαθμιαία εξαφάνιση την ίδια τη μισθωτή εργασία και την αντικατάστασή της από τις μηχανές.»
Οι νέες τεχνολογίες γεννούν νέα φαινόμενα στις σχέσεις εργασίας όπως η ρευστοποίηση – κατανομή της εργασίας στο χώρο και στο χρόνο, η διαρκής διαθεσιμότητα του εργαζόμενου, το ψηφιακό στρες, η μικροηλεκτρονική επιτήρηση, η εργασία πλατφόρμας.
Η εφαρμογή της ρομποτικής και της τεχνητής νοημοσύνης στην εργασία ανοίγει νέα ζητήματα όπως η ασφάλεια και η υγεία από ζημιογόνο λειτουργία του ρομπότ, η τεχνολογική ανεργία, αυτοματοποιημένες διαδικασίες άσκησης διευθυντικού δικαιώματος, διαδικασίες πρόσληψης ή απόλυσης εργαζομένων.
Ειδικότερα, η εργασία μέσω πλατφόρμας, απειλεί με απορρύθμιση τις σχέσεις εργασίας και συντελεί στην υποχώρηση της προστατευτικής αρχής του εργατικού δικαίου που προκρίνει την προστασία του εργαζόμενου έναντι του εργοδότη.
Υπό την νέα αυτή οπτική, υποχωρεί – εξαϋλώνεται η αρχή της εύνοιας υπέρ του εργαζόμενου, υπονομεύονται τα δικαιώματα στην ημερήσια και εβδομαδιαία ανάπαυση, στην άδεια αναψυχής, αλλοιώνεται – νοθεύεται ο χαρακτήρας του μισθού, το δικαίωμα υπαγωγής στην κοινωνική ασφάλιση και στην ασφάλιση κατά της ανεργίας, στη φορολογική μεταχείριση (ως μισθωτού) κ.λ.π.
Συναφή ερωτήματα προκύπτουν από το ψήφισμα της 16-02-2017 του Ευρωπαϊκού Κοινοβουλίου. Το ψήφισμα αυτό όμως δεν επιλύει αλλά παραπέμπει στο μέλλον την αξιολόγηση των μεταβολών που θα επέλθουν από την εφαρμογή της ρομποτικής στην αγορά εργασίας και θα «καταστήσουν απαραίτητο τον αναστοχασμό για το μέλλον της εκπαίδευσης, της απασχόλησης και της κοινωνικής πολιτικής.
Παραδέχεται ωστόσο ότι:
α) η διαδεδομένη χρήση των ρομπότ μπορεί να μην οδηγήσει αυτομάτως σε αντικατάσταση θέσεων εργασίας, ωστόσο οι θέσεις εργασίας χαμηλής ειδίκευσης σε τομείς εντατικής εργασίας ενδέχεται να είναι περισσότερο επιρρεπείς στην αυτοματοποίηση· λαμβάνοντας υπόψη ότι αυτή η τάση θα μπορούσε να έχει ως αποτέλεσμα την επαναφορά των διαδικασιών παραγωγής στην ΕΕ.
β) η έρευνα έχει καταδείξει ότι η απασχόληση αυξάνεται πολύ ταχύτερα σε επαγγέλματα που χρησιμοποιούν περισσότερο τους υπολογιστές.
γ) η αυτοματοποίηση των θέσεων εργασίας μπορεί να απαλλάξει τα άτομα από τις χειροκίνητες μονότονες εργασίες, επιτρέποντάς τους να στραφούν σε πιο δημιουργικές και ουσιαστικές εργασίες.
δ) λόγω της αυτοματοποίησης, οι κυβερνήσεις πρέπει να επενδύσουν στην εκπαίδευση και σε άλλες μεταρρυθμίσεις, ώστε να βελτιωθεί η ανακατανομή στα είδη δεξιοτήτων που θα χρειάζονται οι μελλοντικοί εργαζόμενοι.
ε) ενόψει των αυξανόμενων κοινωνικών διαιρέσεων και τη συρρίκνωση της μεσαίας τάξης, είναι σημαντικό να έχουμε κατά νου ότι η ανάπτυξη της ρομποτικής μπορεί να οδηγήσει σε υψηλή συγκέντρωση πλούτου και δύναμης στα χέρια μιας μειοψηφίας.
στ) η ανάπτυξη της ρομποτικής και της τεχνητής νοημοσύνης θα επηρεάσει καθοριστικά το τοπίο της αγοράς εργασίας, γεγονός που ενδέχεται να εγείρει νέους προβληματισμούς περί ευθύνης και να εξαλείψει άλλους.
ζ) πρέπει να διασαφηνιστεί η νομική ευθύνη όσον αφορά αφενός το επιχειρηματικό μοντέλο και αφετέρου το πρότυπο εργασιακού σχεδιασμού, σε περιπτώσεις έκτακτης ανάγκης ή εκδήλωσης προβλημάτων.
Αυτή η συζήτηση στην Ευρώπη ξεκίνησε. Σε άλλες περιοχές του πλανήτη (Η.Π.Α, Ιαπωνία, Νότια Κορέα, Κίνα) εξετάζονται ή έχουν τεθεί σε εφαρμογή σχετικές ρυθμίσεις. Σχετικοί προβληματισμοί αναπτύσσονται και διατυπώνονται κατά μόνας ή από ομάδες διανοητών. [Ενδεικτική η περίπτωση της ομάδας τριακοσίων κοινωνικών επιστημόνων, τα ερευνητικά ευρήματα των οποίων παρουσιάζονται στο Μανιφέστο για την κοινωνική πρόοδο (Εκδόσεις Πόλις 2019)].
Σήμερα μας δίνει ο Ευρωβουλευτής του ΣΥΡΙΖΑ, Κώστας Αρβανίτης την ευκαιρία να εγκαινιάσουμε αυτή τη συζήτηση. Συζήτηση που πρέπει να συνεχιστεί και να εμπλουτιστεί με τη συμμετοχή επιφανών επιστημόνων αλλά και κοινωνικών φορέων.
Η συζήτηση αυτή δεν είναι μια συζήτηση ανάμεσα σε σύγχρονους λουδίτες και σε υπερασπιστές της ρομποτικής, ανάμεσα σε εκφραστές της ενδοσυστημικής τεχνοφοβικής και της αντισυστημικής τεχνοουτοπικής.
Οφείλουμε να διεξάγουμε τη συζήτηση που υπηρετεί το διαρκή οφειλόμενο σκοπό για την υπηρέτηση των ανθρώπων σε μια ιστορικά επιδιωκόμενη κοινωνική πρόοδο.
Συνεπώς η συζήτηση ευλόγως θα περιστρέφεται στη βελτίωση της ζωής των ανθρώπων, στην αξιοπρέπεια, στη διασφάλιση ενός κατώτατου ελάχιστου μισθού που θα συγκλίνει προς εκείνους οι οποίοι θα αντιστοιχίζονται στο αυξανόμενο βιοτικό επίπεδο, ως δίκαιο μερίδιο σε μια επιταχυνόμενη πρόοδο με κοινωνική δικαιοσύνη.
Όλγα Νάσση
Ανθρωπολόγος, Επιστ. Συνεργάτις Κώστα Αρβανίτη
Το κοριτσάκι με τα σπίρτα και ο αλγόριθμος: ένας συλλογισμός για την ψηφιακή κυριαρχία.
Οι σκέψεις που ακολουθούν, αντανακλούν τις αλλαγές στις σχέσεις εξουσίας που βιώνουμε. Πρόκειται για έναν μεγάλο ανθρωπολογικό μετασχηματισμό που επηρεάζει όχι μόνο το δίκτυο, στην τεχνολογική του διάσταση, αλλά και την κοινωνική οργάνωση στην οποία μετέχουμε. Μας έχουν συνηθίσει να φανταζόμαστε τις σχέσεις εξουσίας, τουλάχιστον στην πιο οργανωμένη μορφή τους, με τις αναλύσεις του Weber ή του Foucault, ή με τις κλασικές του μαρξισμού. Αυτό σημαίνει ότι στη σύγχρονη εποχή έχουμε εντάξει την εξουσία μέσα σε έναν κόσμο που δεν υπάρχει πια, καθώς τα τελευταία τριάντα χρόνια, από τη δεκαετία του ’90, έχουν επιταχυνθεί δραματικά οι αλλαγές εκείνες που οι θεωρητικοί ονομάζουν «ψηφιακή επανάσταση». Μια επανάσταση που σε αντίθεση με τις προηγούμενες, δεν συνδέει τον άνθρωπο με ένα εργαλείο (με το πυρόλιθο, τον τροχό, τη μηχανή) αλλά συνδέει μηχανές μεταξύ τους, με αποτέλεσμα ο άνθρωπος να χάνει την δυνατότητα να παίρνει την τελική απόφαση.
Εγώ συνήθως ανάβω ένα τσιγάρο με ένα μικρό φωσφορίζοντα πράσινο αναπτήρα. Αυτή η φαινομενικά ουδέτερη πράξη διαμορφώνεται από πολλές υποκείμενες συνθήκες. Η πρώτη είναι ότι προτιμώ τον αναπτήρα από το παλιό ξύλινο σπίρτο. Η δεύτερη είναι ότι επιλέγω ένα συγκεκριμένο χρώμα: Το πράσινο διαφέρει από τα ουδέτερα χρώματα που επιλέγουν οι Ιταλίδες κυρίες της ηλικίας μου, που καπνίζουν. Επίσης, το πράσινο είναι το χρώμα της φύσης. Εδώ, λοιπόν, κάνω μια πολιτισμική επιλογή. Αυτή η επιλογή, κάπως ελιτίστικη, που παλιά με διαφοροποιούσε, σήμερα με κατατάσσει στις μάζες.
Αγοράζοντας τον αναπτήρα μου από μια διαδικτυακή πλατφόρμα πωλήσεων, κάνω μια πράξη συνηθισμένη πια: εγγράφομαι στην πλατφόρμα, γνωστοποιώ τη διεύθυνσή μου, τον αριθμό της πιστωτικής μου κάρτας, αποδέχομαι τα cookies και την επεξεργασία των δεδομένων μου.
Η μηχανή, από την άλλη πλευρά, κάνει αλλά τόσα, αλλά με αντίθετη φορά. Καταγράφει ότι η Όλγα στις 19:30, βρίσκεται στην Αθήνα (εντοπίζει την γεωγραφική τοποθεσία μου) και αγοράζει αναπτήρα στη Γαλλία. Με αυτή την πράξη, η μηχανή καταγράφει τα data μου. Καταγράφει ότι η Όλγα, που είναι τόσων χρονών (αυτό θα το πω μόνο στη μηχανή!), καπνίζει και προτιμά το πράσινο. Η μηχανή έτσι καταγράφει τα metadata μου.
Η συναλλαγή που μόλις πραγματοποιήθηκε έχει διάφορες επιπτώσεις σε ό,τι αφορά την αγορά εργασίας, οι οποίες είναι ευνόητες: αλλάζει το μοντέλο παραγωγής, επειδή ο αναπτήρας συναρμολογείται από τις μηχανές. Η μηχανή είναι πιο αποτελεσματική γιατί μειώνει τους χρόνους παραγωγής: καταργεί τον εργαζόμενο, καταργεί την πωλήτρια του καταστήματος, καταργεί τους παραδοσιακούς χώρους διαβούλευσης όπως τα εργοστάσια. Η σχέση που έχει δημιουργηθεί, ωστόσο, είναι ασύμμετρη, επειδή ενώ εγώ αγοράζω ένα αγαθό με χρήματα, η πλατφόρμα, από την άλλη πλευρά, πουλάει δύο φορές: τον αναπτήρα σε μένα και τα metadata σε άλλες πλατφόρμες. Αυτά τα δεδομένα και τα metadata συλλέγονται και διαμορφώνουν – θα μπορούσαμε να πούμε πως αναδιοργανώνουν – τον αλγόριθμο και μεταπωλούνται για εμπορικούς σκοπούς, αρχικά, και στη συνέχεια, όπως θα δούμε, και για πολιτικούς σκοπούς. Όταν αγοράζω ένα αγαθό στο διαδίκτυο, είτε με το κινητό μου τηλέφωνο είτε με τον υπολογιστή μου, προχωρώ σε μία ακόμη θεωρητικά αβλαβή πράξη: θέτω σε επικοινωνία δυο μηχανές: το κινητό μου τηλέφωνο και την απομακρυσμένη πλατφόρμα. Από τη στιγμή αυτή, τα μηχανήματα επικοινωνούν μεταξύ τους ανεξάρτητα.
Οι αλγόριθμοι, οι οποίοι είναι αλγόριθμοι προγνωστικοί – δηλαδή, δεν λειτουργούν σαν την στατιστική, που συλλέγει και επεξεργάζεται δεδομένα στοχεύοντας γενικευτικά στη δόμηση ενός target group με συγκεκριμένα κοινά χαρακτηριστικά-λειτουργούν για τη συλλογή όσο το δυνατόν περισσότερων δεδομένων για τον προσδιορισμό μιας ολοένα και πιο εξατομικευμένης ταυτότητας (μιλάμε για κατακερματισμό του ακροατηρίου). Ο αλγόριθμος επεξεργάζεται τις επιλογές που θα κάνω, αφού σε ένα χρονικό διάστημα έχω ήδη κάνει συγκεκριμένες επιλογές. Εφόσον η μηχανή συνεχίζει να συνδυάζει όλο και περισσότερα δεδομένα για μένα, θα μπορέσει να με πείσει ότι ένα προϊόν είναι καταλληλότερο από το άλλο για μένα και θα είναι σε θέση να κατασκευάσει ένα εικονικό μέλλον που θα μου προσφέρει ως επιλογή αγοράς. Τέλος, είναι προφανές ότι θα ταυτιστώ με αυτό το προϊόν, διότι είναι το αποτέλεσμα στοιχείων που έχω προμηθεύσει εγώ η ίδια και είμαι «προδιατεθειμένη» να μου αρέσει. (εδώ γίνεται λόγος για Κατάσχεση του Μέλλοντος). Αυτό μας φέρνει αντιμέτωπους με μια ανθρωπολογική εμπειρία που δεν γνωρίζουμε, η οποία τρέχει με ταχύτητες που υπερβαίνουν τις δυνατότητες παρατήρησής μας.
Η μηχανή, λοιπόν μπορεί να μας οδηγήσει σε συγκεκριμένες επιλογές, και αυτό συμβαίνει σε ένα κλίμα απόλυτης απορρύθμισης. Από τη σκοπιά της παραγωγής, ο δημιουργός, ο προγραμματιστής, στην ψηφιακή κοινωνία, αποκτά έναν πιο σημαντικό ρόλο από τον κατασκευαστή σπίρτων, και η – κατά τις αναλύσεις του Μαρξ – υπεραξία αποδεικνύεται σημαντικά ανώτερη. Διαισθητικά κατανοούμε ότι αυτή η υπεραξία είναι σημαντική. Δύο πρώτα ερωτήματα:
1) Πώς ποσοτικοποιούμε αυτήν την υπεραξία και ποια είναι η αναλογία αναμεσά στο κέρδος και της εκμετάλλευσης του εργαζομένου; (Για παράδειγμα η Amazon, που προσφέρει την υπηρεσία της δωρεάν αποστολής ενός προϊόντος και ταυτόχρονα εκμεταλλεύεται την εργασία)
2) Ακόμη, ποια είναι η σχέση μεταξύ δομής (υλική αξία) και υπερδομής (άυλη αξία);
Αλλά ας επιστρέψουμε στο κορίτσι με τα σπίρτα, και στις κοινωνικές επιπτώσεις της αφελούς οικονομικής συναλλαγής μου. Η ψηφιοποιημένη παραγωγή καταργεί τους παραδοσιακούς τόπους κοινωνικής συνάθροισης όπως το εργοστάσιο, μεταβάλλει τους κοινωνικούς χώρους, μειώνει τις ευκαιρίες συγκέντρωσης, αποδυναμώνει τις ανθρώπινες σχέσεις (θρυμματισμός/διάλυση των κοινωνικών σχέσεων). Δημιουργείται έτσι μια επιπλέον επιχειρηματική ευκαιρία: η βιομηχανία των σχέσεων. Αυτό το κενό των σχέσεων, που αφήνουν το εργοστάσιο ή μια αίθουσα χορού που σύχναζε το κορίτσι, έρχονται να καλύψουν οι ψηφιακές πλατφόρμες. Σήμερα, ο Zuckerberg μας πουλάει φιλία, μια δωρεάν υπηρεσία: “Σας επιτρέπω να επικοινωνείτε δωρεάν με άλλους ανθρώπους, αλλά παίρνω τα δεδομένα σας και τα μεταπωλώ”. Τα συναισθήματά μου, τώρα, είναι το εμπόρευμα που ανταλλάσσεται. Σχέσεις, φιλίες στο FB, είναι το νέο κεφαλαιοποιήσιμο περιουσιακό στοιχείο. Και σε αυτό το σενάριο εγώ είμαι και παραγωγός και καταναλωτής. Σήμερα, εγώ που ζω στην Ευρώπη, «παράγω» αυτό το προϊόν για περίπου 6 ώρες την ημέρα (8 ώρες στις ΗΠΑ). Είναι σαν ένα τεράστιο εργοστάσιο που παράγει δισεκατομμύρια δεδομένα, δωρεάν. Δεδομένα που καταλήγουν στα χέρια αυτών των εταιρειών με ελάχιστους πραγματικούς μισθωτούς υπαλλήλους (το FB έχει μόνο 25.000 υπάλληλους παγκοσμίως. Η Google με μόνο 100 χιλιάδες υπαλλήλους ελέγχει τα δεδομένα υγείας του παγκόσμιου πληθυσμού).
Αλλά ποιες είναι αυτές οι οντότητες στις οποίες σήμερα παραδίδουμε – για πάντα! – τα δεδομένα και τα metadata μας, και οι οποίες σε λίγα χρόνια έχουν συγκεντρώσει εντυπωσιακά κέρδη και κατέχουν σχεδόν το 50% του παγκόσμιου πλούτου;
Είναι ΤΡΙΑ λειτουργικά συστήματα παγκοσμίως: GOOGLE – MICROSOFT – APPLE – τα οποία ελέγχουν μαζί το 80% των τηλεπικοινωνιών του δυτικού κόσμου: 30% Microsoft, 30% Google \ Android, 20% Apple \ IOS.
Αυτές είναι ιδιωτικές εταιρείες. Επομένως, μόνο ο επιχειρηματίας κεφαλαιοποιεί τις σχέσεις μας. Πρόκειται για μια μοναδική εκθετική συσσώρευση κεφαλαίου. Αρά ποια είναι εδώ η σχέση μεταξύ κεφαλαίου και εργασίας;
Το γεγονός ότι ο χρόνος εργασίας μειώνεται δεν είναι απαραίτητα κακό· είναι μάλλον απελευθέρωση (υπάρχουν μελέτες που δείχνουν ότι με τη μείωση των ωρών εργασίας ο εργαζόμενος γίνεται πιο παραγωγικός). Σε αυτήν τη σχέση, ωστόσο, κάποιος σίγουρα κερδίζει, ενώ ο άλλος παράγει δωρεάν. Ποια θα μπορούσε να είναι μια αριστερή προσέγγιση; Πρέπει να σκεφτούμε την ανακατανομή αυτού του πλούτου, τη μετάβαση από ένα εθελοντικό σύστημα (π.χ. η Getty Images χαρίζει χρήματα) σε ένα οργανωμένο και πειθαρχημένο σύστημα. Θα πρέπει, για παράδειγμα, να προβλεφθεί η φορολόγηση αυτής της υπεραξίας προς όφελος της κοινότητας και εκείνων που χάνουν τη δουλειά τους. Ο σοσιαλισμός μετριέται και από αυτό: οργανώνει χωρίς να παγιδεύει τη δημιουργικότητα.
Τέλος, θα ήταν επίσης χρήσιμο να θεωρήσουμε τις ψηφιακές υποδομές ως κοινό αγαθό προσβάσιμο σε όλους. Θέλω να θυμίσω τον συνταγματολόγο Stefano Rodotà που εισήγαγε στη ΕΕ την ανάγκη για έναν αναγνωρισμένο νομικό ορισμό των κοινών αγαθών. Αγαθά τα οποία δεν είναι ούτε δημόσια ούτε ιδιωτικά. Ούτε εμπόρευμα ούτε ιδιοκτησία ενός μόνο ιδιοκτήτη, που μπορεί να τα διαθέσει στην αγορά για να αποκτήσει μια ανταλλακτική αξία, είτε πρόκειται για ιδιώτη είτε για το δημόσιο. Προϊόντα που αναγνωρίζονται ως τέτοια από μια κοινότητα που έχει δεσμευτεί να τα διαχειρίζεται προς το κοινό συμφέρον και για τις μελλοντικές γενιές.
Η αναφορά στην εμπορική χρήση των δεδομένων και των αλγορίθμων είναι, όπως είπαμε, ευνόητη: εάν κατέχω όλα τα δεδομένα των γυναικών μεταξύ 30 και 40 ετών της περιοχής των Αθηνών που ενδιαφέρονται για τη μουσική, μπορώ να κάνω μια γρήγορη αλγοριθμική επεξεργασία των γούστων αυτής της πληθυσμιακής ομάδας. Αυτές οι πληροφορίες έχουν εξαιρετικό ενδιαφέρον για τις βιομηχανίες που παράγουν μουσική. Μπορώ να ομαδοποιήσω τα δεδομένα ανά ηλικιακές ομάδες, περιφερειακές ομάδες, περιοχές της πόλης, οτιδήποτε, ακόμη και με πολιτική τυπολογία. Η πολιτική ζωή δεν είναι απρόσβλητη από τη επιρροή των αλγορίθμων. Ενδεικτικά είναι τα γεγονότα που σχετίζονται με το ρόλο των νέων μέσων ενημέρωσης στις εκλογές, στο «κυβερνο-αντάρτικο» και στις αντιπαραθέσεις μεταξύ ψηφιακής δημοκρατίας και ψηφιακής δικτατορίας.
Είναι επίσης αλήθεια ότι η πολιτική στο διαδίκτυο προκύπτει από πρακτικά αιτήματα και αιτήματα δημοκρατικής συμμετοχής, από την οποία, ωστόσο, δεδομένου και του κινδύνου αυταρχισμού, λείπει η γέφυρα της συνομιλίας, κάτι που τείνει να ακυρώσει τους ενδιάμεσους φορείς, τη λεγόμενη ΚΟΙΝΩΝΙΑ ΤΩΝ ΠΟΛΙΤΩΝ που είναι η καρδιά της δημοκρατίας. Ο Disraeli κέρδισε τις εκλογές το 1874 με το σύνθημα “Καλύτερα μια ελεύθερη Αγγλία από μία Αγγλία νηφάλια!”. Διαισθάνθηκε την έλλειψη δημοτικότητας του νόμου που είχαν επιβάλει οι φιλελεύθεροι στην κυβέρνηση, πεπεισμένοι να κάνουν τους Άγγλους εργάτες πιο παραγωγικούς. Σήμερα αυτή τη «διαίσθηση» μπορεί να μας την επιβάλλει ο αλγόριθμος.
Γιώργος Φραντζεσκάκης
Δημοσιογράφος, Επιστ. Συνεργάτης Κώστα Αρβανίτη
Είναι αχαρτογράφητο έδαφος ακόμα, η ανθρώπινη νοημοσύνη. Ισως μάλιστα να αργήσουμε πολύ για να βρούμε το κλειδί που ξεκλειδώνει τα μυστικά της.
Από αυτή την άποψη, το να περιγράψουμε επακριβώς και με επιστημονική ακρίβεια τα όρια της τεχνητής νοημοσύνης, ενός υποσυνόλου και μιμητή της ανθρώπινης, αυθεντικής διαδικασίας της επαγωγικής σκέψης και της συναγωγής λογικών συμπερασμάτων, μπορεί να είναι μια κάπως πρώιμη απόπειρα.
Η τεχνολογία προχωράει. Προχωράει, σχεδόν ερήμην των ηθικών προεκτάσεων των ευρημάτων της. Εχουμε την ατομική βόμβα ως παράδειγμα γι’ αυτό.
Το πιο πρόσφατο παράδειγμα όμως, είναι τα περίφημα LAWS.
Lethal Autonomous Weapons. Θανατηφόρα, αυτόνομα, όπλα.
Για να μη σας ταλαιπωρήσω με τεχνικές λεπτομέρειες, και τον κεκαλυμμένο, ηθελημένο ευφημισμό (γιατί LAW σημαίνει και νόμος στα Αγγλικά – έχουνε και χιούμορ τα γεράκια του πολέμου), σκεφτείτε στρατιώτες – ρομπότ.
Βλέπετε, τους επεκτατικούς πολέμους της Αμερικής και των άλλων υπερδυνάμεων δεν τους αναχαίτισε ούτε η πολεμική ισχύς του αντιπάλου, ούτε η φιλευσπλαχνία του εισβολέα.
Οι Αμερικανοί αποσύρθηκαν από το Βιετνάμ, για παράδειγμα, όταν τα φέρετρα των στρατιωτών τους, σκεπασμένα με την αμερικανική σημαία που επέστρεφαν στην πατρίδα, έγιναν πάρα πολλά για να συγκρατήσουν την αγανάκτηση του μέσου Αμερικανού πολίτη που ενώθηκε επιτέλους με τους πρώτους ειρηνιστές – διαδηλωτές – που αρχικά ήταν στιγματισμένοι ως “κομμουνιστές, εθνοπροδότες και χίπιδες”.
Σκεφτείτε το Αφγανιστάν.
Ο πόλεμος γίνεται απεχθής, όταν κοστίζει υπερβολικά πολύ, σε ζωές. Δικές σου ζωές. Της δικής σου πατρίδας. Οχι του άλλου. Για τον άλλον, νοιάζονται πολύ λίγοι, ώστε να επηρεάσουν μια τέτοια απόφαση. Με μια φράση, “ο θάνατος είναι η μοναδική αποτροπή του πολέμου”.
Σκεφτείτε λοιπόν, με αυτή την παράμετρο εκτός της εξίσωσης, όταν εσύ ως υπερδύναμη στέλνεις μικρά ερπυστριοφόρα ρομπότ, και τηλεκατευθυνόμενα αεροσκάφη, και drones, και σε λίγα χρόνια ανθρωποειδή ρομπότ, και διηπειρωτικά στρατηγικά όπλα να πολεμήσουν για λογαριασμό σου, με μηδενικό ή αμελητέο κόστος σε αίμα.
Πόσο εύκολο είναι να χειραγωγήσεις την κοινή γνώμη, ότι διεξάγεις έναν πόλεμο που είναι νικηφόρος πριν ακόμα ξεκινήσει, γιατί το μόνο που θα τους κοστίσει, αν τον χάσεις, θα είναι μερικές εκατοντάδες δολάρια επιπλέον στην ετήσια φορολογία τους.
Σκεφτείτε πόσο θα λύσει τα χέρια των εμπόρων των εθνών, μια τέτοια επιλογή. War by proxy. Πόλεμος δια αντιπροσώπων.
Μιλάμε για μια τεχνολογία που δε θα αλλάξει μόνο τον τρόπο που διεξάγονται οι πόλεμοι. Ούτε ότι θα ανατρέψει δραματικά τις ισορροπίες ισχύος του πλανήτη. Μιλάμε για μια εξέλιξη που θα αναδιαμορφώσει το ιμπεριαλιστικό momentum.
Καταλαβαίνετε λοιπόν, από αυτό το ζοφερό υπόδειγμα, ότι η τεχνολογία δεν είναι μια ανθρώπινη δραστηριότητα ξεκομμένη από τον περίγυρό της, ούτε άμοιρη των ηθικών προεκτάσεων της.
Ελάτε λοιπόν να κάνουμε τη σούμα, τον απολογισμό της βραδιάς.
Η τεχνητή νοημοσύνη αλλάζει τα πάντα γύρω μας.
Και από τις πρώτες αλλαγές που θα νιώσουμε, είναι η αλλαγή σ’ αυτή τη διαρκή πάλη – ταξική πάλη – για το ποιος ορίζει τον τρόπο που λειτουργούν τα μέσα παραγωγής. Βλέπετε, λέμε “Τεχνητή Νοημοσύνη” και δημιουργούμε κι εμείς, άθελά μας, μια απρόσωπη εικόνα όπου οι μηχανές ορίζουν τις τύχες της ανθρωπότητας, συλλήβδην και αδιακρίτως, αλλά δεν είναι έτσι.
Πίσω από το τεχνολογικό θαύμα – γιατί εμείς βλέπουμε το σκληρό δίσκο μισογεμάτο – δεν είμαστε τεχνοφοβικοί Λουδίτες, να ευαγγελιζόμαστε την επιστροφή στο αλέτρι και το λυχνάρι – κρύβονται άνθρωποι. Δεν κρύβονται καθόλου. Κάνουν δημόσιες εμφανίσεις, ως Μεσίες, και κατακρίνουν ανοιχτά όσους ζητούν το μερίδιό τους από όλο αυτόν τον πλούτο που συνδημιούργησαν.
Παίρνουν χρυσό και προσφέρουν σε αντάλλαγμα, χάντρες και καθρεφτάκια.
Το μεγάλο ερώτημα λοιπόν που πρέπει να θέσει η Αριστερά, όχι αύριο, σήμερα, είναι:
Μπορεί η Τεχνητή Νοημοσύνη να είναι κάτι άλλο εκτός από ένα ακόμα καπιταλιστικό εργαλείο;
Μπορεί να υπηρετήσει τον ουμανισμό; Το όραμα της ειρήνης; Της παγκόσμιας ευημερίας;
Μπορεί να επαληθεύσει την υπόσχεση της πρώτης βιομηχανικής επανάστασης “τώρα οι μηχανές θα εργάζονται και οι άνθρωποι θα φιλοσοφούν” που διαψεύστηκε, και στην πρώτη, και στη δεύτερη, και στην τρίτη φάση της;
Οπως άλλωστε και ο πρώτος παγκόσμιος πόλεμος, ο “πόλεμος που θα τελείωνε όλους τους άλλους πολέμους για πάντα”.
Μπορεί να το αποδείξει έμπρακτα, προτού προχωρήσει στο επόμενο στάδιο, όπου οι μηχανές θα χαράζουν ακόμα και τα συμπεριφορικά πρότυπα των αφεντικών τους;
Μη σας φαίνεται υπερβολικό. Συμβαίνει ήδη. Σε μια από τις μεγάλες εταιρείες data Storage και Cloud Computing της Ινδίας, διάβαζα πριν από περίπου ένα χρόνο στο περιοδικό Wired, ότι η εφαρμογή που συμμετέχει στα μήτινγκ του Διοικητικού Συμβουλίου της εταιρείας, διαφώνησε με την πλειοψηφία των παρευρισκομένων σε ένα κομβικό ζήτημα μάρκετινγκ, και τελικά, παρότι μία ψήφος εναντίον πολλών, το Δ.Σ. αποφάσισε να ακολουθήσει τις προτάσεις της.
Και βέβαια όλοι όσοι έχουμε κάπως ασχοληθεί με το ζήτημα, έχουμε διαβάσει για το πείραμα του facebook με τα δύο ρομπότ – εμπορικούς διαπραγματευτές που αποφάσισαν να επικοινωνήσουν σε ακατάληπτο προς τους προγραμματιστές τους κώδικα, γιατί έτσι ήταν πιο αποδοτικό…
Σε πρώτη φάση η Αριστερά πρέπει να επιδιώξει, αυτή η τεχνολογική χιονοστοιβάδα να ελέγχεται από τα δημοκρατικά όργανα που εκλέγουν – ακόμα – οι πολίτες.
Η αυτορρύθμιση της Τεχνητής Νοημοσύνης θα είναι ο λάκος που θα σκάψουμε μόνοι μας, και θα βουτήξουμε με το κεφάλι.
Και η Αριστερά πρέπει να επιδιώξει την προστασία: του δικαιώματος της αυτοδιάθεσης. Της ιδιωτικότητας. Της επιλογής. Και της συμμετοχής στα οφέλη από τα αγαθά που παράγονται, ίσως όχι από την υπεραξία της εργασίας, αλλά από την άδηλη συμμετοχή του πολίτη στην παραγωγή, με τρόπους που εμφανίζονται καμουφλαρισμένοι ως “κοινωνική διάδραση”, “προσωποποιημένη διαφήμιση”, συμμετοχή σε online έρευνες που αναδιαμορφώνουν την καταναλωτική στόχευση, likes, σχόλια, παραγωγή πρωτογενούς υλικού που κάποιοι, κάποτε, πληρώνονταν για να το παραδώσουν στους εκδότες τους (αυτό το τελευταίο, είναι ο πόνος ημών των δημοσιογράφων και ας μην ανοίξω το στόμα μου για τους φωτογράφους που αφανίστηκαν ως επαγγελματίες…)
Αυτά είναι τα ζητήματα που πρέπει να αρχίσει να απαντά η Αριστερά.
Γιατί κάποιοι τα έχουν απαντήσει ήδη, όπως τους βολεύει.
