Η απειλή της ΑΙ με στόχο την πειθώ

Τι χρειάζεται για να αλλάξει η γνώμη ενός ατόμου; Καθώς η παραγωγική (generative) τεχνητή νοημοσύνη ενσωματώνεται περισσότερο σε συστήματα για πελάτες – σκεφτείτε τις τηλεφωνικές κλήσεις που μοιάζουν με ανθρώπινες ή τα διαδικτυακά chatbots –, δημιουργείται ένα ηθικό ερώτημα που πρέπει να εξεταστεί ευρέως.

Η ικανότητα αλλαγής γνώμης βρίσκεται στο επίκεντρο της δημοκρατίας. Η σαφής και αποτελεσματική επικοινωνία αποτελεί τη βάση της συζήτησης και της πειθούς, τα οποία είναι στοιχεία απαραίτητα. Αλλά υπάρχει μια σκοτεινή πλευρά στην πειθώ: ψευδή κίνητρα, ψέματα και γνωστική χειραγώγηση – κακόβουλη συμπεριφορά που θα μπορούσε να διευκολύνει η τεχνητή νοημοσύνη.

Στο όχι και τόσο μακρινό μέλλον, η τεχνητή νοημοσύνη θα μπορούσε να επιτρέψει τη δημιουργία νέων διεπαφών χρήστη που θα μπορούν να τον πείσουν εκ μέρους οποιουδήποτε προσώπου ή οντότητας έχει μέσα να δημιουργήσει ένα τέτοιο σύστημα. Αξιοποιώντας ιδιωτικές βάσεις γνώσης, αυτά τα εξειδικευμένα μοντέλα θα προσφέρουν διαφορετικές αλήθειες που ανταγωνίζονται με βάση την ικανότητά τους να δημιουργούν πειστικές απαντήσεις για μια ομάδα – στόχο (μια τεχνητή νοημοσύνη για κάθε ιδεολογία).

Μια κοινωνία δεν μπορεί να θωρακιστεί αποτελεσματικά κατά της τεχνητής νοημοσύνης για πειθώ (persuasive AI). Επομένως, οι κάτοχοι των τεχνολογικών συστημάτων θα είναι υπεύθυνοι για την παρακολούθηση της δραστηριότητας των χρηστών και την αξιολόγηση της τεχνολογίας αυτής.

Αλλά η persuasive τεχνητή νοημοσύνη δεν χρειάζεται να είναι παραγωγική (generative) στον χαρακτήρα. Ενα ευρύ φάσμα οργανισμών, ατόμων και οντοτήτων έχουν ήδη ενισχύσει τις ικανότητές τους στην παραγωγική τεχνητή νοημοσύνη για την επίτευξη των στόχων τους.

Εν τω μεταξύ, η εξέλιξη τέτοιας πειθούς έχει προσφέρει στον κλάδο της τεχνολογίας διαφημίσεων ένα επικερδές επιχειρηματικό μοντέλο. Αυτό το αναπτυσσόμενο πεδίο όχι μόνο καταδεικνύει τη δύναμη τεχνολογιών πειθούς για τη διαμόρφωση της συμπεριφοράς των καταναλωτών, αλλά υπογραμμίζει επίσης τον σημαντικό ρόλο που μπορούν να διαδραματίσουν στην αύξηση των πωλήσεων και στην επίτευξη εμπορικών στόχων.

Αυτό που ενώνει αυτούς τους διαφορετικούς παράγοντες είναι η επιθυμία να ενισχύσουν τις ικανότητές τους για πειθώ. Αυτό αντικατοπτρίζει το διαρκώς διευρυνόμενο τοπίο της επιρροής που καθοδηγείται από την τεχνολογία, με όλες τις γνωστές και άγνωστες κοινωνικές, πολιτικές και οικονομικές του επιπτώσεις. Καθώς η πειθώ είναι πλέον αυτοματοποιημένη, καθίσταται επιτακτική ανάγκη να υπάρξει ένα ολοκληρωμένο δεοντολογικό και ρυθμιστικό πλαίσιο.

Ο Μαρκ Εσποσίτο είναι συνεργάτης πολιτικής στο University College του Λονδίνου, επίκουρος καθηγητής στο Georgetown και καθηγητής στη Hult International Business School. Ο Τσος Εντσμίνγκερ είναι διδακτορικός φοιτητής στο UCL Institute for Innovation and Public Purpose. Ο Τέρενς Τσε είναι συνιδρυτής και εκτελεστικός διευθυντής της Nexus FrontierTech, καθηγητής στη Hult International Business School