«Συγγνώμη» της αστυνομίας του Ντιτρόιτ: Τεχνητή νοημοσύνη αναγνώρισε μαύρη έγκυο ως ύποπτη ληστείας

Αγωγή κατά της αστυνομίας του Ντιτρόιτ στις ΗΠΑ κατέθεσε μια 32χρονη Αφροαμερικανίδα, η οποία αναγνωρίστηκε εσφαλμένα από σύστημα τεχνητής νοημοσύνης (ΑΙ) ως ύποπτη ληστείας που διαπράχθηκε όταν ήταν οκτώ μηνών έγκυος.

«Θα πρέπει να διασφαλίσουμε ότι δεν θα επαναληφθεί κάτι τέτοιο» δήλωσε σύμφωνα με το Associated Press ο επικεφαλής της αστυνομίας της πόλης Τζέιμς Ουάιτ.

Παραδέχτηκε ότι η προσαγωγή και κράτηση της γυναίκας ήταν αποτέλεσμα «πλημμελούς« εργασίας των αστυνομικών και υποσχέθηκε ότι για την αποτροπή ανάλογων περιστατικών στο μέλλον θα εφαρμοστούν νέες πολιτικές στη διερεύνηση αδικημάτων.

Οι δηλώσεις του ήρθαν δύο ημέρες αφότου η Αμερικανική Ένωση Ατομικών Ελευθεριών της πολιτείας του Μίσιγκαν ζήτησε από την αστυνομία του Ντιτρόιτ να σταματήσει να χρησιμοποιεί ΑΙ.

Πολλοί αλγόριθμοι αναγνώρισης προσώπων είναι εξάλλου γνωστό ότι είναι πιο πιθανό να αναγνωρίσουν εσφαλμένα Αφροαμερικανούς ως υπόπτους λόγω υποεκπροσώπησης των μαύρων και άλλων μειονοτήτων στα δεδομένα με τα οποία εκπαιδεύονται τα συστήματα.

Η αστυνομία του Ντιτρόιτ έχει προηγουμένως δεχτεί άλλες δύο παρόμοιες αγωγές.

Εικόνες από βενζινάδικο

Η 32χρονη Πόρσα Γούντραφ συνελήφθη τον Φεβρουάριο την ώρα που ετοίμαζε τα παιδιά για το σχολείο.

Το σύστημα την αναγνώρισε ως ύποπτη για ληστεία και κλοπή οχήματος που είχε αναφερθεί έναν μήνα νωρίτερα. Οι εικόνες που τροφοδοτήθηκαν στο εργαλείο αναγνώρισης προσώπων είχαν ληφθεί από κάμερες ασφάλειας σε βενζινάδικο.

Η Γούντραφ πέρασε αρκετές ώρες στο κρατητήριο, τελικά όμως οι κατηγορίες εναντίον της άρθηκαν επειδή το θύμα της ληστείας, το οποίο δεν είχε περιγράψει τη δράστη ως έγκυο, δεν εμφανίστηκε στο δικαστήριο.

Ο επικεφαλής της αστυνομίας διαβεβαίωσε ότι στο εξής οι εικόνες προσώπων που αναγνωρίζονται με ΑΙ  δεν θα χρησιμοποιούνται για αναγνώριση υπόπτων από θύματα παράνομων ενεργειών.

Στο εξής, είπε, δύο αστυνομικοί θα πρέπει να ελέγχουν τα εντάλματα σύλληψης σε υποθέσεις στις οποίες χρησιμοποιείται η τεχνολογία.

Θα πρέπει επίσης να υπάρχουν και άλλα πειστήρια, πέρα από τα αποτελέσματα που δίνει ο αλγόριθμος, προκειμένου να καταδειχθεί ότι ο ύποπτος είχε «τα μέσα, την ικανότητα και την ευκαιρία να διαπράξει το έγκλημα.

«Είναι ιδιαίτερα δύσκολο όταν μιλάς για κάποιον στον όγδοο μήνα της εγκυμοσύνης» δήλωσε ο Ουάιτ.

«Θα υπάρξει λογοδοσία για το λάθος».