Ο προσωπικός ψηφιακός βοηθός Amazon Alexa, που βρισκόταν ενσωματωμένος στο «έξυπνο» ηχείο Echo μιας οικογένειας στο Πόρτλαντ του Όρεγκον, κατέγραψε μια συνομιλία που έκανε ένα ζευγάρι μέσα στο σπίτι του και μετά έστειλε το ψηφιακό ηχητικό αρχείο-και εν αγνοία του ζευγαριού- σε κάποιον άλλο άνθρωπο, το όνομα του οποίου περιλαμβανόταν στις «επαφές» του ζευγαριού.
Ο έκπληκτος αθέλητος ωτακουστής, ο οποίος μάλιστα ήταν υπάλληλος του συζύγου, βρέθηκε να ακούει το ζευγάρι να μιλάει για το ξύλινο πάτωμά του.
Τους ενημέρωσε αμέσως για το συμβάνκαι το ζευγάρι έμεινε ακόμη πιο έκπληκτο. Στην αρχή νόμιζε ότι ο γνωστός τους τούς έκανε πλάκα, όταν όμως τους είπε από το τηλέφωνο λεπτομέρειες από τη συζήτηση που είχε ακούσει, τότε το ζευγάρι δεν πίστευε στα αυτιά του.
«Ένιωσα θύμα παραβίασης, πλήρους παραβίασης της ιδιωτικότητάς μου. Αμέσως είπα στον εαυτό μου ότι δεν πρόκειται ποτέ ξανά να συνδέσω αυτή τη συσκευή στο διαδίκτυο, επειδή δεν μπορώ να την εμπιστευθώ» δήλωσε η σύζυγος.
Η Amazon έκανε λόγο, σύμφωνα με το πρακτορείο Ρόιτερς και το BBC, για «μια απίθανη αλυσίδα γεγονότων», λέγοντας ότι η Alexa παρερμήνευσε τη συζήτηση, με τελικό αποτέλεσμα να στείλει την ηχογράφηση μέσω διαδικτύου σε μια τυχαία επαφή του ζευγαριού.
Η Alexa, που εκτός από τα ηχεία Echo βρίσκεται και σε άλλες συσκευές με τεχνητή νοημοσύνη, έχει προγραμματισθεί να ξεκινά την ηχογράφηση, όταν ακούει το όνομά της ή κάποια άλλη λέξη της επιλογής των χρηστών.
Αυτό όμως σημαίνει ότι αν π.χ. η ανοιχτή τηλεόραση παίξει μια λέξη που μοιάζει με το Alexa, η «έξυπνη» συσκευή μπορεί να ενεργοποιηθεί ξαφνικά – και κανείς στο δωμάτιο να μην το καταλάβει αυτό.
Το ζευγάρι, πάνω στην κουβέντα, δεν άκουσε την Alexa, αλλά η Alexa για τρίτη φορά "παράκουσε" και εξέλαβε κάποια λέξη από το διάλογο του ζευγαριού ως το όνομα ενός συγκεριμένου ανθρώπου (του υπαλλήλου του συζύγου), στον οποίο θα έπρεπε να στείλει την ηχογράφηση.
Στη συνέχεια η Alexa ζήτησε να επιβεβαιώσει το όνομα που θα έστελνε την ηχογράφηση και ρώτησε «σε αυτό το όνομα, σωστά;». Και για τέταρτη φορά νόμιζε ότι άκουσε τη λέξη «σωστά». Και το έκανε!