Η παρουσία Εβραίων στην Υεμένη χρονολογείται τουλάχιστον από την εποχή της καταστροφής του Δεύτερου Ναού από τους Ρωμαίους, το 70 μ.Χ.
Η παρουσία των εβραίων στην Υεμένη ήταν τόσο έντονη που την περίοδο μεταξύ του 4ου και του 6ο μχ αιώνα, η ελίτ της Υεμένης, υιοθέτησε έναν μονοθεϊσμό ιουδαϊκού τύπου. Η σύντομη ιουδαϊκή βασιλική εξουσία τερματίστηκε με την ήττα του ΔΖου Νουβάς από τους χριστιανούς Αιθίοπες, συμμάχους των βυζαντινών.
Μετά την επικράτηση του ισλάμ, οι εβραίοι εντάχθηκαν στο καθεστώς προστασίας dhimmi.
Τραυματικό γεγονός για την κοινότητα είναι η εξορία της Μόζα. Το 1679, ο ιμάμης εξόρισε όλους τους Εβραίους στη Μοζα, μια περιοχή άνυδρη, με ακραία ζεστή, όπου πολλοί πέθαναν από κακουχίες. Ένα χρόνο αργότερα, στους επιζώντες επιτράπηκε η επιστροφή, αλλά όχι στα αστικά κέντρα.
Λόγω της γεωγραφικής τους απομόνωσης, οι Εβραίοι της Υεμένης διατήρησαν αρχαίες παραδόσεις, ιδιαίτερη προφορά και έθιμα.
Στις αρχές του 20ού αιώνα, περίπου 60.000 Εβραίοι ζούσαν στην Υεμένη.
Το 1947, με το ψήφισμα 181 του ΟΗΕ για την δημιουργία εβραϊκού κράτους, στην Υεμένη ξέσπασαν ταραχές με θύματα Εβραίους. Στο Άντεν, περισσότεροι από 80 Εβραίοι σκοτώθηκαν, ακόμη περισσότεροι τραυματίστηκαν, περιουσίες καταστράφηκαν, η εβραϊκή συνοικία υπέστη εκτεταμένες ζημιές. Ο φόβος και η ανασφάλεια κυριάρχησαν.
Ο ιμάμης, επέτρεψε την έξοδο των Εβραίων, με τον όρο να αφήσουν τις περιουσίες τους (τί πρωτότυπο!). Το Ισραήλ οργάνωσε την επιχείρηση “φτερούγες των αετών” (magic carpet ) και στο διάστημα 1949-1859, μετέφερε αεροπορικώς σχεδόν όλους τους Εβραίους της Υεμένης στο Ισραήλ.
Η ονομασία «Φτερούγες Αετών» προέρχεται από βιβλικό χωρίο της Εξόδου («Σας σήκωσα πάνω σε φτερούγες αετών και σας έφερα κοντά μου»). Για πολλούς Υεμενίτες Εβραίους, που ζούσαν σε απομονωμένα χωριά χωρίς επαφή με τη σύγχρονη τεχνολογία αποτέλεσαν μια κυριολεκτική εκπλήρωση της προφητείας. Πολλοί δεν είχαν ξαναδεί ποτέ τους αεροπλάνο και πίστευαν ότι ήταν μεγάλα πουλιά που έστειλε ο Θεός.
Το Ισραήλ λειτούργησε ως καταφύγιο για τους Εβραίους της Υεμένης.
Ωστόσο, τα πρώτα χρόνια ήταν δύσκολα: βαθιά θρησκευόμενοι και προερχόμενοι από παραδοσιακές κοινότητες, βρέθηκαν σε ένα δυτικό, πιο κοσμικό περιβάλλον, αντιμετώπισαν κοινωνικές διακρίσεις από τους Ασκεναζί και έζησαν για χρόνια σε καταυλισμούς μέχρι να ενσωματωθούν.
Την περίοδο 2016-2021 έφυγαν και οι ελάχιστοι Εβραίοι που είχαν απομείνει στην Υεμένη. Σήμερα, στην Υεμένη, έχει απομείνει ένας Εβραίος, κρατούμενος των Χουθι από το 2016.