In de vroege herfst van 1830 huurt een nieuwsgierige wetenschapper (Merime raadt het zelf) een gids in Cordoba en gaat op zoek naar het oude Munda, waar de laatste zegevierende Spaanse slag van Julius Caesar plaatsvond. Door de hitte van de middag zoekt hij zijn toevlucht in een schaduwrijke kloof. Maar de plaats aan de beek is al bezet. Naar de verteller toe, een sluwe en sterke kerel met een sombere, trotse blik en blond haar komt behoedzaam op. De reiziger ontwapent hem met een voorstel om een sigaar en een maaltijd met hem te delen, en dan vervolgen ze hun reis samen, ondanks de welsprekende tekenen van de gids. Ze overnachten in een afgelegen ventilatieopening. Een metgezel legt een musketon in de buurt en slaapt bij de rechtvaardigen, maar de wetenschapper slaapt niet. Hij verlaat het huis en ziet een sluipende gids die op het punt staat de Lancer-post te waarschuwen dat de overvaller José Navarro in de ventilatieopening is gestopt, voor de vangst waarvan tweehonderd dukaten zijn beloofd. De reiziger waarschuwt de satelliet voor het gevaar. Nu zijn ze gebonden door vriendschapsbanden.
De wetenschapper zet zijn zoektocht voort in de bibliotheek van het Dominicaanse klooster in Cordoba. Na zonsondergang loopt hij meestal langs de kust van Guadalquivir. Op een avond komt er aan de kade een vrouw naar hem toe, gekleed als een grizzly, en met een bosje jasmijn in haar haar. Ze is klein, jong, goed gebouwd en heeft grote schuine ogen. De wetenschapper valt op door haar vreemde, wilde schoonheid en vooral de look, zowel sensueel als wild. Hij behandelt haar met sigaretten, ontdekt dat ze Carmen heet, dat ze een zigeuner is en weet te raden. Hij vraagt toestemming om haar mee naar huis te nemen en hem zijn kunst te laten zien. Maar waarzeggerij werd helemaal aan het begin onderbroken - de deur zwaait open en een man gehuld in een mantel stormt met vloeken de kamer binnen De wetenschapper herkent in hem zijn vriend Jose. Na een woedende schermutseling met Carmen in een onbekende taal, neemt Jose de gast het huis uit en wijst de weg naar het hotel. De wetenschapper ontdekt dat hij ondertussen het gouden horloge verloor door een gevecht waar Carmen zo van hield. Een verontruste en beschaamde wetenschapper verlaat de stad. Na een paar maanden bevindt hij zich opnieuw in Cordoba en ontdekt dat de overvaller José Navarro is gearresteerd en in afwachting van executie in de gevangenis wacht. De nieuwsgierigheid van de onderzoeker van lokale gebruiken zet de wetenschapper ertoe aan de overvaller te bezoeken en naar zijn bekentenis te luisteren.
Jose Lisarrabengoa vertelt hem dat hij Baskisch is, geboren is in Elisondo en behoort tot een oude adellijke familie. Na een bloedig gevecht vlucht hij uit zijn geboorteland, gaat het Dragoon-regiment binnen, dient ijverig en wordt brigadegeneraal. Maar op een dag werd hij, in zijn ongeluk, toegewezen aan de wacht in de tabaksfabriek van Sevilla. Die vrijdag ziet hij Carmen voor het eerst - zijn liefde, kwelling en verderf. Samen met andere meisjes gaat ze aan het werk. Ze heeft een acaciabloem in haar mond en ze loopt met haar heupen, als een jonge Cordobiaanse merrie. Twee uur later wordt er een outfit gebeld om de bloedige ruzie in de fabriek te stoppen. Jose moet de aanstichter van de ruzie Carmen naar de gevangenis brengen, die het gezicht van een van de arbeiders met een mes heeft verminkt. Onderweg vertelt ze José een ontroerend verhaal over het feit dat ook zij uit Baskenland komt, ze is helemaal alleen in Sevilla, ze is vergiftigd als een vreemde en daarom pakte ze het mes op. Ze liegt alsof ze haar hele leven heeft gelogen, maar Jose gelooft haar en helpt haar ontsnappen. Hiervoor wordt hij gedegradeerd en een maand naar de gevangenis gestuurd. Daar krijgt hij een geschenk van Carmen - een brood met een map, een gouden munt en twee piasters. Maar Jose wil niet vluchten - militaire eer houdt hem tegen. Nu dient hij als een simpele soldaat. Op een dag staat hij op wacht bij het huis van zijn kolonel. Een bemanning arriveert met zigeuners die zijn uitgenodigd om de gasten te vermaken. Onder hen is Carmen. Ze organiseert een vergadering voor Jose, ze brengen dag en nacht roekeloos gelukkig samen door. Bij het afscheid zegt Carmen: 'We zijn gelijk. Vaarwel ... Weet je, zoon, ik denk dat ik een beetje verliefd op je ben geworden. Maar <...> de wolf kan niet overweg met de hond, 'probeert Jose tevergeefs Carmen te vinden. Ze verschijnt alleen als het nodig is om smokkelaars door de opening in de stadsmuur te leiden die Jose beschermt. Dus, voor de belofte van Carmen om hem de nacht te geven, overtreedt hij de militaire eed. Vervolgens vermoordt hij de luitenant, die Carmen bij zich brengt. Hij wordt een smokkelaar. Een tijdlang was hij bijna gelukkig, omdat Carmen soms aanhankelijk was - tot de dag dat Garcia Krivoy, een walgelijke freak, verscheen in het detachement van smokkelaars. Dit is de echtgenoot van Carmen, die ze uiteindelijk uit de gevangenis weet te redden. Jose en zijn "metgezellen" smokkelen, beroven en vermoorden soms reizigers. Carmen fungeert als hun liaison en schutter. Zeldzame ontmoetingen brengen kort geluk en ondraaglijke pijn. Zodra Carmen aan Jose laat doorschemeren dat het tijdens de volgende 'zaak' mogelijk zou zijn om een kromme echtgenoot te vervangen door vijandelijke kogels. Jose vermoordt bij voorkeur een tegenstander in een eerlijk gevecht en wordt een rum (zigeuner-echtgenoot) Carmen, maar ze wordt steeds meer belast door zijn obsessieve liefde. Hij nodigt haar uit om haar leven te veranderen en naar de Nieuwe Wereld te vertrekken. Ze maakt hem aan het lachen: 'We zijn niet gemaakt om kool te planten.' Na een tijdje leert Jose dat Carmen een passie heeft voor matador Lucas. Jose is woedend jaloers en biedt Carmen opnieuw aan om naar Amerika te gaan. Ze antwoordt dat ze gezond is in Spanje, maar dat ze toch niet bij hem zal wonen. Jose neemt Carmen mee naar een afgelegen kloof en vraagt keer op keer of ze hem wil volgen. "Ik kan niet van je houden. Ik wil niet bij je wonen ', antwoordt Carmen en trekt de ring af die hij heeft gedoneerd. Woedend steekt Jose tweemaal een mes in haar. Hij begraaft haar in het bos - ze wilde altijd eeuwige rust vinden in het bos - en legt een ring en een klein kruis in het graf.
In het vierde en laatste hoofdstuk van het korte verhaal deelt de verteller onbaatzuchtig met zijn lezers zijn observaties over de gebruiken en taal van de Spaanse zigeuners. Tegen het einde haalt hij een belangrijk zigeuner-spreekwoord aan: 'Er is een zet bevolen naar de strak gesloten mond van een vlieg.'