11. kesäkuuta 1920, pian auringonnousun jälkeen, Elwellä ammuttiin päähän .45-automaattipistoolilla hänen lukitussa New Yorkin talossaan. Sinä aamuna taloudenhoitaja Marie Larsen saapui tavalliseen tapaan Elwellin tyylikkääseen asuntoon. Tällä kertaa hän kuitenkin kohtasi hirvittävän näkymän, joka järkytti häntä hetkellisesti.
Hän huudahti kiireesti, että herra Elwellin asunnossa oli muukalainen ja että hän oli kuollut. Lisätarkastuksessa selvisi, että muukalainen oli Joe Elwell, mutta ilman suunnittelijaperuukkejaan ja kiiltäviä proteeseja, joita hän käytti parantamaan ulkonäköään julkisesti.
Elwelliä uskotaan ammutun päähän, mutta itsemurha ei ole todennäköinen selitys. Huoneessa ei ollut jälkeäkään aseesta, mutta murha-ase näyttää ammutun 1–2 metrin (3–5 jalan) etäisyydeltä.
Rikospaikka
Poliisi oli järkyttynyt rikospaikasta. Rikospaikalta ei löytynyt asetta, mutta hänet tappanut luoti löytyi siististi pöydältä. On mahdollista, että luoti törmäsi seinästä pöydälle, mutta sijoitus näytti lavastetulta. Luodin patruuna makasi maassa.
Tappaja kyyristyi Elwellin eteen, kun hän painoi liipaisinta, jotta hän näki haavan kulman. Mitään ei varastettu, eikä ulkomaisia sormenjälkiä löytynyt paikalta. Ei ollut merkkejä kamppailusta tai pakkotulosta taloon. Kaikki oli lukossa, huone ja talo mukaan lukien.
Elwellin on täytynyt tuntea tappajansa ja päästänyt hänet vapaasti taloon. Hän istuutui ja jätti vierailijan huomioimatta avattaessaan postiaan. Jutteliko hän ystävällisesti vieraansa kanssa tehdessään tätä arkipäivää? Kirjeissä tai maassa ei ollut viitteitä rikoksesta.
Vihjeitä?
Elwell ruokaili äskettäin eronneen naisen Viola Krausin kanssa Ritz-Carlton-hotellissa edellisenä iltana. Elwell oli romanttisessa yhteydessä moniin naisiin, mukaan lukien Kraus. Helen Derby, joka meni naimisiin Elwellin kanssa vuonna 1904, esitteli hänet läheisille ystävilleen ja tuttavilleen.
Vaikka Elwellistä tuli miljonääri bridžipeleistä, hänen vaimonsa auttoi häntä solmimaan yhteyksiä ystäviensä ja tuttaviensa kanssa. He erosivat vuonna 1920. Vaikka Derby oli aluksi pääepäilty, hänen alibinsa oli ilmatiivis, eikä hän ollut osallisena entisen aviomiehensä kuolemaan.
Piirilakimies Edward Swannin mukaan Elwell jutteli asunnossaan juuri ennen kuin hänet ammuttiin, ja siksi hän luultavasti tunsi murhaajansa. Murhaajan ainoa tarkoitus oli tappaa hänet. Arvoesineitä ei varastettu. Itse asiassa arvoesineitä levitettiin Elwellin ruumiin ympärille.
Huolimatta kaikista todisteista tutkijat keräsivät, mutta he eivät koskaan pystyneet määrittämään, kuka ampui Joe Elwellin, ja tapaus on edelleen ratkaisematon mysteeri.
