Op 11 juni 1920, kort na zonsopgang, werd Elwell in het hoofd geschoten door een .45 automatisch pistool in zijn afgesloten huis in New York City. Die ochtend arriveerde huishoudster Marie Larsen zoals ze normaal deed in het elegante appartement van Elwell. Deze keer werd ze echter geconfronteerd met een gruwelijke aanblik die haar even schokte.
Ze riep haastig uit dat er een vreemdeling in het appartement van meneer Elwell was en dat hij dood was. Bij nadere inspectie werd ontdekt dat de vreemdeling Joe Elwell was, alleen zonder zijn designerpruiken en glimmende kunstgebit, die hij gebruikte om zijn uiterlijk in het openbaar te verbeteren.
Er wordt aangenomen dat Elwell in het hoofd is geschoten, maar zelfmoord is geen waarschijnlijke verklaring. Er was geen teken van het wapen in de kamer, maar het moordwapen lijkt te zijn afgevuurd op een afstand van 1-2 meter (3-5 voet).
Plaats delict
De politie was stomverbaasd over de plaats delict. Er werd geen pistool gevonden op de plaats delict, maar de kogel die hem doodde, werd netjes op tafel gevonden. Het is mogelijk dat de kogel van een muur afketste en op de tafel terechtkwam, maar de plaatsing zag er geënsceneerd uit. De patroon van de kogel lag op de grond.
De moordenaar zat gehurkt voor Elwell toen hij de trekker overhaalde, zodat hij de hoek van de wond kon zien. Er is niets gestolen en er zijn geen buitenlandse vingerafdrukken gevonden. Er was geen teken van een worsteling of inbraak in het huis. Alles zat op slot, ook de kamer en het huis.
Elwell moet zijn moordenaar gekend hebben en hem of haar vrijelijk het huis binnenlaten. Hij ging zitten en negeerde een bezoeker terwijl hij zijn post opende. Praatte hij gemoedelijk met zijn gast terwijl hij deze alledaagse taak uitvoerde? Er was geen aanwijzing over de misdaad in de brieven of op de grond.
Aanwijzingen?
Elwell dineerde de vorige avond met Viola Kraus, een onlangs gescheiden vrouw, in het Ritz-Carlton Hotel. Elwell was romantisch betrokken bij veel vrouwen, waaronder Kraus. Helen Derby, die in 1904 met Elwell trouwde, stelde hem voor aan haar goede vrienden en kennissen.
Hoewel Elwell miljonair werd van bridgegames, hielp zijn vrouw hem om contacten te leggen met haar goede vrienden en kennissen. Ze scheidden in 1920. Hoewel Derby aanvankelijk de hoofdverdachte was, was haar alibi waterdicht en was ze niet betrokken bij de dood van haar ex-man.
Volgens officier van justitie Edward Swann was Elwell aan het kletsen in zijn appartement net voordat hij werd neergeschoten, en daarom kende hij waarschijnlijk zijn moordenaar. Het enige doel van de moordenaar was hem te doden. Er zijn geen waardevolle spullen gestolen. In feite lagen er waardevolle spullen rond Elwells lijk.
Ondanks al het bewijs dat door de onderzoekers is verzameld, hebben ze nooit kunnen bepalen wie Joe Elwell heeft neergeschoten, en de zaak blijft een onopgelost mysterie.