Pe 11 iunie 1920, la scurt timp după răsăritul soarelui, Elwell a fost împușcat în cap de un pistol automat .45 în casa sa închisă din New York. În acea dimineață, menajera Marie Larsen a sosit ca de obicei în apartamentul elegant al lui Elwell. Cu toate acestea, de data aceasta s-a confruntat cu o priveliște înfiorătoare care a șocat-o momentan.

Ea a exclamat în grabă că în apartamentul domnului Elwell se afla un străin și că acesta era mort. La o inspecție ulterioară, s-a descoperit că străinul era Joe Elwell, doar fără perucile sale de designer și protezele dentare strălucitoare, pe care le folosea pentru a-și îmbunătăți aspectul în public.
Se crede că Elwell a fost împușcat în cap, dar sinuciderea nu este o explicație probabilă. Nu era niciun semn de armă în cameră, dar arma crimei pare să fi fost trasă la o distanță de 1-2 metri (3-5 ft) distanță.
Scena crimei

Poliția a rămas nedumerită de locul crimei. Nu a fost găsită nicio armă la locul crimei, dar glonțul care l-a ucis a fost găsit bine așezat pe o masă. Este posibil ca glonțul să fi ricoșat de pe un perete și pe masă, dar amplasarea părea în scenă. Cartușul glonțului zăcea pe pământ.
Ucigașul era ghemuit în fața lui Elwell când a apăsat pe trăgaci, astfel încât să poată vedea unghiul rănii. Nu a fost furat nimic și nu au fost găsite amprente străine la fața locului. Nu era niciun semn de luptă sau de intrare forțată în casă. Totul era încuiat, inclusiv camera și casa.
Elwell trebuie să-și fi cunoscut ucigașul și i-a permis liber să intre în casă. S-a așezat și a ignorat un vizitator în timp ce își deschidea corespondența. A vorbit amabil cu invitatul său în timp ce făcea această sarcină banală? Nu exista nicio indicație cu privire la crimă în scrisori sau pe teren.
Indicii?
Elwell a luat masa cu Viola Kraus, o femeie recent divorțată, la hotelul Ritz-Carlton în seara precedentă. Elwell a fost implicat romantic cu multe femei, inclusiv cu Kraus. Helen Derby, care s-a căsătorit cu Elwell în 1904, l-a prezentat prietenilor și cunoștințelor ei bine conectate.

Chiar dacă Elwell a devenit milionar din jocurile de bridge, soția lui l-a ajutat să facă legături cu prietenii și cunoștințele ei bine conectate. Au divorțat în 1920. Deși Derby a fost principalul suspect la început, alibiul ei a fost etanș și nu a fost implicată în decesul fostului ei soț.
Potrivit procurorului Edward Swann, Elwell vorbea în apartamentul său chiar înainte de a fi împușcat și, prin urmare, probabil că și-a cunoscut criminalul. Singurul scop al criminalului a fost să-l omoare. Nu au fost furate obiecte de valoare. De fapt, obiectele de valoare erau împrăștiate în jurul cadavrului lui Elwell.

În ciuda tuturor dovezilor au fost strânse de anchetatori, dar nu au reușit niciodată să stabilească cine l-a împușcat pe Joe Elwell, iar cazul rămâne un mister nerezolvat.