На 11 јуни 1920 година, кратко по изгрејсонцето, Елвел бил застрелан во главата од автоматски пиштол 45 во неговата заклучена куќа во Њујорк. Тоа утро, домаќинката Мари Ларсен пристигна како и обично во елегантниот стан на Елвел. Меѓутоа, овој пат таа се соочи со грозоморна глетка која за момент ја шокираше.
Таа набрзина извика дека во станот на господинот Елвел има странец и дека тој е мртов. По понатамошна проверка, откриено е дека странецот е Џо Елвел, само без неговите дизајнерски перики и блескавите протези, кои ги користел за да го подобри својот изглед во јавноста.
Се верува дека Елвел бил застрелан во главата, но самоубиството не е веројатно објаснување. Немаше трага од оружјето во собата, но се чини дека оружјето за убиство било пукано на растојание од 1–2 метри (3–5 стапки).
Криминална сцена
Полицијата беше запната од местото на злосторството. На местото на злосторството не беше пронајден пиштол, но куршумот што го уби беше пронајден уредно поставен на маса. Можно е куршумот да се рикошетира од ѕид и на масата, но поставеноста изгледаше исценирана. Чаурот од куршумот лежел на земја.
Убиецот бил стуткан пред Елвел кога го повлекол чкрапалото, за да може да го види аголот на раната. Ништо не е украдено, а на местото на настанот не се пронајдени странски отпечатоци. Немаше траги од борба или насилно влегување во куќата. Сè беше заклучено, вклучително и собата и куќата.
Елвел сигурно го познавал својот убиец и слободно му дозволил да влезе во куќата. Тој седна и игнорираше посетител додека ја отвораше својата пошта. Дали тој пријатно разговараше со својот гостин додека ја извршуваше оваа вообичаена задача? Немаше индикации за злосторството во писмата или на теренот.
Индиции?
Елвел вечерал со Виола Краус, неодамна разведена жена, во хотелот Риц-Карлтон претходната вечер. Елвел бил романтично поврзан со многу жени, вклучувајќи го и Краус. Хелен Дерби, која се омажила за Елвел во 1904 година, го запознала со нејзините добро поврзани пријатели и познаници.
Иако Елвел станал милионер од игрите на мостот, неговата сопруга му помогнала да воспостави врски со нејзините добро поврзани пријатели и познаници. Тие се разведоа во 1920 година. Иако Дерби на почетокот беше главен осомничен, нејзиното алиби беше херметички и таа не беше вмешана во смртта на нејзиниот поранешен сопруг.
Според окружниот обвинител Едвард Сван, Елвел разговарал во неговиот стан непосредно пред да биде застрелан, и затоа веројатно го познавал својот убиец. Единствената цел на убиецот била да го убие. Не се украдени вредни предмети. Всушност, вредни предмети биле расфрлани околу трупот на Елвел.
И покрај сите докази беа собрани од страна на истражителите, но тие никогаш не беа во можност да утврдат кој пукал во Џо Елвел, а случајот останува нерешена мистерија.