Killing Joke jsou uznáváni jako jedna z nejvíce vlivných skupin éry post-punku a New Wave na konci sedmdesátých a začátku osmdesátých let, silně ovlivňující skupiny jako Nirvana, Metallica, Ministry, Prong, Jane's Addiction, Soundgarden, Nine Inch Nails, Econoline Crush nebo Korn. První bubeník skupiny "Big Paul" Ferguson popsal hudbu Killing Joke jako „zvuk zvracející země“. Hudba Killing Joke je výrazná svými hypnotickými, kovově znějícími kytarami a těžkými, ale tanečními rytmy.