The Birthday Party стал последним альбомом The Boys Next Door, записанным до переезда группы из Мельбурна в Лондон и смены названия на The Birthday Party. На его обложке имя группы не было указано, поэтому запись причисляется в равной степени как The Boys Next Door, так и The Birthday Party[1][2]. Альбом демонстрирует существенный отход от звучания ранних записей в сторону тёмного и хаотичного постпанка, который получил развитие во время пребывания коллектива в Лондоне[3]. Запись включает восемь новых песен, а также две, уже издававшиеся на мини-альбоме Hee Haw в исполнении гитариста группы Роланда С. Говарда.