Costello sa narodil v Patersone v štáte New Jersey talianskym prisťahovalcom. Svoju kariéru v šoubiznise začal ako tínedžer, účinkoval vo vaudeville a burleske. V roku 1936 sa stretol s Budom Abbottom a obaja vytvorili komediálny tím. Rýchlo sa stali jedným z najpopulárnejších komediálnych hercov na svete, účinkovali v nočných kluboch, v rádiu a vo filmoch.
Komédiu Abbotta a Costella charakterizovali ich grotesky a Costellov vysoký hlas a prehnaná mimika. Objavili sa spolu v 36 filmoch, vrátane „Jedna noc v trópoch“ (1940), „Buck Privates“ (1941) a „Abbott a Costello Meet Frankenstein“ (1948).
Costellove zdravie sa začalo zhoršovať začiatkom 50. rokov a podstúpil niekoľko operácií srdca. Zomrel na infarkt v roku 1959 vo veku 52 rokov.
Napriek predčasnej smrti je Costello považovaný za jedného z najvplyvnejších komikov 20. storočia. Jeho práca s Budom Abbottom pomohla definovať žáner komédie a inšpirovala nespočetné množstvo ďalších komikov.