PHP:¿Cómo mostrar una imagen predeterminada si la especificada no existe?

Hay muchas maneras de hacer esto.

<?php

if(file_exists("images/artists/$artist_name.jpg"))
    $fileName = "$artist_name.jpg";
else
    $fileName = "default.jpg";
?>

<div class="artimg"><img src="images/artists/<?php echo $fileName;?>"  height="50px" width="50px"/></div>