obtener respuesta de éxito/fracaso de mysqli_query

Puede usar mysqli_error() para ver si ocurrió un error

if (mysqli_error($runcheck ))
{
   // an error eoccurred
}

En su ejemplo particular, es mejor verificar si la fila existe antes haciendo la inserción. Su ejemplo está cerca, pero sería mejor usar mysqli_num_rows() :

$check = "SELECT * FROM jos_activeagents WHERE AGENTUID = '".$agt."'";
$runcheck = mysqli_query($link,$check);
if (mysqli_num_rows($runcheck) > 0)
{
    // username in use
}