Defina restricciones únicas para las columnas de nombre de usuario y correo electrónico:
ALTER TABLE your_table ADD CONSTRAINT uk_username UNIQUE (username)
ALTER TABLE your_table ADD CONSTRAINT uk_email UNIQUE (email)
Si el valor que se intenta insertar o actualizar ya existe en la tabla, MySQL devolverá un error que indica que la consulta viola la restricción única apropiada (posiblemente ambas). Depende de usted configurar PHP para manejar esto con gracia.