Tienes que anular tu ;
delimitador con algo como $$
para evitar este tipo de error.
Después de la definición de su función, puede volver a establecer el delimitador en ;
.
Esto debería funcionar:
DELIMITER $$
CREATE FUNCTION F_Dist3D (x1 decimal, y1 decimal)
RETURNS decimal
DETERMINISTIC
BEGIN
DECLARE dist decimal;
SET dist = SQRT(x1 - y1);
RETURN dist;
END$$
DELIMITER ;