Estás cerca.
El operador LIKE funciona con cadenas (CHAR, NVARCHAR, etc.). entonces necesita concatenar el símbolo '%' a la cadena...
Servidor MS SQL:
SELECT * FROM table1,table2 WHERE table1.x LIKE table2.y + '%'
Sin embargo, el uso de LIKE suele ser más lento que otras operaciones. Es útil, potente, flexible, pero tiene consideraciones de rendimiento. Sin embargo, dejaré esos para otro tema :)
EDITAR:
No uso MySQL, pero esto puede funcionar...
SELECT * FROM table1,table2 WHERE table1.x LIKE CONCAT(table2.y, '%')