Consulta MYSQL para obtener la diferencia de fecha

Pruebe subconsultas como esta

SELECT 
    DATEDIFF(
      (
      SELECT MIN(date)
      FROM Transaction
      WHERE trans_type='Sell'
      ) AS first_sell_date
   ,
      (
      SELECT MIN(date)
      FROM Transaction
      WHERE trans_type='Buy'
      ) AS first_buy_date
   )

EDITAR:siguiendo los comentarios de OP y actualizando la pregunta con la consulta completa.

¿No puedes simplemente envolver el DATEDIFF alrededor de una llamada MIN?

DATEDIFF(
    MIN(case when t.trans_type ='Sell' then transaction_date end),
    MIN(case when t.trans_type ='Buy' then transaction_date end)
) as Date