Dando per ovvio che il campo DtTrans sia di tipo data Io farei così:
AND Year(BSEmissione.DtTrans) NOT IN (2017,2018)
Se proprio vuoi utilizzare le date, allora occorre conoscere il tipo di data che è DtTrans, e quindi il formato.
Normalmente, lo standard è
MM/DD/YYYY (se non diversamente indicato) quindi dovrebbe essere sufficiente usare:
AND BETWEEN '01/01/2017' AND '12/31/2018'
A meno che il campo NON sia di tipo data (ma sarebbe assurdo e sbagliato se fosse un campo di testo) nel qual caso allora occorre fare il CAST.