Stai mescolando Operatori SQL con Istruzioni... sei sicuro di aver compreso le differenze...?
Quello che vuoi fare si deve realizzare da VBA e passare alla Stringa SQL l'elaborato...!
Dim strREG As String
SELECT CASE Prov
Case "ba","ta","bat","le","br","fg"
strREG ="Puglia"
Case Else
strREG ="Altra Regione"
End SELECT
StrSQL="INSERT INTO tabella1 (provincia) values ('" & strREG & "')"
Detto questo... la esegui... anche se scrivere "Puglia" nel campo Provincia lo trovo bizzarro...