La domanda non è molto chiara.
Se i vettori "t" ed "f" hanno lunghezza diversa, come è possibile usare un solo ciclo for?
Nel codice che hai pubblicato, la "i" che compare nell'espressione
exp(-1i*2*pi*f(k)*t(h))
viene interpretata come la variabile complessa
0 + 1.0000i mentre, stando al testo della domanda
exp(-j*2*pi*f(j)*t(i))
sembrerebbe che debba essere uno scalare intero visto che viene usata come indice del vettore "f".
Nella seconda parte della domanda
Dopodichè devo definire due vettori e trasformarli usando la matrice M ...
fai riferimento alla matrice M mentre nell'esempio che segue "X=x*E" usi "E "?
Inoltre, come hai definito i due vettori?
Quando scrivi
dove x è uno dei due vettori però mi dà che le dimensioni tra i due sono diverse ...
chi sono "i due"? che hanno dimensioni diverse?