Prima di tutto devi ascoltare quello che ti dice il compilatore
i = "a";
è sbagliato: stai assegnando ad un carattere una stringa. I caratteri vanno messi fra apici semplici
i = 'a';
Stessa cosa per i confronti, quindi vanno corrette anche la condizione del while e dell'if.
Il codice
if (cont == 0)
{
max = n;
}
è superfluo: basta inizializzare max=0
non so cosa tu pensi che faccia
if (i != 'f')
... mi è del tutto oscuro
in ultimo
n=(int)i
non fa assolutamente quello che tu pensi. Per trasformare una cifra ASCII in intero non basta castarla. Ci sono delle funzioni specifiche che lo fanno: atoi, strtol, etc...
In ultimo il tuo approccio non è del tutto corretto, nel senso che così come lo stai pensando puoi aggiungere solamente numeri ad una cifra, ma non conoscendo il testo dell'esercizio non so se questo è accettabile oppure no.
Dovresti avere tutte le info per correggere il tuo codice, nel caso di ulteriori problemi facci sapere