L'errore è nel modo nel quale hai definito la funzione:
function myfitfun(xdata, b)
definisce una funzione che non ritorna alcun output inoltre non puoi usare il nome della funzione come nome di una variabile all'interno della funzione stessa (ed in generale).
Se vuoi che la funzione ritorni un parametro di output la devi definire come:
function ret_value=myfitfun(xdata, b)
dove "ret_value" è il nome della variabile di output della funzione, calcolato all'intero della funzione stessa.
Per chiamare la funzione dovrai scrivere:
output_val=myfitfun(xdata, b)
Ho volutamente usato nomi diversi per la variabile di output per sottolineare il fatto che nn devono essere necessariamente uguali.