Le funzioni setappdata e getappdata servono per scambiare variabili tra gli uicontrol di una GUI, nel tuo caso non sono necessarie perchè i valori / stringhe che vuoi manipolare sono memorizzati come "properties" dei vari uicontrols.
Per quanto riguarda l'inserimento di stringhe nelle caselle di testo, mi sembra che la risposta alla tua precedente domanda si applichi anche in questo caso.
Quando hai a che fare con variabili di tipo numerico, per poterne inserire il valore in una casella di testo devi prima convertirne il valore in stringa. Per questo puoi usare la funzione num2str ().
Per la conversione in esadecimale puoi usare la funzione dec2hex che ritorna il valore esadecimale già in formato stringa.
Per quanto riguarda la somma dei valori esadecimali, ti conviene calcolare la somma dei valori decimali e poi convertire il risultato in esadecimale.
Per il futuro sarebbe opportuno che, nella domanda, inserissi anche il codice che hai scritto.