Progetto ambizioso ...
1) ottima conoscenza della piattaforma su cui vuoi sviluppare. Visto che parli di objective-c, allora di iOS
2) ottime conoscenze di elaborazione di immagini
3) di librerie per la manipolazione di immagini ce ne sono a bizzeffe, basta cercare un po'. Ma la parte divertente e' saper implementare gli algoritmi da zero
4) si puo' fare solo lato terminale, oppure lato server.
5) cosa studiare? semplice, tutto quello che ti serve per realizzare la app: objective-c, iOS, elaborazione di immagini, le librerie che utilizzerai, come si realizza un'interfaccia utente (nel senso dell'interazione uomo-macchina), come minimo