01
/
01
/
Nan Ferdinandus

LICHAAM METEN MET AI

Navigeren met handgebaren

Voor mijn afstudeerstage bij Limburg Meet heb ik gewerkt aan een innovatieve applicatie waarmee kinderen met spierziekte zoals JDM hun spieroefeningen thuis kunnen uitvoeren, zonder telkens naar het ziekenhuis te hoeven gaan. De applicatie maakt gebruik van camera technologie en AI om bewegingen te analyseren en de voortgang van de oefeningen te meten.

Mijn taak in dit project was om een oplossing te ontwikkelen waarmee de kinderen door de applicatie kunnen navigeren zonder gebruik te maken van traditionele invoermethoden, zoals een controller of toetsenbord. Na onderzoek en feedbacksessies met de opdrachtgever, kwam ik tot de conclusie dat handgebaren via de camera de ideale oplossing zijn.

Ik heb een Proof of Concept ontwikkeld waarbij je door middel van handgebaren een object in de app kunt besturen. Vervolgens heb ik meerdere handgebaren geïntegreerd, waardoor de gebruiker eenvoudig naar de volgende oefening kan navigeren.

Hiervoor heb ik gewerkt met ReactJS en JavaScript, in combinatie met Tensorflow Handpose, die 21 keypoints op de hand herkent via de camera. Daarnaast heb ik gebruik gemaakt van Storybook om componenten te testen en documenteren, zodat het voor de volgende ontwikkelaar duidelijk is hoe mijn code werkt.

Dit project heb ik succesvol afgerond met een 8 als eindcijfer.