Présentation de la société : ORANGE SA
Au sein de la direction Innovation d'Orange, le département HomeLan Services est en charge de la stratégie technique de gestion du réseau domestiques. Nous définissons et déployons cette stratégie en mobilisant des compétences depuis la recherche jusqu'à la livraison avec les Business Units du groupe. Sur le marché Résidentiels, la maison est au centre du champ de bataille de l'acquisition de clients et de leur fidélisation. Notre vision pour le réseau domestique exploité par Orange chez nos clients résidentiels, est d'être l'opérateur du réseau local et le facilitateur de services. Cela passe par la cloudification et l'APIsation de nos offres de bout en bout, l'enrichissement des services offerts avec valeur ajoutée et l'optimisation des coûts du service clients.Nous devons également être « Prpl ready » : en effet, Orange pousse l'initiative Prpl, qui a été pensée pour répondre à la très grande fragmentation des systèmes d'exploitation des box internet et offrir des API ouvertes et harmonisées basées sur l'open source afin de favoriser l'innovation par des tiers.
L'équipe participe activement à cette stratégie, sur les technologies du LAN (Thread, Wifi Sensing, LLM appliqué au LAN, etc) et sur les services (Cyber sécurité, services Prpl, etc)
Missions
Les Large Language Models (LLMs) ont révolutionné l'interaction en langue naturelle, notamment avec des chatbots comme ChatGPT Récemment, de nouvelles applications ont émergé, comme la reconnaissance d'activités humaines à partir de données de capteurs. Cependant, ces modèles nécessitent d'importantes ressources de calcul et de stockage, ce qui pose un défi pour leur déploiement dans des environnements domestiques, souvent limités en ressources. Il est donc crucial d'explorer des méthodes pour réduire leur empreinte numérique tout en maintenant des performances adéquates.Dans ce stage, vous étudierez expérimentalement la compression de LLMs pour la reconnaissance d'activités humaines : .
- Vous dresserez un état de l'art des techniques de compression de LLM : quantification, pruning, knowledge distillation (Zhu et al. 2024)
- Vous évaluerez expérimentalement les performances et empreintes de LLMs open source, sur une tâche de reconnaissance d'activités humaines à la maison
- Vous implémenterez des approches de l'état de l'art de la compression de LLMs
- Vous comparerez expérimentalement les approches de compression implémentées sur une tache de reconnaissance d'activités humaines à la maison
- Langages de programmation exigé : Python
- Connaissances en deep learning, large language models (LLM) , Generative AI
- Connaissances appréciées en internet des objets, intelligence ambiante, smart home
- Très bonne maitrise écrite et orale de l'anglais.
Profil recherché
Vous travaillerez en collaboration avec des chercheurs et doctorants en intelligence artificielle sur un sujet novateur Vos travaux pourront faire l'objet d'une publication scientifique selon l'avancement et les résultats obtenus.Profil
- Vous recherchez un stage de fin d'études et suivez une formation d'ingénieur ou master informatique