김래훈 상무

삼성전자 시스템 LSI

발표제목: On-Device AI Multimedia System / 발표초록: 초거대 모델들이 주목을 받기 시작하면서 on-device inference에서 수행해야 하는 모델의 크기 혹은 처리할 수 있는 token수에 대한 기대치도 올라가고 있으며, 이외의 다양한 multimedia application들을 위한 on-device 모델들이 경량화/최적화되어 적용되어지도록 SW/HW platform 레벨에서의 지원이 더욱 중요하게 여겨지고 있습니다. 전력 소모 및 수행 시간 최소화는 여전히 중요한 핵심 요구 사항이며 AR glass와 같은 wearable device의 경우에는 그 중요도가 더욱 높아진다고 할 수 있습니다. 이를 위해 사용 시나리오와 feature들의 이해를 바탕으로 솔루션 개발 및 system level 최적화를 함께 적용할 수 있는 방법에 대해서 논의하고자 합니다.