AI 기술의 발전을 이끄는 핵심 동력 중 하나는 ‘AI 가속기’다. 류수정 교수는 한국 최초의 상용 AI 반도체 칩 샤피온(SAPEON)의 상용화를 이끈 인물로, SK텔레콤 자회사 샤피온(SAPEON) CEO를 역임했으며 현재는 서울대학교 전기정보공학부에서 객원교수로 재직 중이다. 삼성전자에서 15년간 프로세서 아키텍트로 활동하며 모바일 GPU와 디지털 신호 프로세서 등 다양한 핵심 프로세서 개발을 주도했으며, 이 과정에서 시스템 수준의 통합과 구조 설계의 중요성을 몸소 경험해왔다. 고성능 AI를 현실 속에 적용하기 위해 AI 가속기 기반의 시스템을 구현하면서 마주하게 되는 도전과제와 구조적 한계들을 짚어보며, 앞으로의 AI 인프라 발전을 위해 ‘포스트 실리콘’ 연구와 새로운 기술 생태계로의 전환이 왜 필요한지를 함께 고민해보고자 한다.
AI의 발전으로 인해 고성능 실리콘 기반 인공지능 가속기의 개발에 대한 중요성이 대두되고 있지만, 이를 산업에 적용하고 시스템화하는 과정에서는 여전히 수많은 한계와 문제가 존재한다. 특히, 연산 효율성과 확장성, 전력 소모 문제는 생성형 AI의 대두로 인해 모델 크기나 복잡도가 급속도로 상승하면서, 기존 실리콘 기반 기술만으로 급증하는 수요를 해결하는데 한계가 보이고 있다. 이러한 기술적 제약을 넘어서기 위해서는 실리콘 이후를 대비하는 새로운 패러다임에 대한 연구가 절실하다. 그러나 새로운 기술의 등장은 단지 성능 향상을 넘어서, 기존 생태계의 적응성과 연계성까지 고려해야 한다. 이 세션에서는 우리가 직면한 문제들과 함께, 미래를 준비하는 기술 생태계의 전환 방향을 함께 이야기해보고자 한다.