![[Track2]Session_07_한국적 AI를 위한 추론 인프라 kt cloud와 리벨리온이 만들어가는 한국적 AI_김광정_리벨리온 사업총괄_kt cloud summit 2025](https://i.ytimg.com/vi/RpqR6VnjOh0/maxresdefault.jpg)
[Track2]Session_07_한국적 AI를 위한 추론 인프라 kt cloud와 리벨리온이 만들어가는 한국적 AI_김광정_리벨리온 사업총괄_kt cloud summit 2025
kt cloud Summit 2025 kt cloud · YouTube
AI 핵심 요약
생성형 AI와 에이전트 서비스가 확산되면서 한국어·국내 데이터에 적합하고 비용 효율적인 추론 인프라를 마련하는 과제가 커지고 있다. 리벨리온은 자체 설계한 아톰 MPU와 카드·서버·랙 제품군을 제공하고, RDMA 기반 클러스터와 소프트웨어 도구를 통해 대규모 추론 환경을 지원하는 방안을 소개했다. KT 클라우드와 협력해 KT의 믿음 미니를 MPU에서 구동하는 데모를 선보였으며, 다양한 오픈소스 모델을 클라우드에서 활용할 수 있도록 지원한다고 설명했다. 한국적 AI를 위해서는 반도체만이 아니라 데이터 주권을 지키는 클라우드, 국내 모델, 오픈소스 생태계가 함께 갖춰져야 한다는 점을 강조했다.
- 국가 AI 역량은 연산 인프라뿐 아니라 데이터 주권, 자체 모델과 인력까지 함께 갖춰야 한다.
- 업무를 세분화하고 각 단계에 맞는 소형 LLM을 조합하면 기업 AI 서비스를 현실적으로 시작할 수 있다.
- RDMA 기반 고속 네트워크와 텐서 병렬화로 여러 MPU를 하나의 클러스터처럼 확장할 수 있다.
- AI 반도체의 활용성을 높이려면 SDK·드라이버·모델 컴파일 도구와 오픈소스 생태계 지원이 중요하다.
비슷한 학습 자료
컨퍼런스 kt cloud Summit 2025
Keynote2_안재석 kt cloud 기술본부장 with Chris Breu, Rackspace
컨퍼런스 kt cloud Summit 2025
Keynote1_최지웅 CEO, 공용준 Cloud본부장, 허영만 DC본부장
컨퍼런스 kt cloud Summit 2025
[Track2] Session_06_kt cloud AI Service Roadmap_정미진_kt cloud AI사업팀_kt cloud summit 2025
컨퍼런스 kt cloud Summit 2025
[Track1] Session_07_AI 반도체를 이용한 국책사업 성공 사례_곽재도_과학기술정보통신부 인공지능산업융합사업단 본부장_kt cloud summit 2025
컨퍼런스 kt cloud Summit 2026
[kt cloud summit 2026] 추론·라우팅 최적화와 토큰 모니터링으로 완성하는 AI 팩토리｜래블업 주식회사 김준기
컨퍼런스 kt cloud Summit 2026