![[Track2] Session_06_kt cloud AI Service Roadmap_정미진_kt cloud AI사업팀_kt cloud summit 2025](https://i.ytimg.com/vi/qOGGofSiv9Q/maxresdefault.jpg)
[Track2] Session_06_kt cloud AI Service Roadmap_정미진_kt cloud AI사업팀_kt cloud summit 2025
kt cloud Summit 2025 kt cloud · YouTube
AI 핵심 요약
기업의 AI 도입은 GPU 확보만으로 끝나지 않고 데이터 정제, 모델 선택, RAG 구성과 운영까지 이어져 비용과 전문 인력 부담이 크다는 점을 짚었다. KT cloud는 AI Train·AI Serve와 NPU 상품에 더해 AI Ops, 모델 저장소, 모델 플레이그라운드를 제공하고, GPU 자원을 동적으로 할당해 실제 연산 시간 기준으로 과금하는 방식을 소개했다. 또한 파싱·OCR·임베딩·LLM과 벡터 DB를 묶은 AI Foundry를 준비해 기업이 인프라 관리보다 AI 개발과 운영에 집중하도록 지원할 계획이라고 밝혔다. AI 도입의 핵심은 기술 자체보다 데이터와 도구를 갖춰 실제 업무에 적용하고 지속적으로 운영하는 실행력이라는 점을 강조했다.
- GPU 학습 자원은 클러스터 단위로 동적 할당하고 실제 연산 시간 기준으로 과금하면 대규모 학습 비용을 줄일 수 있다.
- AI 개발 플랫폼은 파인튜닝부터 배포·모니터링까지 파이프라인을 자동화해 반복 작업과 운영 부담을 낮춰야 한다.
- 모델 플레이그라운드에서 같은 추론 자원으로 모델 출력과 GPU·NPU 성능을 비교하면 도입 전 검증에 도움이 된다.
- RAG 구축은 문서 정제·OCR·임베딩·벡터 DB·LLM 등 여러 구성 요소가 필요하므로 데이터 준비와 운영 복잡성을 함께 고려해야 한다.
비슷한 학습 자료
컨퍼런스 kt cloud Summit 2025
Keynote1_최지웅 CEO, 공용준 Cloud본부장, 허영만 DC본부장
컨퍼런스 kt cloud Summit 2025
[Track2]Session_07_한국적 AI를 위한 추론 인프라 kt cloud와 리벨리온이 만들어가는 한국적 AI_김광정_리벨리온 사업총괄_kt cloud summit 2025
컨퍼런스 kt cloud Summit 2025
[Track2] Session_02_Path Finder: AI로 재창조하는 데이터센터의 미래_조현제_kt cloud DC기술전략팀_kt cloud summit 2025
컨퍼런스 kt cloud Summit 2025
[Track2] Session_01_AI기반 DC Ops Total Platform_윤정림_kt cloud DC플랫폼기술팀_kt cloud summit 2025
컨퍼런스 kt cloud Summit 2026
[kt cloud summit 2026] 추론·라우팅 최적화와 토큰 모니터링으로 완성하는 AI 팩토리｜래블업 주식회사 김준기
컨퍼런스 kt cloud Summit 2026
[kt cloud summit 2026] Keynote 2｜kt cloud 최옥진 DC본부장, KT 전명준 Enterprise서비스본부장, SGC 황세훈 지주부문 상무
컨퍼런스 kt cloud Summit 2026
☁️ 당신의 비즈니스를 위한 AX: AX 실행은 더 쉽게, 비즈니스 확장은 더 빠르게 ☁️ kt cloud summit 2026 Keynote 2 0:00 Beyond Heritage, AIDC의 미래를 설계하다 | kt cloud 최옥진 DC본부장 19:30 AX를 현실로 만드는 초연결 AX 인프라 구축 | KT 전명준 Enterprise서비스본부장 27:23 From Energy to Intelligence, 전기를 넘어 지능을 움직이다 | SGC 황세훈 지주부문 상무
인공지능 기타 클라우드