KPI뉴스 - SK AI 서밋…활용사례·인프라·에너지가 병목, 협력이 해법

  • 구름많음제천23.1℃
  • 흐림해남25.7℃
  • 구름많음북부산24.4℃
  • 흐림천안25.9℃
  • 구름많음속초19.6℃
  • 구름많음전주26.6℃
  • 구름많음광주29.2℃
  • 구름많음백령도22.9℃
  • 맑음고창군27.2℃
  • 흐림청주27.1℃
  • 맑음고창26.6℃
  • 흐림산청27.0℃
  • 흐림춘천26.2℃
  • 흐림밀양26.1℃
  • 흐림거창25.9℃
  • 구름많음부산23.4℃
  • 흐림정선군22.5℃
  • 흐림문경25.1℃
  • 구름많음남원28.3℃
  • 흐림서산24.9℃
  • 맑음흑산도24.0℃
  • 구름많음영주24.3℃
  • 흐림봉화24.5℃
  • 흐림제주24.4℃
  • 구름많음부안25.3℃
  • 구름많음동해19.9℃
  • 흐림태백19.5℃
  • 흐림홍성26.9℃
  • 구름많음강릉20.3℃
  • 흐림상주25.8℃
  • 흐림의성26.4℃
  • 흐림영천23.4℃
  • 흐림군산24.0℃
  • 구름많음완도26.3℃
  • 비울릉도18.8℃
  • 구름많음포항23.1℃
  • 구름많음영덕20.7℃
  • 구름많음거제22.9℃
  • 흐림인제24.1℃
  • 구름많음인천26.6℃
  • 흐림창원22.2℃
  • 흐림성산23.5℃
  • 맑음정읍26.9℃
  • 구름많음고흥26.0℃
  • 흐림금산25.9℃
  • 흐림보령25.7℃
  • 흐림함양군27.1℃
  • 흐림울진19.9℃
  • 구름많음장수25.5℃
  • 흐림보은24.8℃
  • 흐림보성군26.2℃
  • 흐림구미28.1℃
  • 구름많음순창군27.5℃
  • 흐림진주23.8℃
  • 흐림세종25.9℃
  • 구름많음김해시23.6℃
  • 흐림광양시24.4℃
  • 흐림원주25.2℃
  • 흐림의령군25.7℃
  • 흐림청송군25.7℃
  • 흐림대관령17.4℃
  • 흐림수원26.4℃
  • 흐림순천24.8℃
  • 맑음영광군25.9℃
  • 흐림목포25.2℃
  • 흐림고산22.1℃
  • 흐림합천27.3℃
  • 구름많음안동25.6℃
  • 흐림강진군27.3℃
  • 흐림양평26.3℃
  • 흐림홍천25.6℃
  • 흐림서청주26.1℃
  • 흐림대전26.5℃
  • 흐림이천25.9℃
  • 흐림경주시23.7℃
  • 흐림강화24.9℃
  • 흐림서울27.0℃
  • 흐림파주28.1℃
  • 구름많음통영23.7℃
  • 구름많음영월24.1℃
  • 구름많음임실26.4℃
  • 구름많음장흥26.2℃
  • 흐림추풍령24.8℃
  • 구름많음북강릉20.7℃
  • 흐림동두천25.6℃
  • 흐림북창원24.9℃
  • 흐림철원25.7℃
  • 흐림여수23.6℃
  • 흐림충주25.2℃
  • 구름많음울산22.4℃
  • 흐림양산시24.7℃
  • 흐림남해23.3℃
  • 구름많음진도군24.2℃
  • 흐림부여26.2℃
  • 흐림대구27.9℃
  • 흐림북춘천25.4℃
  • 흐림서귀포26.1℃

SK AI 서밋…활용사례·인프라·에너지가 병목, 협력이 해법

김윤경
기사승인 : 2024-11-04 17:56:53
글로벌 빅테크 총출동한 SK AI 서밋
최태원, 병목 해결 먼저…"해법 준비 중"
젠슨황 "HBM…더 빨리,더 넓은 대역 필요"
그렉 브로크만 "기업 협력·생태계 구축해야"
SK, 'AI 슈퍼 하이웨이'·'HBM3E 16단' 공식화

AI(인공지능) 발전을 위해 기업들이 고민하는 분야는 AI를 활용한 사례(Use Case) 및 수익 모델 발굴, 인프라 구축, 에너지 효율화, 생태계 활성화였다. 문제 해결을 위한 최우선 과제로는 초기업적 협력이 요구됐다.

 

▲ SK그룹이 서울 코엑스에서 개최한 'SK AI 서밋 2024' 행사장 전경 [김윤경 기자]

 

SK그룹이 4일 서울 코엑스에서 '함께하는 AI, 내일의 AI'를 주제로 개최한 'SK AI 서밋(SUMMIT) 2024'에서는 AI 시대 글로벌 기업들의 당면 과제와 난제, 이를 해결하기 위한 노력들이 소개됐다.


행사에는 최태원 SK그룹 회장을 비롯, 그렉 브로크만 오픈AI 회장 겸 사장, 젠슨 황 엔비디아 CEO, 웨이저자 TSMC 회장, 라니 보르카 마이크로소프트 CSV 등 글로벌 빅테크 경영자들이 대거 참여했다.

 

이들은 사람처럼 논리적 추론이 가능한 범용인공지능(AGI)을 AI의 미래로 제시하고 궁극적으로 AI가 인류 공통의 난제를 해결하고 지속가능한 지구를 만드는 데 기여할 것으로 예상했다.

AI 수익 모델 '아직'…에너지·인프라도 해결해야

 

문제는 곳곳에 존재한 병목이었다. 활용 사례 및 수익 모델 발굴은 AI 투자 회수를 위해 필수적으로 요구된다. AI가 논리적 추론을 하려면 데이터를 학습해야 하고 기업들에게는 천문학적 비용 지출이 요구되지만 이를 상쇄할 수익모델이 나오지 않아서다.

 

최태원 회장은 "AI 겨울을 극복할 수익모델이 아직 안 나왔다"며 "MS와 구글 등 글로벌 빅테크들도 많은 시도를 하고 있는데 SK는 기업용 AI 솔루션과 통신특화(텔코) LLM(거대언어모델) 개발을 진행 중"이라고 밝혔다.
 

▲ 최태원 SK그룹 회장이 4일 서울 강남구 코엑스에서 열린 'SK AI 서밋(SUMMIT) 2024'에서 '함께하는 AI, 내일의 AI'를 주제로 기조 연설 하고 있다. [SK 제공]

 

AI 가속기와 반도체를 포함한 인프라는 시장의 수요와 공급이 불균형을 이루는 사례다. 방대한 데이터를 빠르게 처리하려면 고성능 AI 반도체와 가속기, 네트워크가 필요한데 수요에 비해 공급이 턱없이 부족해서 문제다.

젠슨 황 엔비디아 CEO는 데이비드 패터슨 UC버클리대 교수와의 행사 전 대담에서 "HBM(고대역폭 메모리) 반도체의 발전 속도가 더 빨라져야 하고 더 넓은 메모리 대역폭이 필요하다"고 강조했다.

주요 이유로는 "이미지와 동영상, 대규모 독립 데이터 등 처리해야 할 맥락(context) 데이터의 지속적 증가"를 꼽았다. 그는 "코딩으로 작성된 소프트웨어가 머신러닝 알고리즘으로 진화할 때 AI는 맥락 데이터 학습을 위한 뉴럴(신경망) 네트워크 구축과 병렬 계산을 요구하는데 그 과정에서 메모리 대역폭이 중요하다"고 설명했다.

웨이저자 TSMC 회장은 "AI 발전을 가속화하기 위해 반도체 소모 전력과 칩 면적 감소를 위한 기술 혁신이 필요하다"며 '하나의 칩에 연산처리 장치를 모두 담는 원칩 구현'을 위해 '반도체 산업 전체의 협력'을 촉구했다.
 

에너지(전력) 확보와 효율화도 해결과제로 지목됐다. 고성능 컴퓨팅 파워 구현을 위한 대용량 전력 지원 환경이 아직 마련되지 못했기 때문이다.

 

최 회장은 "AI가 학습할 LLM 1개당 약 10GWh(기가와트시) 수준의 전력과 이를 공급할 AI 데이터센터가 필요한데 투자비가 1GWh당 최소 400억 달러로 추산된다"고 설명했다. 이어 "50GWh 수준의 AI 데이터센터 건립이 당면과제, 넷제로(탄소저감) 달성이 추가 과제"라고 했다.
 

AI가 인류 난제 해결…기업 협력·생태계 절실


그렉 브로크만 오픈 AI 회장은 "인류의 문제를 해결하는데 AI가 기여할 수 있도록 하겠다"며 "사람을 능가하는 AI 개발에는 기업들의 협력과 생태계 구축이 필요하다"며 "함께 손잡고 일하면 가능할 것"이라고 강조했다.


그는 "사람처럼 생각하고 고민하며 좋은 답변을 내는 AI를 구현하고자 논리 관련 프로젝트를 진행 중"이라고 밝혔다.

라니 보카르 마이크로소프트 총괄부사장(CVP)은 "더 나은 미래로 이끌 기술을 도입해야 한다"며 "미래는 속도와 규모, 지속가능성의 한계를 시험할 경계이고 얼마나, 멀리, 빨리 나아가느냐는 우리에게 달려 있다"고 말했다.

 

이어 "아폴로M 성공 뒤 혁신가들이 '중대한 시작'을 논했던 것처럼 AI는 우리에게 새 시대의 시작을 알린다"고 설명하고 "어떻게 혁신하느냐가 새로운 기술을 여는 원동력이고 세계 최고의 슈퍼 컴퓨터를 구축해야 하는 임무가 우리에게 있다"고 했다.

 

'AI 슈퍼 하이웨이'와 'HBM3E 16단' 공식화

 

이날 행사에서는 난제 해결을 위해 SK가 준비한 결과물도 소개됐다.

유영상 SK텔레콤 대표는 'AI 인프라 슈퍼 하이웨이'를 제시하고 대규모 AI 데이터센터와 가상화 기술을 활용한 GPU 임대서비스(GPUaaS), 전국 단위 엣지 AI 건립을 해법으로 내놨다.

그는 "고효율 저비용 에너지 기술에 대한 실증 사업을 진행 중"이라며 "12월부터는 경기도 판교 지역에 시험 공간(테스트베드)도 오픈한다"고 했다.


곽노정 SK하이닉스 대표는 "디램(DRAM)은 데이터 저장을 위한 도로, 낸드플래시는 저장고 역할을 한다"고 요약하고 "성능 최적화, 공간효율 극대화, 전력 효율 최소화를 목표로 우리는 가장 먼저, 최고를 뛰어넘는 차세대 AI 메모리를 개발하고 있다"고 소개했다.


HBM3E 12단을 넘어 48GB(기가바이트) 용량을 구현하는 16단 제품 개발도 공식화했다.

곽 대표는 "내부 시험 결과 16단 HBM3E가 12단 제품보다 학습 18%, 추론능력은 32% 향상된 것으로 검증됐다"며 "내년 초 고객들에게 샘플을 제공할 예정"이라고 밝혔다.

 

KPI뉴스 / 김윤경 기자 yoon@kpinews.kr

[저작권자ⓒ KPI뉴스. 무단전재-재배포 금지]

김윤경
김윤경

기자의 인기기사