157. 초거대 AI를 위한 AI 반도체. 네이버클라우드 이동수

0:00 소개
1:58 발표시작 & 연사 소개
4:26 Before & After Transformer
15:11 GPT의 부하 특성
20:09 AI와 메모리 한계
24:20 Nvidia의 크리티컬한 이슈
28:00 거대언어모델의 추론 부하 특성 (Summarization vs. Generation)
31:16 LLM의 비용
36:19 Datacenter market shares
37:33 잘못알려진 사실들...
42:15 Google TPU와 교훈,  SRAM?, 쿨링 이슈
50:26 빅테크의 AI 반도체 설계
56.34 모델 압축기술과 하드웨어 적용
1:07:54 새로운 AI 추론 칩 솔루션!
1:09:20 Q&A 세션 시작 : 소감,
1:21:05 국내 AI 반도체 스타트업의 경쟁력은?
1:26:34 CUDA는 필요없는가?
1:32:38 포터블 디바디스를 위한 AI반도체 연구는?
1:35:12 틈새시장을 노리시나요?
1:42:47 물량공세의 글로벌 빅테크기업에 국내기업은 어떻게 대응을?
1:51:18 마무리

■ 연사 :  네이버클라우드 이동수 이사
■ 주제 :  초거대 AI를 위한 AI 반도체
■ 내용 :
    ● 초거대 AI 시대를 위한 반도체 요구사항
    ● AI 반도체의 현재와 미래
    ● 경량화를 통한 새로운 AI 반도체 시대



AI Frenz 세미나는 수요일 저녁 7시에 찾아옵니다.
▶ 홈페이지 https://aifrenz.org/
▶ 카카오톡 https://bit.ly/aifrenzkakao
▶ 유튜브 https://bit.ly/aifrenzyoutube
▶ 페이스북 https://bit.ly/aifrenzfacebook
▶ 뉴스레터 https://page.stibee.com/subscriptions...
※ AI Frenz는 주로 카카오톡 오픈채팅방에서 소통하고 있습니다. (입장코드 문의)

#AI #인공지능 #세미나


※ 본 영상은 연구개발특구진흥재단의 사회문제해결 사전기획·확산 지원사업의 일환으로 추진되는 행사입니다.