(반도체) 염승환 반도체 함께 배우기 _ AI 필수품 HBM3 파헤치기(feat. SK하이닉스/피에스케이홀딩스)

! 영상링크

 

https://www.youtube.com/watch?v=_8stl90RB_s&list=PLqpgv5OuV7fplk9aBbECauz1YLLVymqHh&index=20

 

! 내용요약

 

 

 

그냥 검색이 아니라 대화형 검색으로 바뀐다

 

 

GPU가 상대적으로 단순한 질문을 동시에 연산한다

 

좀 정확하지 않을수도 있어도 10개의 문제를 동시에 풀어준다

 

인공지능은 GPU가 중요하다

 

CPU는 하나씩 계산해서 느릴 수 밖에 없다

 

 

 

 

데이터를 처리하기 위해서는 D램 모듈을 CPU, GPU에 붙어있는게 좋은데 이게 설계하기가 어려움

 

이걸 대신해 주는게 GDDR

 

 

 

GDDR을 최대 12개 

 

 

GDDR을 대신하는 것이 HBM

 

GDDR은 32차선 12개는 384, HBM은 4차선 1924개 4096

 

다만 HBM의 속도가 아주 빠른 것은 아니다, 속도는 GDDR이 더 빠르다(하나당 속도)