최근 여러 이슈를 보다가 왜 AI를 돌릴 때 그래픽 카드가 중요한지 궁금해졌다.
(ex : Chat GPT vs DeepSeek )
궁금한건 못 참으니까 왜 그런지 알아보자!
💡 AI를 돌릴 때 그래픽 카드(GPU)가 중요한 이유는 병렬 처리 성능 덕분이다.
💪 CPU vs GPU
- CPU(중앙 처리 장치) : 직렬 처리에 특화됨. 여러 작업을 순차적으로 빠르게 처리함.
- GPU(그래픽 처리 장치) : 병렬 처리에 특화됨. 수천 개의 작은 코어가 동시에 많은 작업을 처리함.
⚙️ AI에서 GPU가 중요한 이유
- 병렬 연산:
- 딥러닝과 같은 AI 모델은 수많은 행렬 연산과 벡터 연산을 수행한다.
- GPU는 수천 개의 코어로 이 연산을 병렬로 처리해서 속도를 크게 높여준다.
- 훈련과 추론 속도:
- AI 모델을 훈련할 때는 수십억 개의 데이터를 학습하는 과정이 필요함
- GPU는 이런 복잡한 연산을 빠르게 처리해서 훈련 시간을 단축시킴
- 실시간 처리:
- 챗봇처럼 실시간으로 반응하는 서비스는 빠른 추론 속도가 필요하다.
- GPU가 있으면 AI가 더 빠르게 반응할 수 있다.
🖥️ 예를 들어보면…
- CPU만 사용: AI 모델 훈련에 10시간
- GPU 사용: 같은 모델 훈련에 1시간 이하
특히 이미지 생성, 자연어 처리, 음성 인식 등에서는 GPU 성능이 결과의 속도와 품질을 크게 좌우한다.
그래서 AI 서버는 고성능 GPU를 사용하는 경우가 많다.