AI시대가 왔습니다. 진입 단계도 아니고요 이미 AI 시대입니다. 우리 일상에서 AI가 그린 그림, 작곡한 음악, AI 쓴 글을 보는 것은 너무나 흔해 졌는데요. 사실 이건 빙산의 일각입니다. 지금까지는 상상도 할 수 없는 콘텐츠를 이제 개인이 AI를 활용하여 만들 수 있습니다.
아래 유튜브 영상은 챗GPT 오픈AI가 2018년에 공개한 AI 봇 딥러닝입니다. 봇이 서로 팀을 나누어 한쪽은 탈출를 하고 한쪽은 탈출하는 봇을 잡는 술래잡기 봇 프로그램입니다. 봇들은 딥러닝으로 학습 하고요 그리고 탈출하다 잡히는 과정을 반복합니다. 처음에는 걷기도 힘들어하던 탈출 봇들은 끊임없는 학습을 통해 점점 진화하고요 나중에는 벽을 뛰어 넘거나 지형 지물을 활용하여 시야를 가리고, 한명이 희생하는 동안 다른 한명이 빠져나가는 등 점점 더 고도화된 전략을 씁니다. 반대 급부로 술래 봇들도 점점 탈출 봇는 찾는 방법이 고도화 되기 시작하고요 나중에는 다양한 기구를 활용한 팀플레이를 보여줬습니다. 6년전 프로그램이지만 아직도 신기한 딥러닝입니다. 중요한 것은 6년전에는 수십조를 투자받은 세계 최고의 AI회사가 가능했던 딥러닝을 이제 펄스널 컴퓨터로도 가능해졌습니다.
아래 영상은 동일한 채널에 약 4주전에 올라온 딥러닝 영상으로 펄스널 컴퓨터로 돌린 시뮬레이션입니다. 여러 환경 조건을 설정해놓고요 이후에는 각 AI 객체가 딥러닝을 통해 500년 동안의 환경 변화를 보여줍니다. 이런 콘텐츠는 물론 20년 전에도 ‘인간이 사라진 지구의 모습 1000년 뒤’식의 짤방이나 영상으로 많이 만들어졌는데요. 딥러닝 콘텐츠는 이와 차원이다릅니다. 전자가 사람이 예측하고 계산한 미래를 보여준 것이라면 딥러닝 콘텐츠는 AI가 스스로 학습한 환경 변화를 보여줍니다. 즉, 같은 조건으로 실험을 진행해도 500년 뒤 환경은 매번 달라집니다. 그만큼 수십억개의 변수를 AI가 학습해서 보여주기 때문입니다
챗GPT도 개인 컴퓨터에서 돌린다
챗GPT 역시 이론적으로 개인 컴퓨터에서 사설 GPT를 만들어서 배포하는 것이 충분히 가능합니다. 챗GPT는 AI 가 딥러닝을 통해 학습해서 질문을 답변하는 챗봇 프로그램입니다. 챗GPT 성능에서 핵십은 딥러닝 능력이고요 일반적으로 우리가 무료로 사용하는 챗GPT 3.5버전은 약 70억개의 변수를 사고하는 것으로 알려졌습니다.
챗GPT는 구글이나 바드 같은 초 거대 기업만 가지고 있지 않습니다. 최근에 출시한 네이버 클로버도 있죠. 실제로 미스트랄 AI라는 회사에서 작년 말에 Mixtral 8x7B라는 GPT를 공개했습니다. 해당 프로그램은 챗GPT4와 같이 MoE아키텍쳐를 사용한 거대 오픈소스 언어모델입니다. 여러 분야에 LLM 모델을 서로 활용하도록 설계된 모델이 성능이 매우 뛰어납니다. 70억개의 매개 변수를 가진 8개 전문 모델로 구성되어 있으며 구동 결과 가장 앞서있다고 평가받는 챗GPT 3.5와 유사한 AI벤치 마크를 기록하기도 했습니다. Mixtral 8x7B이기 때문에 누구나 무료로 구동해서 배포가 가능합니다.
Mixtral 8x7B를 돌리려면 얼마짜리 컴퓨터가 필요할까?
다른 컴퓨터 스펙은 따로 측정하다러도 가장 금액이 비싼 GPU 구동을 위해서는 권장사양 기준으로 엔비디아 A100 80GB 버전 2장이 필요합니다. A100이 현재 하나에 3천만원 수준이니, 총 6천만원 필요한 셈이지요. 웬만한 스타트업에서도 구매하기는 매우 빡세고요, 개인 입장에서는 사실 엄두도 못 낼 수준입니다.
하지만 외계인이 만든 컴퓨터 애플 실리콘이 등장하면 어떨까요? 아래는 M3 MAX 프로 128g로 Mixtral 8x7B돌린 영상입니다. M3 MAX 프로 128g는 약 700만원 정도 하는데요. 정말 놀랍게도 M3 MAXrk 엔비디아 A100 80GB 버전 2장과 비슷한 성능을 보여주고 있습니다.
700만원도 결코 싼 가격은 아니지만 엔비디아 GPU와 가격차이를 생각하면 정말 놀라운 수준인데요. 이는 애플 실리콘의 설계 자체가 딥러닝과 매우 친숙한 구조이기 때문입니다. 맥 M3 칩은 통합 메모리 아기텍쳐이기 때문에 GPU역시 거대한 메인 메모리에 그대로 접근 가능한 구조이기 때문이죠.
맥북 프로 M3 MAX 구매 가이드
일반적으로 딥러닝 용으로 구매하신다고 하더라도 챗GPT를 돌리실 목적으로 구매하시진 않을겁니다. 이는 매우 가성비가 떨어지고요, 위에 영상 처럼 개인 콘텐츠나 업무용 딥러닝 학습을 위한 구매가 많을 것 같습니다. 딥러닝 학습을 위해서라면 당연히 메모리 CPU 코어가 필수적으로 필요한데요.
한번 구매하실 때 제대로 투자해서 40코어로 구매하시는 걸 추천드립니다. 당장은 30코어로도 여러 작업이 충분히 가능하지만 앞으로 딥러닝 콘텐츠가 계속 발전하면서 결국 40코어 이상이 아쉬우실 겁니다. 전자제품은 한번 살 때 제대로 사는게 결과적으로 가장 돈을 아끼는 길입니다.
개인적으로는 아래 링크의 16코어, 40코어 GPU, 1TB SSD, 48gb 램 이게 가성비가 가장 좋다고 봅니다. 애플 실리콘은 램 용량이 부족시 SSD용량을 끌어 쓰도록 설계되어 있는데요 그래서 SSD용량을 넉넉히 구매하는게 가성비가 좋습니다.
아래 링크에서 사전예약 가격보다 싼 가격에 하루 배송을 제공하고 있으니 구매에 도움 되시면 좋겠습니다.
맥북 프로 M3 MAX 가성비 최저가 옵션 보러가기 (링크)
“이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.”