카카오 계정과 연동하여 게시글에 달린
댓글 알람, 소식등을 빠르게 받아보세요

가장 핫한 댓글은?

LLM, 이미지 연구하는데 서버 구성어떻게 해야할까요

2024.07.14

6

1792

이번에 5천만원정도? 장비비를 사용할 수 있게 되어서 서버를 구축하려고 하는데요.

예전엔 VRAM이 더 커야한다던가... 그런 필요성을 못느껴서 A5000*8 서버를 2개 가지고 있는데, 요즘엔 좀.. 크게 느끼고 있습니다.

연구비야 이후에도 나올 수 있으니 확장 가능성을 염려해 두고
1. A100 한장 + 새 서버
2. A5000 빼고 H100 한장 장착
3. A6000 ada 4장 + 새 서버

어떤게 가장 좋아보이시나요?

카카오 계정과 연동하여 게시글에 달린
댓글 알람, 소식등을 빠르게 받아보세요

댓글 6개

2024.07.14

요즘 A100이 시중에 나와있는게 있나요

대댓글 1개

2024.07.14

A100은 일단 지난 2월에 신규 발주는 안 받기 시작했습니다.

그런데 여기저기 전화를 돌려 보시면 3천 정도에 구할 수 있을지도…

2024.07.14

누적 신고가 20개 이상인 사용자입니다.

가성비는

A6000 Ada 4장이 가장 좋아보이고요

A6000 Ada 8장 들어갈 수 있는 렉을 먼저 구매하시고,

A6000 Ada 4장으로 시작하는게 가성비적으로 좋아보입니다.

A100을 사기에는 너무 가성비가 ㅠㅠ

2024.07.15

A100은 중고로도 구하기어려울거구요, 6000 ada를 8장 장착가능한 서버들이 있으니, 예산 가능한대로 GPU를 장착하시길 권합니다. 물론 system memory도 gpu memory의 2-3배 로 미리 장착하시길.

2024.07.15

A6000과 A100 속도를 생각해보면 A100이 반드시 필요합니다.
이미 A5000 * 8 서버가 하나 있으면 A100 80G 한장 서버를 새로 사고 추후 A100 80G를 추가로 넣는 게 나을 거 같네요.
GPU대수와 VRAM을 늘릴건지, 속도를 늘릴건지 저희 연구실에서도 항상 고민되는 주제이긴한데, 할수 있는 연구의 상한선을 높이는 것도 중요하다고 봅니다.

2024.07.19

다들 의견 감사합니다. :) A100을 구하는 방법이 요원해서, A6000으로 진행하려고 합니다. 관심 감사합니다.

댓글쓰기

게시판 목록으로 돌아가기

자유 게시판(아무개랩)에서 핫한 인기글은?

자유 게시판(아무개랩)에서 최근 댓글이 많이 달린 글

🔥 시선집중 핫한 인기글

최근 댓글이 많이 달린 글