엔비디아에서 생산하는 인공지능 칩 하나당 단가가 6천만원부터 시작하는데 국내 대기업이나 대학에서는 이걸 수만대씩 사들일만한 자금력이 없습니다.
네이버에서 올해 h100 천대 확보해서 기사나고 그랬는데 미국 빅테크 기업에서는 천대는 커녕 20~30만대 씩 가지고 있습니다. 한화로 계산하면 10조원이 넘어가죠
인공지능 연구는 결국 인공지능 칩 확보를 위한 자본싸움이고 수학이나 이론물리처럼 단순히 개개인의 머리가 똑똑한것만으로는 한계가 명확해요.
AI 연구는 라마누잔처럼 가난한 천재의 기적 이런 신화를 쓰는거 자체가 불가능합니다. LLM 연구? 에초에 LLM을 구축할 인공지능 칩이 없는데 어떻게 LLM 연구를 할까요.
카카오 계정과 연동하여 게시글에 달린 댓글 알람, 소식등을 빠르게 받아보세요
댓글 32개
2024.11.13
Trial-and-error를 하려면 장비가 필요하고 우리나라에서는 장비가 확보되지 않아 어려움이 많은 것도 맞죠. 근데, 미국이 AI를 주도하고 있을 뿐이지 우리나라가 부진하다고 생각하진 않습니다. 미국과 비교라면 부진하지 않은 분야가 있나요?
대댓글 2개
2024.11.13
단순히 trial and error를 하기 위함이 아니라 gpu가 없으면 큰 모델을 아예 못 만듦 Chatgpt를 만들 아이디어가 있어도 자원이 없으면 아예 못 만든다는 말임 슬프지만 앞으로 10년 안에 미국, 중국과 나머지 나라들의 격차가 상상할 수 없을 정도로 벌어질 거라고 생각함 각 나라들에서 AI 모델 딱 하나씩만 남겨둘 거라고 예상
2024.11.13
ㄴ 네 아닙니다.
2024.11.13
대규모 언어모델 측면에서는 맞는말. 그러나 소규모 머신러닝 측면에서는 틀린말. 인공지능 분야는 방대함. 언어모델말고 딥러닝으로 어떤 현상을 예측한다거나 하는 소규모 딥러닝부터 해보는것도 한가지방법임. 챗gpt가 전세계 문서 5조개를 공부했다고 쫄필요없음. 그 친구가 모르는 지식이 지천에 널려있음. 내가 만든 알고리즘으로 생산한 빅데이터라든가 특정 공장에서 일어나는 매일쏟아지는 공정 데이터 이런거 모름. 그런 딥한 분야에 인공지능 적용하면 그냥 겜할때쓰는 gpu 카드 한장으로도 학습가능함.
대댓글 1개
2024.11.13
나같은 경우는 인공지능 전공자아님. 내가 만든 알고리즘으로 생산한 데이터로 훈련모델만드는중임. 내가 직접 아이디어내서 만들었고 외부에 공개한적도 없음. Chatgpt가 내 데이터를 알수는 없음. 실험할때마다 데이터는 쏟아지니깐. 패턴도 업뎃되고. 언어모델보다 다른 분야를 찾아보면 의외로 할것이 많음. 빅테크 기업이 만들어내는 데이터에 목맬필요도 없음 내가 직접 생산하니깐.
2024.11.14
전적으로 동감합니다
2024.11.14
그런데 LLM 상용화는 돈이 더 드니...
2024.11.14
자본이 없으면 창의적으로 방법을 찾아서라도 연구를 해야죠 현실 도피하지 말고
대댓글 2개
2024.11.14
그러니까 그게 안된다는겁니다. 전력 송신에 대해 연구하는데 연구소에 전기가 없어서 전력을 확보하지 못하고 전력에 대해 연구한다는거랑 똑같아요. 연구할 사료 자체가 없는데 어떻게 연구를 하고 논문을 쓸까요?
수학이나 이론물리는 자본이 없어도 천재가 한명 태어나면 라마누잔이나 페렐만처럼 자수성가 신화를 쓸수 있는데 AI는 자본이 없으면 그런게 아예 안됩니다 연구진행 자체가 안되요
2024.11.17
그리고 더 말하고 싶은게, "창의적으로 방법을 찾아라" 라고 하셨는데, 세상에 똑똑하고 창의적인 사람들이 한국에만 있을까요? 수십조원의 자본을 인공지능 산업에 쏟아부을수 있는 미국 거대기업에는 똑똑하고 창의적인 사람들이 없을까요?
자본이 부족한 한국기업들이 인공지능 칩 없이도 LLM 모델을 연구할수 있는 "창의적인 연구"를 하는동안, 미국 빅테크 기업에서는 쏟아부은 자본을 이용해서 더더욱 창의적이고 더더욱 심오한 연구결과를 내놓을겁니다.
2024.11.14
자본이 뒷받침 되지 않는 한 천재 개인의 노력으로는 한계가 명확하죠 시작부터가 다른 게임입니다
2024.11.14
돈을 쓸데없는데다가 뿌리니깐 문제죠...
2024.11.15
돈돈 거리는 연구자 치고 수준갖춘 사람 한명도 없음. 지금도 정부가 퍼주는데 좀비 학자들 넘쳐남 ㅋㅋ. 그거 복지처럼 물리지도 못함. 앞으로도 이렇게 쭉갈듯 . 진또배기는 미국가있고 , 한국에 남은 좀비학자는 돈돈 돈달라고! 돈없으니 연구못한다 합리화만 할테고
대댓글 1개
2024.11.18
222 "내가 못나서" 라고 하는 사람 한명도 못봄 역시나 또 "돈이 없어서" ㅋㅋㅋ
2024.11.15
아무리 그래도 자본이 전부는 아님 돈만 있다고 잘하는것도 아니고 돈을 어떻게 쓰냐가 더 중요함
2024.11.15
맞는 말입니다
2024.11.15
자본이 없어서 못하는 게 아니라 실력이 없어서 못하는 겁니다
대댓글 2개
2024.11.17
자연과학으로 치면
AI를 이용한 수익창출=수학, 물리학 논문 집필
AI모델=수학, 물리학 논문을 쓰기위한 지식습득을 위한 선형대수, 현대물리 전공서적
이렇게 생각하시면 됩니다. 머리가 아무리 좋아도 지식습득을 위한 교재가 없으면 할수 있는게 없죠. 그런데 AI연구를 위한 LLM모델을 구축하려면 한장에 6천만원씩 하는 인공지능 칩을 아무리 적게 잡아도 5만장은 가지고 있어야 됩니다. 한화로 3~4조원은 되죠. 어중간한 중견기업규모에서도 불가능하고 최소 삼성전자급은 되는 규모의 기업에서만 모델을 구축하고 연구하는게 가능합니다. 이 정도의 자금을 때려박아서 인공지능 모델을 구축할수 있는 기업은 한국에 없어요.
그리고 수학, 물리학같은 자연과학에서는 서로 저널에서 연구를 공개적으로 발표하고 인용하는것이 보통이지만, AI연구는 보통 기업들이 진행하다보니 연구자료 대다수가 극비자료로 부쳐져 있는것도 AI연구의 어려움을 증가시키는 이유고요. 자연과학하고는 다르게 인공지능은 공개적으로 풀려있는 정보가 생각보다 별로 없어요. 그래서 자본을 때려박아서 직접 모델을 구축해서 연구해야되는거고요. 천재 한두명이 엄청난 진보를 이끌어 낼수있는 자연과학하고는 상황이 매우매우 다릅니다.
2024.11.18
중얼중얼
2024.11.15
어느 선을 넘어가기 시작하면 좋은 GPU가 좋은 성능을 가져다 주는게 맞는데
2024.11.16
솔직히 ai는 미국 중국 2파전임 그 외 국가는 뭐 한다만다하는데 의미가 싶을까 싶을정도로 격차가 압도적임
2024.11.16
돈돈 안중요하다는 여기 댓글들은 AI 1도 모르는듯 ㅋㅋㅋ 빅테크는 H100 10만대 하는데 네이버는 1000장 확보했다고 광고하고있음. 게임이 되겠음?
대댓글 4개
2024.11.16
대기업이 하는걸 지들이 할려는게 웃긴거지 . 대기업이 못하는걸 연구할려면 얼마든지 할 수있음. 미국에서 스타트업이 왜 있고 왜 성장하겠냐 ㅋㅋㅋ 그냥 돈돈거리면서 각종 학회에서 다 연구끝낸거 받아먹기 하니까 돈돈거리는거지 ㅋㅋ 걍 한국수준이 그정도인거다
2024.11.17
건강한 라이프니츠// 그 스타트업들도 구글이나 오픈AI에서 기술 가지고 퇴사한 직원들이 수천만달러 단위로 투자받고 만든거지 맨땅에 헤딩해서 만든 기업들이 아님. 그리고 학회를 너무 과대평가 하시는것 같은데, 현대 인공지능 산업은 대학이 아니라 기업에서 선도하고 있음. 대학연구소에서는 수조원 단위의 자본을 모델 구축에만 때려박을 여력이 없기 때문임.
2024.11.18
학회를 과대평가하는게 아닌데요 . 한국 학계가 그 학회수준만도 못하다는걸 말하고 있는거에요
2024.11.18
다 오픈된 대기업 기술문서로 연구하니까 대기업 급 장비가 필요한거죠 . 그 분야 외에는 연구를 못하는게 이해가 안됨
2024.11.17
자본이 우선인 분야가 되어버렸죠
2024.11.17
모든 분야가 그런듯 카이스트 대학원 다니고 있는데 교수님 포함 모든 랩 구성원이 미국 대학들 쓰는 장비는 진짜 다 비싼거 인정함
본인 혼자 3천만원정도의 장비 셋을 사용하고 있는데 같은 실험인데도 미국은 2억~3억정도 사용 중..ㅠㅠ
2024.11.17
사실 몇몇 수순수학 이론물리 빼고는 자연과학 공학은 자본이 전부에요, 돈이 있어야 뭘 하니까요...
2024.11.13
대댓글 2개
2024.11.13
2024.11.13
2024.11.13
대댓글 1개
2024.11.13
2024.11.14
2024.11.14
2024.11.14
대댓글 2개
2024.11.14
2024.11.17
2024.11.14
2024.11.14
2024.11.15
대댓글 1개
2024.11.18
2024.11.15
2024.11.15
2024.11.15
대댓글 2개
2024.11.17
2024.11.18
2024.11.15
2024.11.16
2024.11.16
대댓글 4개
2024.11.16
2024.11.17
2024.11.18
2024.11.18
2024.11.17
2024.11.17
2024.11.17
2024.11.18
2024.11.19
2024.11.19