• List
  • Down
  • Up
  • Write
  • Search
IT

DEEPSEEK 경량화 모델도 나왔는데 이게 고무적인게...

DECALPHA DECALPHA
173 10 5

https://youtu.be/jaawJlie1q4?si=78xjw0qTjT8ZbmCB 

 

 

오픈 소스다보니 현 딥시크 모델을 더 경량화 시킨 모델도 사람들이 연구해서 올리고 있단 말이죠. 지금까지 LLM자체가 빅테크들만 할 수 있는 영역이었는데.. 메모리만 충분하면 GPU 없이도 된다 이야기도 있고.. 그러니깐 웹서비스 업체에서 저런 AI서버 붙여서 챗봇 도우미 같은거 운용할 수도 있단 이야기고요(물론 학습은 시켜야 겠지만..) 

 

이런 기술이 오픈 소스로 풀린다는게 중요하다 생각합니다.  오히려 수 많은 오픈소스들이나 스택 오버프로우 같은 커뮤니티들의 수많은 사람들의 질문과 답들을 결국 잗아가서 수익화와 클로우즈드를 해버리는 빅테크들이 정말 중국보다 나은지 생각이.든단 말이죠..

 

ReportShareScrap
fadong fadong님 포함 10명이 추천

Comment 5

Comment Write
profile image 1등
완벽한 예는 아니지만
제약사는 병을 완벽하게 낮게 하는 약을
원하지 않듯이 소프트웨어 제작사 역시
벌어 먹기 위해 점진적 개선이라는
미명하에 투자를 받아가 개발하기를
원하기에 굳이 개발 여건과 난이도를
들어낼 필요는 없었겠지요.
백년이든 천년이요.
22:29
25.01.29.
profile image 2등
이전 AI도 gpu 없이 가능은 했습니다
대신 더 비효율적으로 시간과 돈이 더 들 뿐이었으니까요
00:21
25.01.30.
3등
이래서 독점보다는 경쟁이 좋다는 말이 증명이 되는..
12:21
25.01.30.
profile image
7B 모델에 AWQ 쓰면 4080 하나로도 돌릴만 하죠. 엄청난 발전인것 같습니다.
12:45
25.01.31.
You do not have permission to access. Login
WYSIWYG

Report

"님의 댓글"

Are you sure you want to report this comment?

Comment Delete

"님의 댓글"

I want to Are you sure you want to delete?

Share

Permalink
Category Subject Author Date Views
📢 영디비와 함께할 크루 모집합니다! 8 영디비 24.11.14.13:08 1.7만 +10
잡담
image
세ㅁ 5시간 전01:41 69 +4
잡담
normal
연월마호 5시간 전01:20 46 +7
음향
image
라이티어 5시간 전01:13 34 +2
잡담
image
eoeoe 6시간 전00:48 47 +9
잡담
image
휘호찬란 6시간 전00:19 35 +4
잡담
normal
쏘핫 7시간 전00:08 57 +4
잡담
image
노린재와이어폼팁 7시간 전00:04 68 +3
음향
image
엘릭스 7시간 전23:48 41 +8
음향
normal
SunRise 7시간 전23:23 105 +13
잡담
image
Gprofile 7시간 전23:20 71 +10
잡담
image
숙지니 7시간 전23:13 35 +6
잡담
image
로제트 8시간 전22:51 83 +11
잡담
image
-답이님 8시간 전22:49 43 +3
잡담
image
벤치프레스좋아함 8시간 전22:37 37 +3
잡담
image
AlpineSnow 8시간 전22:35 48 +10
뉴스
normal
purplemountain 8시간 전22:29 49 +3
잡담
image
마루에marue 10시간 전20:42 214 +11
잡담
image
숙지니 10시간 전20:32 63 +3
음향
image
막귀몬스터 10시간 전20:12 556 +8
잡담
image
Gprofile 11시간 전19:40 82 +5
잡담
normal
-답이님 11시간 전19:35 76 +4
음향
image
-towhgdk 12시간 전18:39 167 +7
잡담
normal
Gprofile 13시간 전17:30 136 +8
잡담
normal
been0000 13시간 전17:12 109 +10
잡담
image
엘릭스 14시간 전16:16 131 +9
잡담
image
휘호찬란 15시간 전15:52 179 +12
잡담
normal
tk56 15시간 전15:32 68 +8
잡담
image
Gprofile 16시간 전15:10 65 +11
잡담
image
COCT 16시간 전15:08 115 +8
잡담
image
휘호찬란 16시간 전14:26 138 +20