you've got to find what you love. you've got to find what you love.

아래는 Meta Llama 3.1-8B Instruct 모델을 Hugging Face에서 승인받고, 로컬 환경에서 간단히 테스트하는 과정을 정리한 글입니다.이 모델은 약 16GB 정도의 파일 크기를 가지며, 사용하기 위해서는 사전 승인과 토큰 인증이 필요합니다.     1단계 : 저장소 승인받기  Meta에서 공개한 Llama 3.1 계열 모델은 Gated Repo로 설정되어 있어, 접근 권한을 따로 승인받아야 합니다.모델 페이지: meta-llama/Llama-3.1-8B-Instruct해당 페이지로 들어가면, “Request Access” 버튼을 통해 접근 권한을 요청할 수 있습니다.일반적으로 승인까지는 길면 수 시간, 짧으면 10분 안에도 완료될 수 있습니다.   승인여부는 아래에서 확인하면 된다...

Windows에서 VRAM(비디오 메모리) 사양을 확인하는 방법은 여러 가지가 있습니다. 아래 방법들을 참고하세요.DirectX 진단 도구 (dxdiag) 사용:Windows 검색창에 "dxdiag"를 입력하고 실행합니다.“디스플레이” 탭(또는 “Display” 탭)으로 이동하면 "디스플레이 메모리(Approx. Total Memory)" 항목에서 VRAM 용량을 확인할 수 있습니다.작업 관리자(Task Manager) 사용:Ctrl+Shift+Esc 키를 눌러 작업 관리자를 엽니다."성능(Performance)" 탭에서 GPU를 선택하면 오른쪽 하단에 VRAM(예: Dedicated GPU Memory) 정보가 표시됩니다.NVIDIA 제어판 사용 (NVIDIA GPU인 경우):바탕화면에서 오른쪽 클릭 ..

일반인들도 이해하기 쉽게 딥시크을 잘 설명하여 가져왔습니다. 엔비디아의 하락이 일시적이지 않을 수도 있겠네요.      Dropbox의 AI 부사장 Morgan Brown 1/ 먼저 배경부터 설명하겠습니다. 현재 최첨단 AI 모델을 훈련시키는 비용은 엄청나게 비쌉니다. OpenAI, Anthropic 같은 회사들은 계산에만 1억 달러 이상을 쓰며, $4만짜리 GPU 수천 대가 필요한 대규모 데이터 센터를 운영합니다. 마치 공장을 운영하기 위해 발전소 전체가 필요한 상황과 같습니다. 2/ 그런데 DeepSeek이 나타나서 이렇게 말했습니다. “LOL, 우리라면 이걸 500만 달러로 할 수 있을걸?” 그리고 말로만 한 것이 아니라 실제로 해냈습니다. 그들의 모델은 GPT-4와 Claude를 많은 작업에서 능..