Meta AI Llama 3 출시와 무료 사용 방법!

2024년 4월 18일 Meta에서 새로운 오픈소스 LLM 모델이며 무료인 Llama 3 버전을 신규로 출시하였습니다. Llama 모델이 기본적으로 OpenAI의 ChatGPT나 Anthropic의 Claude처럼 LLM 모델이지만 우리가 Llama 모델에 주목해야 할 점은 바로 오픈소스라는 점입니다. 거의 모든 사람이 연구 및 상업적 목적으로 무료로 사용하거나 기술적 기반이 있는 개발자 혹은 기업이라면 파인 튜닝을 통해 자신만의 AI 모델로 발전시켜 사용할 수 있다는 의미입니다.

이번 글을 통해 Meta가 출시한 Llama 3에 대해 간단히 알아보고 Hugging Face를 통해 무료로 사용해볼 수 있는 방법을 알아보겠습니다.

Llama 3에 대한 Meta의 공식 글은 여기를 참고해주세요!

1. About Llama 3

(1) 출시 모델

이번 Llama3 모델에서 현재 출시된 버전은 4가지로 Llama 8B 모델에는 80억 개의 매개변수가 있고, Llama 70B 모델에는 700억 개의 매개변수가 있습니다.

출시 모델 : Llama 8B, Llama 8B Instruct, Llama 70B, Llama 70B Instruct

이번에 출시하는 모델은 텍스트 기반 모델이며 조만간 다양한 언어에 적용되고, 이미지나 영상, 더 긴 텍스트, 추론 및 코딩과 같은 LLM 기능 전반에 걸쳐 전반적인 성능을 향상시킨 모델들을 출시하는 것을 목표로 한다고 합니다.

(2) 성능 지표

Llama 3 Evaluation Details — 출처 : https://ai.meta.com/blog/meta-llama-3/

새롭게 AI 모델이 출시될 때마다 앞선 모델들보다 좋은 지표 성능을 보여 줍니다. 실제로 Llama 3 버전도 제미나이나 클로드3에 비해 앞선 성능을 여러가지 지표에서 보여주고 있다고 합니다. (세부 지표 확인)

특히 모델이 주는 응답의 다양성이나 거짓 거부율(false refusal rates) 개선, 추론, 코드 생성 등에서도 높은 점수를 보이고 있습니다.

또한 이러한 향상을 위해 Llama 3는 공개적으로 사용 가능한 소스에서 수십된 15T개 이상의 토큰을 사용하여 사전 훈련되었고, 기존 버전에 비해 7배 더 크고 4배 더 많은 코드를 포함한다고 합니다. 한 가지 아쉽게 밝힌 점은 사전 학습 데이터 세트의 5% 이상이 30개 이상의 언어를 포괄하는 비영어 데이터이지만 여전히 영어와 동일한 수준의 성능은 아니라고 합니다.

(3) Next Llama 3

Llama 3에서 제공하는 가장 큰 모델은 400B, 4000억 개가 넘는 매개변수를 가졌다고 합니다. 현재는 훈련 중이지만 향후 다중 모드(이미지, 영상 등), 다중 언어 등 더 폭넓고 향상된 성능을 기대한다고 합니다.

2. Llama 3 사용 방법

(1) Hugging Face 가입 및 준비

Hugging Face는 다양한 오픈 소스 LLM 모델을 공유하고 활용 가능한 최대 AI 플랫폼으로 가입만으로도 Llama 3 모델 활용을 위한 넉넉한 무료 등급들을 제공하므로 테스트 해보기에 충분합니다. 이를 위해 상단의 영상처럼 API Token이 필요합니다.(사전 회원가입 필수)

Hugging Face 바로가기

(2) Inference API 키 발급을 통해 활용

키 발급이 되었다면 여기로 접속하면 허깅페이스 Llama 3 8B 모델로 들어가게 됩니다. 그 외에 모델들도 확인할 수 있습니다. 참고로 해당 페이지 하단에 모델 사용 승인을 위해 제출해야 할 사항들이 있으니 확인해서 Submit 하고 나면 금방 메일로 승인 메일을 받을 수 있습니다.(10분 내외로 메일 받았음)

여기까지 되었다면 상단의 이미지처럼 Inference API를 클릭하여 코드를 확인하고 발급받은 API 키를 넣어서 사용하면 됩니다. 참고로 상단은 파이썬 방식입니다.

(3) 가장 간단한 방법 GPT4All 프로그램 이용하기

GPT4All 프로그램은 여러가지 AI 모델을 다운 받아 사용하고 로컬에서도 사용 가능하도록 만들어진 프로그랩 입니다. 상세한 사용 방법은 아래 글을 참고해주세요.

Llama3를 내 PC에서 무료로 사용하는 방법 (GPT4All & RAG)

3. 정리하며

거의 매주마다 글로벌 Big Tech 기업들이 새로운 AI 모델을 출시하고 있는 것처럼 느껴집니다. 그만큼 빠른 변화가 있고 세상 모두가 집중하는 영역이라고 느껴집니다. 테크뷰에서는 이러한 다양한 모델들과 제품들을 확인하기 쉽도록 생성형AI를 카테고리별로 분류하여 제공하고 있으니 확인해보시길 추천드립니다!

4. AI 챗봇 솔루션 비교, 분석 리포트

여러 AI 솔루션 중 가장 많이 사용되는 도구가 챗봇일 것 입니다. 테크뷰에서는 다양한 AI 챗봇 솔루션 중에 최적의 제품을 선택할 수 있도록 지원해드리고 있습니다. 이를 위해 ChatGPT, Claude와 같은 LLM부터 검색 기반의 Perplexity, 또는 회사 기업 정보를 학습 시킨 커스텀 챗봇까지 다양한 AI 챗봇 비교 리포트를 송부드립니다. 비교/추천 리포트가 필요하신 기업 담당자 분들은 위에 이미지를 클릭하여 설문을 작성해주시면 됩니다.

본 서비스에는 아래와 같은 사항이 포함되어 있습니다.

기업과 팀의 니즈에 맞춘 AI 챗봇 추천
필요한 기능 보유 여부를 확인한 비교표 정리
도입 시 전담 컨설턴트와 본사 기술 지원

reviewinsight100

리뷰인사이트는 SaaS 플랫폼 ‘테크뷰’를 통해 B2B 소프트웨어 선택을 더 쉽게 만듭니다. “테크뷰를 만나면 선택이 쉬워진다”는 믿음으로, 신뢰할 수 있는 콘텐츠와 리뷰를 전달합니다. SaaS 산업과 함께 성장하고 싶은 여러분을 환영하며, 유익한 정보로 꾸준히 찾아뵙겠습니다.
지금 구독하고 최신 SaaS 인사이트를 가장 먼저 받아보세요!