구글이 제미나이와 1.5 버전까지 공개하면서 AI 시장에서 빠른 행보를 보이고 있습니다. 2월 21일(수)에는 오픈 소스 모델인 젬마(Gemma)를 공개하면서 실제 사용 가능하면서도 편리한 방법들을 함께 공개하였습니다. 다음과 같은 주제로 이야기 해보고자 합니다.
- Gemma 모델에 대하여
- 구글에서 제공하는 Gemma 사용도구
1. Gemma 모델에 대하여
1년 정도 전 ChatGPT가 성공하면서 초기 오픈 소스 모델인 LLama도 집중을 받았습니다. LLama가 출시되고 사용되며 다양한 오픈 소스 LLM모델 출시가 이어졌고 활용 사례는 폭발적으로 발생하게 되었습니다. 이러한 홍수 속에서 구글이나 OpenAI는 왜 오픈 소스 모델을 내놓고 있지 않은지 의문을 가지는 이들도 많았는데 구글이 이번에 공개한 것이지요. 오래 준비한 만큼 Gemma는 경량형 모델, 오픈소스 모델 중에 여러가지 측정 지표에서 Llama-2에 비해 우수한 성능을 이뤄냈다고 합니다.
젬마는 제미나이 개발의 핵심 기술과 연구를 기반으로 제작된 최첨단 경량 오픈 모델입니다. 구글에서 공개한 젬마의 특징 중 몇 가지는 다음과 같습니다.(출처: 구글코리아)
- 이번에 공개되는 모델은 젬마 2B와 젬마 7B 두 가지로 제공됩니다. 두 유형 모두 사전 훈련(pre-trained) 및 지시된 조정(instruction-tuned)된 변형과 함께 제공됩니다.
- 네이티브 케라스(Keras) 3.0을 통해 JAX, PyTorch, TensorFlow와 같은 주요 프레임워크에서 추론 및 지도 학습(Supervised fine-tuning, SFT)을 위한 툴체인을 제공합니다.
- 바로 이용해볼 수도 있습니다. 코렙과 캐글 노트북과 함께 허깅 페이스, 맥스텍스트, 엔비디아 네모와 같은 범용적인 툴들과 함께 통합 제공되어 이용자들이 젬마를 쉽게 이용할 수 있습니다.
- 사전 훈련 및 지시조정된 젬마 모델은 노트북, 업무용 컴퓨터 또는 구글 클라우드에서도 이용 가능하며 Vertex AI, 구글 쿠버네티스 엔진을 이용해 쉽게 설치할 수 있습니다.
케글을 통해 조금 더 조사된 바를 첨언하면 영어로만 제공되는 텍스트 대 텍스트 디코더 전용 대형 언어 모델이며 멀티모달 모델은 아니라고 합니다. 이 모델은 케글이나 코렙, 허깅 페이스 등을 통해 다양한 변형 모델이 나올 수 있습니다. 개발과 AI 지식이 있는 분들이면 7B 모델이라면 다양한 용도로 사용해 볼 수 있을 것입니다.
또한 노트북, 업무용 컴퓨터에서 사용 가능하다는 점도 눈의 띕니다. 결국 이 의미는 앱이나 소프트웨어 개발에 적용될 수 있으며 갤럭시 S24에 적용되듯 온디바이스 AI가 특정 영역이 아닌 생활 전반으로 옮겨오는 계기가 될 듯 합니다.
2. 구글에서 제공하는 Gemma 사용도구
구글에서는 이미 젬마를 오픈소스로 공개하며 편하게 사용해 볼 수 있는 툴을 제공했습니다.
(1) 캐글
케글에서 몇 가지 상세한 설명을 통해 젬마에 대한 부가적인 설명을 더 확인할 수 있습니다. 예를 들어 6조개의 토큰에 달하는 텍스트 데이터 세트로 훌련했고, 웹 문서, 코드, 수학 등 다양한 소스의 조합으로 이뤄졌다고 합니다.
캐글에서는 위와 같이 사용 예시들도 제공하고 있는데 직접 개발 영역에 계신 분들은 캐글에 접속해서 전체 내용을 확인해보시면 직접 내 PC에서도 활용 가능해 보입니다.
여러가지 방법으로 활용하겠지만 만약 구글 클라우드를 이용한다면 신규 유저에게는 300달러 혜택도 있으니 이용해보세요!
(2) 코렙
코렙 통해서 간편히 이용해볼 수 있습니다. 코렙은 웹 브라우저에서 Python 코드를 작성하고 실행할 수 있는 구글이 제공하는 서비스로 이 환경은 머신 러닝, 딥 러닝, 데이터 분석 등의 작업을 수행할 때 매우 유용합니다.
코렙의 실행을 위해서는 케글의 유저네임이나 키 등이 필요하며 구체적인 실행은 각자의 전문 역량에….
OpenAI나 구글 제미나이가 제공하는 API가 아닌 경량화된 자체 모델을 구축하기 위해서는 오픈 소스 모델을 연구해보는 것도 좋을것 같습니다. 다만 ChatGPT에서 GPTs 개발을 위한 서비스 수준이 일반인도 누구나 접근할 수 있다면 오픈 소스 모델은 역시 관련 전문 역량을 필요로 하는 분야이긴 합니다.
그렇기 때문에 구글에서 제공한 API나 Vertex AI를 통해 이용 가능한 Gemini 1.0 Pro와 허용 목록을 통해 사용 가능한 Gemini 1.0 Ultra 등에 관심이 더 갑니다. 향후에는 1.5 버전도 이용 가능하게 될 것 입니다. 결국 ChatGPT API와 비교해 보고 개별 기업이 비즈니스에 더 적합한 쪽을 선택하게 되리라 생각됩니다!!
테크뷰 생성형AI 제품 리스트 및 사용자 후기 바로가기
함께보기 좋은글
1. 네이버 AI 클로바X(Clova X) 사용 후기글
2. 구글 제미나이(Gemini) 울트라 출시(ft. 주요 업데이트)
3. 네이버가 제공하는 AI 서비스 모음(하이퍼클로바X)
4. Sora : OpenAI 신규 모델, 텍스트로 비디오 영상 제작
5. 구글 제미나이 1.5 사전 등록 방법 및 Gemini API 사용
6. AI시대 경제적 해자(Moat)에 대해서
7. 영상 제작 AI 모델 Sora(소라) 기술 리포트 요약 정리
8. OpenAI CTO, Sora 관련 WSJ 인터뷰(출시 시점, 모델 등)
댓글 남기기