라마 2(LLama 2)는 페이스북, 인스타그램 등으로 유명한 SNS 회사인 메타에서 개발한 차세대 오픈소스 대규모 언어 모델입니다. 연구 및 상업적인 용도로 완전 무료로 사용할 수 있는 것이 특징으로 7B, 13B, 70B 매개변수 범위를 지원합니다.
MPT, Falcon 등 다른 오픈소스 언어 모델보다 추론, 코딩 등 숙련도를 필요로 하는 작업 및 지식 테스트를 포함한 많은 외부 벤치마크에서 보다 뛰어난 성능을 자랑합니다. 라마 2는 지금 바로 무료로 사용해 볼 수 있고, 허깅페이스 사이트에서 설치없이 사용하거나 코랩 및 개인 PC에 설치하여 사용해 볼 수 있습니다.
라마2 사용법
라마2를 PC에 설치해 사용하기 위해서는 꽤 높은 사양의 그래픽카드가 필요합니다. 또한 별도로 설치해야 하는 프로그램이 많아 일반 사용자에게는 추천하지 않습니다. 대신 허깅페이스 사이트에 접속해 설치없이 사용하는 방법이 있습니다.
Llama2 70B Chatbot 페이지로 이동한 후 챗 GPT와 마찬가지로 채팅 형태로 답변을 주고받을 수 있습니다. 단 영어로 질문해야 하며 Retry를 클릭해 똑같은 질문을 하거나 Undo를 눌로 질문을 취소, Clear를 클릭해 새로운 대화를 시작할 수 있습니다.
또한, 다른 매개변수의 라마2 챗봇을 찾으시는 경우 아래 링크를 참고하세요.
한국어로 사용할 수 있나요?
아쉽게도 라마2는 한국어를 지원하지 않습니다. 한국어로 질문할 시 I’m not sure…(잘 모르겠어)라는 대답과 함께 정상적인 답변이 돌아오지 않습니다. 때문에 반드시 영어로 질문해야 하며 대답 또한 영어로만 돌아옵니다. 대신 파파고나 DeepL과 같인 인공지능 번역 사이트를 사용하면 영어를 못하더다도 대답을 주고받을 수 있습니다.
코랩 및 PC에 라마2 설치하는 방법
- 라마2 모델을 사용하기 위해서는 먼저 사용 승인을 받을 필요가 있습니다. 라마2 공식 홈페이지로 이동한 후 Download the Model을 클릭합니다.
- 이름, 이메일 주소, 국가, 조직/소속(아무거나 입력)을 입력한 후 약관에 동의합니다.(I accept the terms and conditions)를 체크한 후 Accept and Continue를 클릭합니다.
- 이메일에 Get Started with Llama 2라는 메일이 도착하면 메타에서 사용을 승인해준 것으로 다음 단계로 넘어갑니다.
- 허깅페이스 라마 모델 다운로드 페이지로 이동한 후 Log in 버튼을 클릭해 승인받은 이메일 주소와 같은 이메일로 로그인한 후 Submit 버튼을 클릭합니다.
- 1~2일 후 허깅페이스에서도 승인이 완료되면 라마2 모델을 Files 탭에서 다운로드할 수 있습니다.
허깅페이스가 아닌 코랩에 다운로드해 이용해보고 싶은 분들은 아래 빵형의 개발도상국님이 제작한 영상인 메타에서 발표한 Llama 2 콜랩에서 수박 겉핥기를 참고해 설치해보세요. 또한 PC에 설치해 사용하는 방법이 궁금한 분들은 단일 GPU에서 라마2 다운로드하는 방법을 참고해보세요.
