Meta에서 내놓은 무료 대화형 인공지능 Llama
저는 평소에 업무용으로 ChatGPT를 많이 사용하는 편입니다.
저는 자주 코딩은 하지는 않지만 종종 코딩작업을 하는데 여기에 챗지피티를 많이 활용하는 편입니다.
지금은 ChatGPT-o가 생겨서 비교적 끊김 없이 잘 사용을 하고 있지만 이전에 ChatGPT4는 어느 정도 사용하면 유료인데도 불구하고 더 이상이 사용이 불가능해서 작업에 애로사항이 많았습니다.
그리고 종종 인터넷이 먹통이 되거나, 챗지피가 과부하로 사용 불가능한 상태가 되는 상황도 있어서 이를 대체할만한 대화형 인공지능을 찾고 있었습니다. 그것이 Meta에서 내놓은 Llama입니다.
Llama 3.1 소개
Meta에서 내놓은 Llama는 이전에 3.0 버전까지만 해도 한글로 대화하고 싶은데 자꾸 영어로 대화를 하여 챗지피티보다 사용에 불편함이 있었습니다.
이번에 라마 3.1이 새로 나오면서 한글도 아주 잘 인식하고 있습니다.
또한, 인터넷이 안되는 상황에서도 어느정도 기본적인 지능을 가지고 있기 때문에 간단한 코딩이나 대화가 오프라인상에서 가능합니다.
Llama 설치를 위한 LM Studio 설치
인공지능 라마를 이용하는데는 여러가지 방법이 있는데, 그중에서 가장 설치가 쉽고 사용이 쉬운것이 LM Studio입니다.
https://lmstudio.ai 사이트에 들어가셔서 다운로드하시면 됩니다.
다운로드 하고 바로 실행하면 LM Studio가 열립니다.
LM Studio를 열면 바로 Meta AI 라마를 다운로드하는 게 나옵니다.
파란색 Download 버튼을 눌러 바로 다운로드하시면 됩니다.
이제 왼쪽에 대화상자를 누르면 챗지피티처럼 대화할수 있는 상태가 되는데
맨 위에 Select a model to load를 눌러서 Meta Lla 3.1 Instrust를 눌러서 활성화하시면 됩니다.
이제 챗지피티처럼 대화를 하시면 됩니다.
아래 영상을 참고하시면 설치와 사용과정을 보실 수 있습니다.
Llama 3.1 사용후기
개인적으로 라마가 많은 발전을 했다고 생각합니다만, 그래도 아직까지는 제가 ChatGPT를 많이 써서 그런지 코딩을 하면서 비교해 봤는데 아직은 ChatGPT가 좀 더 잘 알아듣는다는 생각이 듭니다.
하지만, 코파일럿이나 클로드 등 다른 대화형 인공지능에 비해서 사용이 간편하고 무료이며, 로그인 없이 내 컴퓨터에 내장되어 사용하기 때문에 좋은 선택지가 될 거라 생각됩니다.