반응형

구글에는 제미니 서비스가 있지만 AI Stuido란 서비스도 있습니다. 굳이 얘기하면 서비스라고는 말하기 어렵고, 개발자를 위해서 구글의 멀티모달 생성형 AI 모델 제품군을 빌드해볼 수 있게 만들어본 개발자용 사이트라고 보면 됩니다. 하지만 일반인도 사용하기에 따라 제미니 보다 더 유용하게 사용할 수 있는 면이 있으므로 기본적인 사용법을 알아보고자 합니다. 


AI Studio 제공 기능들
AI Studio 제공 기능들

1. 제공 기능

Create Prompt: 일반 제미니 서비스와 똑같이 채팅을 위한 프롬프트를 생성하는 최초의 화면입니다. 여기서 대화를 시작하시면 됩니다.

Stream Realtime: 멀티모달 기능인 제미니 라이브를 사용해볼 수 있는 공간입니다. 음성, 비디오, 화면공유 기능을 사용 해볼 수 있습니다.

음성, 비디오, 화면공유 기능 사용 가능
음성, 비디오, 화면공유 기능 사용 가능

Starter Apps: 멀티모달 기능인 스타터앱을 사용해볼 수 있는 공간입니다. 공간 이해(객체 탐지), 비디오 분석, 지도 탐색 기능을 사용해볼 수 있습니다. 아마 처음 제미니 멀티모달 기능 나왔을 때 광고를 보셨던 분이면 알 수 있을텐데, 영상을 촬영하면서 라이브로 제미니한테 "이 물건은 뭐야?" 라고 물어보면서 객체를 탐지하는 기능이 해당 기능에 포함되어 있습니다.

객체 탐지 기능들이 주로 포함되어 있다.
객체 탐지 기능들이 주로 포함되어 있다.

Tune a model: 모델 파인튜닝(답변 지침 등 설정)하는 기능

Library: 대화가 저장되는 곳

 

이 글에서는 다른 멀티모달 기능에 대해서는 다루지 않고 Create Prompt의 채팅 기능에 대해서 주로 다룹니다.

2. AI Studio는 무료야? 유료야?

AI Studio의 사용은 무료입니다. 애초에 웹에서 사용가능한 것은 무료로 밖에 제공하지 않습니다. 유료로 사용하려면 API로 불러서 사용하거나, 제미니 어드밴스드를 결제해서 제미니 사이트에서 사용해야합니다. 그럼 유료와 무료의 성능차이는 있어? 라는 질문이 생길 수 있는데요, 같은 모델(예를 들어, 2.0Flash)이라면 성능 차이도 없습니다. 하지만 두 가지 큰 차이점이 있습니다.

채팅에서 사이드바 모델에 마우스를 올리면 상세 정보를 확인할 수 있다.
채팅에서 사이드바 모델에 마우스를 올리면 상세 정보를 확인할 수 있다.

(1) 모델별로 사용 가능한 토큰의 제한: 아래 이미지에서 노란색 부분을 보면 Token count라는 부분이 있습니다. 한 대화당 토큰의 제한이며, Gemini 1.5 pro 모델의 경우 2만 토큰을 사용하면 그 대화를 더 이상 이어나가지 못합니다. 또한, 일당, 시간당 대화가 가능한 수가 제한되어 있습니다. 밑의 Rate limits를 보면 제한을 볼 수 있는데요. 2.0Flash 모델의 경우 하루에 1500번, 분당 사용 횟수가 15회로 제한되어 있습니다.

무료는 대화당 토큰 제한이 있다.
무료는 대화당 토큰 제한이 있다.

 

일/시간당 대화제한
일/시간당 대화제한

(2) 대화한 내역은 재학습에 활용: 무료의 경우 대화한 내역은 구글의 모델 재학습에 활용됩니다. 그러므로 개인 정보와 같은 민감한 정보는 절대 입력하지 마세요.

위와 같은 2개의 단점이 있음에도, AI Studio는 매우매우매우 유용한 도구입니다.

3. AI Studio를 사용하는 이유?

(1) 토큰 제한 넘어갈 일이 거의 없다: 토큰 제한이 있습니다만 저 토큰 제한을 넘어갈 일이 거의 없습니다. 그리고 넘어가면 대화방을 하나 더 만들면 토큰은 초기화 됩니다.왜냐하면 대화방당 토큰이 제한되어 있기 때문입니다.

(2) 새로운 모델의 우선 사용: 제미니에는 새로운 모델이 바로 업로드 되지 않는 경우가 있지만, AI Studio에는 새로운 모델이 바로 업로드 되서 미리 사용해볼 수 있습니다.

(3) 검열 설정 가능(제미니 보다 자유로운 사용): AI Studio를 사용하는 가장 큰 이유가 아닐까 싶습니다. 제미니에서는 불가능한 성적 대화, 폭력적 대화 등이 AI Studio에서는 가능합니다. 물론 수위 제한은 어느 정도 있지만 수치를 조정해서 제미니 보다 훨씬 자유로운 대화가 가능합니다.

어드밴스드 세팅을 통해 검열 설정을 할 수 있다.
어드밴스드 세팅을 통해 검열 설정을 할 수 있다.

4. API키 발급

API키는 좌측 상단의 Get a APIKey를 클릭하면 간편하게 발급받을 수 있습니다.

결제 설정을 하지 않으면 돈이 안 나가니 걱정하지 않아도 된다.
결제 설정을 하지 않으면 돈이 안 나가니 걱정하지 않아도 된다.

기본적으로 API도 똑같이 무료이며, 무료와 유료API의 차이는 위에서 설명한 것과 같습니다. 성능 차이는 없으나, 토큰, 하루 및 분당 사용량 제한이 있으며, API 사용 내역은 모델 재학습에 이용됩니다. 유료의 경우 재학습에 활용하지 않습니다. 워낙 가격이 싸다보니 개인정보가 걱정되신다면 API 호출해서 개발하실 분들은 그냥 유료로 사용하셔도 괜찮을 것 같고, 개발이 아니라 개인 취미 수준이시라면 무료를 사용해도 충분할 것으로 보입니다.

반응형
반응형

GPT의 API를 발급 받고 결제 제한 지정하는 방법에 대해서 알아보겠습니다. 발급 받은 API Key를 이용해서 파인튜닝 하는 코드 및 방법은 아래 링크에서 확인해주세요.

 

[GPT] 파인튜닝(Fine tuning) 하는 방법, 파이썬 코드

GPT를 제대로 활용하기 위해 파인튜닝 하는 과정을 거쳐야하는데요, 오늘은 xlsx, csv 파일을 업로드해서 GPT 파인튜닝 하는 법을 알아보도록 하겠습니다. 하기 전에 API 발급은 필수이므로 API 발급

combee.tistory.com


1. openai 접속

gpt로 접속하는게 아니라 openai 홈페이지로 접속해야 합니다.

https://openai.com/

 

OpenAI

Creating safe AGI that benefits all of humanity

openai.com

오픈AI로
오픈AI로

2. 로그인 후 API로 접속

로그인 후 gpt로 이동하는게 아니라 api로 접속해줘야 합니다.

API 선택
API 선택

3. api key로 이동

좌측 메뉴 api key로 이동해줍니다.

API KEY로 이동
API KEY로 이동

4. create new secret key 클릭 후 생성

CREATE NEW SECRET KEY
CREATE NEW SECRET KEY

아래 처럼 생성화면이 뜨는데 본인이 원하는 이름 입력 후 생성해줍니다.

이름 설정
이름 설정

정상적으로 key가 생성된 것을 확인할 수 있습니다. api key는 다시 확인이 어려우므로, 반드시 복사해서 다른 곳에 저장해두세요.

키는 다른 곳에 저장해두자
키는 다른 곳에 저장해두자

5. 결제 확인 및 등록

GPT API는 무료 트라이얼로 5달러를 줍니다. 추후에는 충전해서 사용해야하는데요. 좌측 메뉴에서 usage를 가보면 확인할 수 있습니다. 아래처럼 5달러가 들어와있는 것을 확인할 수 있습니다.

무료 5달러 지급
무료 5달러 지급

이렇게 해서 무료 트라이얼 5달러만 우선 사용하셔도 됩니다.(개인적으로 공부용으로 사용하기에는 5달러도 충분합니다) 혹시 돈이 너무 많이 나가면 어떻게 하지?라고 걱정하시는 분들이 계실 수 있는데요. 무료 트라이얼 5달러는 다 사용되면 자동으로 멈추기 때문에 걱정 안하셔도 됩니다. 그리고 카드 등록 및 용량을 더 구매하면 리미트 지정, 자동 충전 등을 설정할 수 있기 때문에 걱정하지 않으셔도 됩니다. 저는 5달러 정도 더 넣고, 카드도 등록해보고, 리미트 설정까지 모두 진행해보도록 하겠습니다.

 

좌측 메뉴에서 billing으로 이동 후 add payment details를 클릭해줍니다. 그 다음 indivisual, 카드 등록까지 진행해줍니다.

 

BILLING로 이동
BILLING로 이동

카드 번호는 입력하시면 되고(해외결제 가능한 카드로), name on card는 자기가 알 수 있는 카드 이름 임의로 지정해주세요. address는 한국, 자기 주소 등 입력하시면 됩니다. 따로 검증은 하지 않아서 막 입력해도 되는 것 같아요.

카드 정보 입력
카드 정보 입력

카드 및 주소 정보를 입력하고 나면 초기 결제 금액 관련해서 나타납니다.

1. 초기 충전 금액입니다. 5달러에서 100달러 입력하시면 됩니다.(저는 5달러만 충전해보겠습니다.)

2. 자동충전 여부입니다. 활성화할 시 일정 금액 이하(3번)에 일정 금액을 충전(4번)합니다.

아래의 예시는 "초기 10달러를 충전하고, 5달러 이하로 내려갈시 10달러를 충전한다로 설정되어 있습니다."

얼마를 설정해야할지 잘 모르겠는 분들은 재충전 활성화를 하지 마시고, 초기에는 5달러만 충전하세요. 모델, 토큰 수에 따라 다르지만 개인적으로 사용하기에는 5달러만 하셔도 한참을 충분히 사용하실 수 있습니다. 드는 비용 관련해서는 추후 다른 게시물을 통해 모델, 토큰에 대한 개념과 함께 설명드리도록 하겠습니다.

구매 금액 입력하기
구매 금액 입력

다시 usage 메뉴로 가보면 아래와 같이 확인이 됩니다.

그래프에서 초록색은 내가 사용한 금액, 빨간색은 무료 트라이얼, 회색은 내가 결제했으나 아직 사용하지 않은 금액입니다.

결제 확인
결제 확인

6. 리미트 설정(카드 등록 및 결제하신 분만 이용 가능함. 무료 트라이얼은 X)

좌측 메뉴에서 settings - limits로 이동해준 후 스크롤을 내리면 usage limits가 나타납니다. 항목은 아래와 같습니다.

set a monthly budget: 한 달 사용량 제한

set an email notification threshold: 이메일 알람 설정 -> 얼마 쓰면 이메일 알람 줘

본인 목적에 맞게 설정하시면 됩니다.

리밋트 설정하기
리밋트 설정하기


+) GPT 활용해서 메모하기

 

[옵시디언] 메모에 AI(GPT)를 적용해보자 smart connections

저는 옵시디언을 이용해서 주로 메모 및 정리를 하는데요. 옵시디언에 smart connections라는 플러그인이 있어서 한 번 사용해보고, 사용방법도 정리해보도록 하겠습니다. 1. 설치 방법 커뮤니티 플

combee.tistory.com

+) GPT 파인튜닝 하는 방법 및 코드

 

[GPT] 파인튜닝(Fine tuning) 하는 방법, 파이썬 코드

GPT를 제대로 활용하기 위해 파인튜닝 하는 과정을 거쳐야하는데요, 오늘은 xlsx, csv 파일을 업로드해서 GPT 파인튜닝 하는 법을 알아보도록 하겠습니다. 하기 전에 API 발급은 필수이므로 API 발급

combee.tistory.com

+) GPT 파인튜닝 적용하기

 

[GPT] 파인튜닝 모델로 엑셀 결과물 생성하기

이전 글에 GPT 파인 튜닝 하는 방법을 작성했었습니다. 이번에는 파인 튜닝한 모델을 불러와서 데이터에 적용하고, 엑셀 결과물을 만들어내는 방법을 알아보겠습니다. [GPT] 파인튜닝(Fine tuning) 하

combee.tistory.com

 

반응형

+ Recent posts