기본 콘텐츠로 건너뛰기

제미나이 새 API, 켜는 순간 대화가 서버에 남는다

Gemini API로 서비스를 운영하는 개발자는 권장이라는 말만 보면 코드부터 옮긴다.

엔드포인트 이름이 바뀐 줄 알았다가, 옮기고 나서 다른 조건을 만난다.

권장 API로 전환하면 요청과 대화 데이터는 실제 어떻게 보관되는가.

GA에 도달했다는 사실부터

Google이 Interactions API를 일반 공개로 전환했다.

공개 베타를 거쳐 GA 버전은 안정된 스키마를 갖췄다.

Managed Agents와 background execution이 추가됐다.

Gemini Omni 지원은 개발 중이다.

Google은 제미나이 API를 신규 프로젝트의 기본으로 권장한다.

generateContent는 여전히 완전히 지원된다.

당분간 신규 주력 모델을 계속 받는다고 Google은 말한다.

기존 API가 곧 종료된다는 발표는 없다.

저장은 기본값이다

제품 문서는 Interaction을 시간순 실행 단계를 담은 저장된 세션 기록으로 정의한다.

제미나이 API는 store=true를 기본값으로 요청을 저장한다.

이후 요청은 previous_interaction_id로 이전 대화를 이어간다.

유료 티어 프로젝트는 보존기간을 선택할 수 있다.

저장된 interaction은 나중에 삭제할 수 있다.

파라미터는 매번 다시 지정한다

tools, system_instruction, generation_config는 interaction 단위로 스코프된다.

thinking_level과 temperature도 마찬가지다.

새 interaction을 만들 때마다 이 값을 다시 지정해야 한다.

이전 요청에서 넘긴 설정이 자동으로 이어지지 않는다.

마이그레이션 가이드는 generateContent의 직접 응답과 Interaction의 steps 타임라인을 구분한다.

output_text는 단순한 응답을 받을 때 쓴다.

복잡하거나 interleaved multimodal 응답은 steps를 직접 순회해야 한다.

백그라운드로 돌리면 기다려야 한다

background=true로 요청하면 interaction ID가 즉시 돌아온다.

이는 제미나이 API 백그라운드 실행 문서에 나와 있다.

클라이언트는 상태를 폴링해야 한다.

진행을 스트리밍하거나 끊긴 스트림에 재연결할 수도 있다.

종료 상태는 completed, failed, cancelled로 나뉜다.

in_progress 상태인 interaction에는 후속 interaction을 체이닝할 없다.

completed가 될 때까지 기다려야 한다.

권장이 실제로 요구하는 것

제미나이 Interactions API에서 기본 저장과 store=false 선택이 이어쓰기·백그라운드 실행에 미치는 관계도

store=false는 저장을 옵트아웃한다.

동시에 background execution과 양립하지 않는다.

이후 previous_interaction_id 사용도 막힌다.

저장을 켜 두면 대화가 서버에 쌓인다.

저장을 끄면 백그라운드 실행과 이어쓰기가 함께 꺼진다.

두 조건이 묶여 있다.

이 부분이 권장이라는 단어가 감추고 있는 계약이다.

권장 API로 가면 더 쉬워질 것이라는 기대는 지켜야 할 조건이 늘어나는 쪽으로 뒤집힌다.

파라미터가 interaction 단위로 스코프된다는 사실도 같은 방향을 가리킨다.

기존 멀티턴 호출 코드가 그대로 옮겨지지 않는다.

호출부마다 재지정 로직을 더해야 한다는 뜻이다.

generateContent가 당분간 계속 지원된다는 표현도 완전한 동등 유지는 아니다.

이관 시점이 아직 정해지지 않은 유예 기간에 가깝다.

옮기기 전에 확인할 순서

먼저 지금 쓰는 프로젝트의 store 기본값을 확인한다.

기본값을 그대로 두면 대화가 쌓인다는 전제부터 세운다.

유료 티어라면 보존기간을 정한다.

그다음 tools와 system_instruction을 다시 지정해야 하는 호출부가 몇 군데인지 센다.

generation_config, thinking_level, temperature도 확인한다.

background execution을 쓸 계획이라면 in_progress 상태에서 체이닝이 막힌다는 조건을 코드에 반영한다.

GA 발표, 제품 문서, 마이그레이션·백그라운드 가이드를 순서대로 확인하면 이 조건이 전부 나온다.

확정된 것과 남는 것

제미나이 API의 GA 도달과 store=true 기본값은 문서에 명시돼 있다.

store=false의 비양립 조건도 마찬가지다.

제미나이 API 이관은 엔드포인트를 바꾸는 것과 다르다.

저장과 보존과 기능 가운데 무엇을 선택할지 정하는 일에 가깝다.

Google은 장기 실행 모델과 에이전트의 최신 기능이 점점 더 Interactions API에만 실릴 것으로 예상한다.

이건 아직 구글의 예측 진술이다.

비용과 지연이 store=true와 store=false 경로에서 얼마나 차이 나는지는 문서에 없다.

store=false 상태에서 background execution을 호출했을 때 실제 에러 메시지도 마찬가지다.

보존기간 선택이 요금제 비용에 미치는 차이는 공개되지 않았다.

실제 이관에 드는 코드 변경량도 문서가 값을 주지 않는다.

이 넷은 각자 써보고 측정해야 아는 영역으로 남는다.

댓글

이 블로그의 인기 게시물

AI 데이터센터 전기요금은 계약서에서 갈린다 — 조지아파워가 스스로 공개한 4가지 장치

우편함에서 전기요금 고지서를 꺼낸다. 봉투를 뜯고 지난달 사용량 옆에 붙은 청구액을 확인한다. 매일 쓰는 ChatGPT와 한 달에 한 번 보는 전기요금 고지서가 같은 기사 안에 묶인다. 몇 주 전부터 AI 데이터센터 전기요금이 오른다는 기사를 몇 번 봤다. 그 기사가 사실인지 겁주기인지 판단할 방법은 없었다. 오픈AI가 조지아주 에핑엄 카운티에서 데이터센터 프로젝트를 발표했다. 전력은 조지아파워가 공급한다. 예상 전력 수요는 약 3,200MW다. 오픈AI는 이 중 최대 1,000MW를 유연 수요반응으로 제공하기로 했다. 전력이 몰리는 시간대에 자기 사용량을 그만큼 줄이겠다는 약정이다. 계약 기간은 25년이다. 조지아 공공서비스위원회(PSC)는 관련 규칙을 2025년 1월에 처음 승인했다. 조지아파워는 2029년부터 일반 가정 요금을 연 102달러 낮출 계획이라고 말한다. 발표문이 스스로 공개한 것들 조지아파워의 보도자료는 이 계약을 "고객 보호"라는 말로 여러 번 설명한다. 비용 부담을 오픈AI가 진다. 회사는 오픈AI가 인프라와 전력 서비스 비용 전액을 부담한다고 말한다. 재무 보증도 계약에 들어간다. 회사는 조지아파워 고객을 보호하도록 설계된 "financial assurances"가 포함된다고 말한다. 구체적인 형태나 금액은 보도자료에 나오지 않는다. 수요반응 약정도 있다. 오픈AI는 전력 수요가 높은 시간대에 최대 1,000MW까지 사용량을 줄이기로 동의했다. 회사는 이 규모가 미국에서 단일 시설 기준으로 가장 큰 수요반응 약정 중 하나라고 말한다. 공급 조정권은 조지아파워가 갖는다. 25년 계약 아래에서 조지아파워는 특정 시간대에 오픈AI 시설로 가는 전력을 줄일 권한을 갖는다. 전력망 안정을 위해서라고 회사는 설명한다. 이 네 장치, 위험은 어디로 가는가 AI 데이터센터 전기요금이 오르내리는 방향은 이 네 장치가 정한다. 비용 전액 부담은 위험을 오픈AI 쪽에 ...

12B를 이겼다는 3B, 내 8GB 카드에서 켜지지도 않았다

그래픽카드 메모리(VRAM)가 8GB면 12B급은 사실상 포기하게 된다. 내 RTX 3070에서 12B를 돌려 봤더니 GPU에 다 올라가지 못했다. 초당 14.7 토큰. 7B의 5분의 1이었다. 그런데 7월 21일에 나온 3B 하나가 그 12B를 이겼다고 한다. 만든 곳이 공개한 표에서 Nanbeige4.2-3B는 에이전트와 추론 항목 대부분에서 Gemma4-12B와 Qwen3.5-9B보다 점수가 높다. 파일은 2.7GB다. 8GB에 넉넉히 들어간다. 이게 사실이면 8GB에서 포기했던 급이 돌아온다는 뜻이다. 그래서 받았다. 안 켜졌다. 파일이 깨진 것도 아니고 메모리가 모자란 것도 아니었다. 📌 무엇이 나왔나 7월 21일에 Nanbeige4.2-3B가 공개됐다. 좋아요 652개에 3만 4천 회 넘게 받아 갔다. 구조가 특이하다. Looped Transformer라고 해서 트랜스포머 층을 다시 돌려 쓴다. 파라미터를 늘리지 않고 용량만 키우는 방식이다. 기술 보고서도 arXiv에 같이 올라왔다. 출처: https://huggingface.co/Nanbeige/Nanbeige4.2-3B 📦 GGUF는 이미 넘쳐났다 공개 당일에 GGUF 파일이 올라왔다. GGUF는 개인 PC에서 돌릴 수 있게 모델을 압축해 담은 파일 형식이다. 로컬에서 쓰려면 이게 있어야 한다. 만든 곳이 올린 게 아니었다. 다른 사람들이 직접 변환해서 올린 사본이다. 이런 걸 미러라고 부른다. 저장소 올라온 날 받아 간 횟수 owao 7월 21일 58,814 Abiray 7월 22일 11,652 bartowski 7월 28일 7,884 세 곳을 합치면 78,350회다. 허깅페이스 API로 직접 조회한 값이다. ⚠️ 받아서 실행했더니 내 PC는 윈도우 11에 RTX 3070, VRAM 8GB다. ollama는 0.32.5를 쓴다. 받는 건 문제없이 끝났다. 2.7GB짜리가 정상적으로 내려왔다. 그리고 실행에서 멈췄다. error loading...

모두의 AI는 한국형 모델을 공짜로 푸는 사업인가

‘전 국민 무료 국산 AI’라는 문장을 보면, 앱부터 찾게 된다. 공고는 이미 나왔다.[1] 서비스 출시는 앞으로 추진된다.[3] 공식 문서가 보여 주는 현재 단계는 앱 배포가 아니다. 서비스를 만들 사업자를 뽑고, 출시를 추진하는 단계다.[1][3] 이 차이가 중요해 보인다. 지금까지 확인된 일 정보통신산업진흥원(NIPA)은 2026년 7월 13일 전 국민 AI 서비스 보편적 활용 지원(모두의 AI) 사업 을 공고했다.[1] 신청 마감은 수정 공고로 8월 18일 17시까지 연장됐다.[2] 개인정보보호 관련 제재조치 사항도 함께 수정됐다.[2] 과기정통부는 민간 기업 2~3개를 선정해 범용 AI 챗봇과 공공 AI 에이전트 출시를 추진한다고 밝혔다.[3] 정부는 연내 한국 AI 모델 기반 범용 챗봇의 출시 목표를 제시했다.[4] 이용 조건은 비용 부담과 이용량 제한이 없다는 방향이다.[4] 이름 하나에 모델과 서비스를 섞지 않기 공식 사업명은 전 국민 AI 서비스 보편적 활용 지원(모두의 AI) 사업 이다.[1] 우리 AI 모델 은 서비스의 기반을 가리킨다.[4] 범용 AI 챗봇 과 공공 AI 에이전트 는 국민이 접하게 될 서비스 형태다.[3][4] 공공 AI 에이전트는 청년지원금 같은 정부 지원 혜택을 안내하고 신청까지 대행하겠다고 밝힌 서비스를 가리킨다.[4] 이름이 가리키는 대상은 선정 사업자가 모델을 활용해 만들 서비스의 개발·출시 사업이다.[1][3] 이미 배포된 단일 모델명으로 읽을 근거는 여기서 찾기 어렵다. 모델 성능 목표와 서비스 출시 목표는 다른 일정이다 과기정통부는 서비스 출시 계획과 함께, 정부가 확보·고도화하려는 국산 기반 모델인 독자 AI 모델의 계획도 따로 밝혔다.[4] 하반기에는 글로벌 10위권 성능 모델 확보를 목표로 했다.[4] 2027년에는 글로벌 최상위급 모델 확보를 목표로 한다.[4] 두 목표는 한 문서 안에서도 별도 일정으로 제시된다.[4] 확인된 것은 사업 공고와 선정·출시...