AI가 일상 속으로 빠르게 들어오고 있지만, 대부분의 AI 서비스는 인터넷에 연결된 상태에서만 사용할 수 있습니다. 클라우드 서버에 데이터를 보내고, 응답을 받아오는 구조이기 때문입니다.
그런데 만약 인터넷 없이도, 내 스마트폰 안에서 직접 동작하는 AI가 있다면 어떨까요?
이번 글에서는 구글이 공개한 경량 AI 모델 ‘Gemma 4’를 아이폰에 직접 설치하고 사용해 본 경험을 공유합니다. AI에 익숙하지 않은 분들도 쉽게 따라오실 수 있도록 정리했으니, 끝까지 읽어보시기 바랍니다.
1. Gemma 4란? – 스마트폰에서 동작하는 구글의 경량 AI 모델
우리가 흔히 사용하는 ChatGPT, Claude 같은 AI 서비스는 대규모 서버(클라우드)에 접속하여 동작합니다. 질문을 보내면 서버가 처리한 뒤 답변을 돌려주는 방식입니다.
Gemma 4는 이와 근본적으로 다릅니다.
구글이 자사의 최신 AI 기술을 기반으로 개발한 경량 AI 모델로, 스마트폰이나 태블릿 같은 모바일 기기에서 직접 실행됩니다. 이른바 ‘온디바이스(On-device) AI’입니다.
이번에 제가 설치한 모델은 ‘Gemma-4-E2B-it’입니다. 텍스트와 이미지를 모두 처리할 수 있는 멀티모달 모델이면서, 아이폰과 같은 모바일 기기에서도 원활하게 동작하도록 최적화되어 있습니다.
온디바이스 AI의 핵심 장점: 데이터가 기기 밖으로 나가지 않기 때문에 개인정보 보호 측면에서 매우 유리합니다.
2. ‘AI 모델’과 ‘실행 앱’의 차이 – 꼭 알아야 할 기본 개념
Gemma 4를 설치한다고 하면, “그런데 왜 별도의 앱을 설치해야 하지?”라는 의문이 생길 수 있습니다. 이 부분을 짚고 넘어가겠습니다.
| 구분 | 역할 | 비유 |
|---|---|---|
| Gemma 4 | AI 모델 (두뇌 역할) | 자동차의 엔진 |
| Edge Gallery | 모델을 실행하는 앱 | 엔진을 장착한 자동차 본체 |
엔진(AI 모델)만으로는 동작할 수 없습니다. 이를 구동시켜 줄 실행 환경(앱)이 필요합니다.
- 아이폰: 구글이 만든 공식 앱 ‘AI Edge Gallery’를 사용합니다.
- PC/Mac: ‘Ollama(올라마)’ 같은 프로그램으로 동일한 모델을 실행할 수 있습니다.
개념을 정리했으니, 이제 실제 설치 과정을 살펴보겠습니다.
3. 아이폰에 Gemma 4 설치하기 – 단계별 가이드
Step 1. AI Edge Gallery 앱 설치
▲ 아이폰 앱스토어에서 ‘AI Edge Gallery’를 검색하여 설치합니다. 구글에서 공식 배포하는 앱이므로 안심하고 다운로드할 수 있습니다.
Step 2. Gemma-4-E2B-it 모델 다운로드
▲ 앱을 실행한 뒤 ‘Model Manager’에서 Gemma-4-E2B-it 모델을 선택하고 다운로드합니다. 모델 용량은 생각보다 크지 않아 와이파이 환경에서 수 분 내로 완료됩니다.
Step 3. 모델 로딩 및 실행 준비
▲ 다운로드가 완료되면 모델을 로딩합니다. 화면에 ‘On-device LLM’이라는 표시가 나타나면, 아이폰 내부에서 AI가 동작할 준비가 된 것입니다.
4. 실사용 후기 – 3가지 핵심 기능 체험
① 오프라인 동작 – 인터넷 없이도 AI가 응답합니다
가장 먼저 확인하고 싶었던 부분은 오프라인 환경에서의 동작 여부였습니다. 와이파이와 모바일 데이터를 모두 끈 상태에서 질문을 입력해 보았습니다.
결과는 놀라웠습니다. 인터넷 연결 없이도 자연스럽게 답변이 출력되었고, 응답 속도 역시 체감상 상당히 빨랐습니다.
▲ 비행기 모드에서 질문을 던져 본 결과, 아이폰 내부의 AI 엔진이 직접 처리하여 답변을 생성합니다. 응답 속도도 예상보다 빠릅니다.
이 기능이 특히 유용한 상황은 다음과 같습니다.
- 개인정보가 민감한 질문: 데이터가 외부 서버로 전송되지 않으므로 보안이 중요한 내용도 안심하고 질문할 수 있습니다.
- 인터넷이 불안정한 환경: 지하철, 비행기, 해외 로밍이 안 되는 상황에서도 AI를 활용할 수 있습니다.
② Ask Image – 사진을 찍으면 AI가 설명해 줍니다
Gemma 4는 텍스트뿐 아니라 이미지도 인식하고 분석할 수 있습니다. 앱 내 ‘Ask Image’ 기능을 활용하면, 사진을 찍거나 갤러리에서 이미지를 선택한 뒤 “이게 뭐야?”라고 질문할 수 있습니다.
▲ Ask Image 기능으로 이미지를 분석한 결과. AI가 사진의 내용을 인식하고 설명을 제공합니다. 이 기능 역시 오프라인에서 동작합니다.
해외여행 시 특히 유용합니다. 현지 메뉴판, 안내 표지판, 약품 라벨 등을 촬영하면 AI가 내용을 분석해 줍니다. 데이터 로밍 없이도 사용 가능하다는 점이 큰 메리트입니다.
③ Mobile Actions – 음성으로 아이폰을 제어합니다
개인적으로 가장 기대했던 기능은 ‘Mobile Actions’입니다. 음성 명령으로 아이폰의 기본 기능을 직접 제어할 수 있습니다.
현재 지원되는 명령의 예시는 다음과 같습니다.
- “Turn on the flashlight” (손전등 켜기)
- “Send an email” (이메일 보내기)
- “Add an event to the calendar” (캘린더 일정 추가)
- “Open Maps” (지도 앱 열기)
다만, 현재 이 기능은 영어로만 동작합니다. 한국어 음성 명령은 아직 지원되지 않으며, 실행 가능한 명령의 종류도 제한적입니다. 향후 업데이트를 통해 한국어 지원과 기능 확장이 이루어지기를 기대합니다.
5. 장단점 정리
| 장점 | 단점 |
|---|---|
| 인터넷 없이 동작 (개인정보 보호 우수) | Mobile Actions가 현재 영어만 지원 |
| 이미지 인식 기능 (해외여행 시 유용) | 실행 가능한 음성 명령이 아직 제한적 |
| 아이폰에서도 체감상 빠른 응답 속도 | |
| 구글 공식 앱으로 안정적 실행 환경 제공 |
6. 총평 – 이런 분께 추천합니다
전반적으로 완성도 높은 온디바이스 AI 경험이었습니다. 특히 다음과 같은 분들에게 추천합니다.
- 개인정보 보호가 중요한 분: 민감한 자료를 외부 서버에 보내지 않고 AI를 활용하고 싶은 경우
- 해외여행을 자주 다니는 분: 데이터 로밍 없이 번역·이미지 인식이 필요한 경우
- 새로운 기술을 먼저 체험하고 싶은 분: 온디바이스 AI의 현재 수준과 가능성을 직접 확인하고 싶은 경우
아직 Mobile Actions의 한국어 미지원이라는 아쉬움은 있지만, 구글이 지속적으로 업데이트하고 있는 만큼 향후 개선이 기대됩니다.
관심이 있으신 분은 앱스토어에서 ‘AI Edge Gallery’를 검색하여 직접 체험해 보시기 바랍니다.
태그: #Gemma4 #온디바이스AI #EdgeGallery #아이폰AI #구글AI #오프라인AI #AskImage #MobileActions #AI사용기 #해외여행AI