소마 프로젝트의 핵심 기능은 음식 사진을 AI에게 보내 어떤 음식인지 판별하는 것이다. 백엔드 팀원이 이미 Gemini API로 이 기능을 구현해둔 상태였다.소마는 지원비가 넉넉해서 비용 걱정이 없었고, 마침 새로 나온 Gemini Flash 모델이 이미지 식별을 아주 잘한다는 소식도 있었다. 팀원은 자연스럽게 Gemini Flash 3.8을 골라 구현을 마쳤다.앱에서 직접 테스트해보면 잘 되는 것 같긴 했다. 그런데 3가지 질문이 자연스럽게 따라왔다.이게 정말 잘 되는 게 맞나? 정확도가 높은건지.... 낮은건지...추론에 8~10초씩 걸리는데, 더 줄일 수는 없나?나중에 지원금 없이도 이 서비스를 유지하려면 api 호출 비용을 더 절약하고 싶은데...당장 떠오른 아이디어, 또 바로 떠오른 그에 대한 ..