Gemma Translator es un proyecto de código abierto para la Raspberry Pi 5 que actúa como intérprete multilingüe y se ejecuta íntegramente en local, sin necesidad de acceder a la nube, utilizando Google Gemma 4 y el runtime LiteRT.
Se trata de un proyecto creado por tres ingenieros de Google con la ayuda de Google Antigravity. Incluye el código necesario para ejecutar un traductor/intérprete de voz totalmente offline en el propio dispositivo, basado en Gemma 4 E2B (2,3 mil millones de parámetros efectivos / ~5,1 mil millones de parámetros totales con embeddings por capa) y el runtime LiteRT.
El hardware está formado por los siguientes componentes:
- Una Raspberry Pi 5 con 8 GB de RAM
- Pantalla: monitor HDMI o pantalla táctil, como una pantalla kiosco de 480×320
- Audio
- Micrófono o interfaz de captura de audio USB
- Altavoz o salida para auriculares
- Teclado: el proyecto que se muestra a continuación parece utilizar una PCB personalizada (AX-4LABS-NEW) con un codificador rotatorio y cuatro teclas mecánicas (de las que solo se utilizan dos)
- Piezas opcionales impresas en 3D para la carcasa
Características destacadas del software:
- Inferencia en el dispositivo: utiliza LiteRT-LM (una capa de orquestación construida sobre LiteRT) para ejecutar el modelo gemma4-e2b íntegramente en local. No se necesita conexión a internet tras la configuración inicial.
- Interfaces de audio
- Captura el audio del micrófono, lo procesa y lo envía al modelo local Gemma 4 E2B.
- La conversión de texto a voz se basa en Moonshine, un motor TTS de código abierto y baja latencia diseñado para agentes de IA.
- Interfaz de usuario: estilo retro de terminal, creada a medida para pantallas pequeñas como las táctiles de Raspberry Pi, y utilizada principalmente para seleccionar los dos idiomas.
- Arranque unificado: un único script que pone en marcha el servidor LLM, la API de Python y el frontend de React en la Pi 5.
El código fuente del backend (Python) y del frontend (React), el archivo STL de la carcasa y las instrucciones para empezar están disponibles en GitHub. La PCB del teclado y el codificador no parece que se haya publicado como código abierto, y no he encontrado ninguna PCB equivalente a la venta, pero debería poder usarse cualquier teclado o keypad.
El siguiente vídeo ofrece una visión general del proyecto y una demostración en vivo con interpretación español<->mandarín. No domino ni el español ni el mandarín, así que no puedo valorar la calidad de la salida, pero la latencia es lo bastante baja como para resultar utilizable.
Además del propio proyecto Gemma Translator, los ingenieros de Google han estado trabajando en la optimización del rendimiento de LiteRT en la plataforma Raspberry Pi, y han compartido un artículo en profundidad sobre el estado actual en el blog de Raspberry Pi, además de un artículo complementario que muestra cómo empezar con LiteRT en la Raspberry Pi 5.
Traducido del artículo en inglés «Gemma Translator multilingual interpreter runs locally on Raspberry Pi 5 with the LiteRT runtime» de Jean-Luc Aufranc (CNXSoft).
Publicaciones traducidas automáticamente
