Escuché a Dario Amodei y cambié mi forma de usar IA en casa
Foto: Claudio Mota / Pexels (CC0)
Hoy, 15 de septiembre de 2026, a las 09:30 h, estaba en mi escritorio de la oficina de Asunción cuando apareció en vivo el anuncio de Dario Amodei en YouTube. El director de Anthropic dijo que la comunidad debía frenar el ritmo de los modelos grandes y que su propia empresa pausaría cualquier lanzamiento nuevo durante al menos seis meses. En la pantalla de mi portátil se mostró el ticker de OpenAI: las acciones cayeron un 12 % en cuestión de minutos y los precios de los créditos de GPU en AWS subieron un 8 %. Esa sacudida me hizo pensar que seguir dependiendo de la nube era cada vez más riesgoso.
El día anterior, había comprado en TecnoPar un Jetson Nano 2 GB por $149 para experimentar con inferencias locales. Después del anuncio, instalé Llama 2 7B cuantizado con GGML y lo probé con mi asistente de notas. Cada respuesta tardó 2.3 s, mientras que en la nube tardaba alrededor de 5 s. La diferencia se nota en la fluidez y, sobre todo, en el costo: ahora gasto menos de $0.02 por mil tokens en vez de $0.12 en la API de OpenAI. Eso es genial para proyectos de automatización en casa, porque no tengo que preocuparme por límites de cuota ni por la latencia de la red.
Decidí que era momento de pasar a una rutina más práctica. Primero, anoté los componentes que necesitaba: el Jetson Nano, una fuente de 5 V 2 A y una tarjeta microSD de 128 GB. Luego, seguí estos pasos: 1) instalé Ubuntu 22.04 LTS con el script de NVIDIA; 2) descargué e instalé Ollama; 3) ejecuté ollama pull llama2:7b-q4_0 para obtener el modelo cuantizado; 4) configuré la variable OLLAMA_MAX_TOKENS=500 para evitar consumos excesivos; 5) integré la API local en mi script de Python que genera resúmenes de correos. Con esa cadena, ya no dependo de la nube y mantengo mis datos bajo control.
Al terminar la mañana, cerré la sesión de la nube y empecé a usar solo mi Jetson para tareas de resumen y generación de texto. No es lo mismo trabajar con una máquina que está en la misma red que mis documentos; siento que tengo más autonomía y menos sorpresas en la factura. Además, el proceso de instalar y probar el modelo me recordó lo divertido que es trastear con hardware.
En conclusión, el llamado de Amodei me impulsó a volver a lo básico y eso me dejó una sensación de control que no había experimentado con los servicios externos. Ahora mi flujo de trabajo es más estable y, sinceramente, mucho más satisfactorio.