Nem... Testei a qwen2.5:0.5b no meu motorola com 3gb de ram, rodou até que rapidinha...
Modelo escolhida de forma arbitrária, poderia ser o tinygpt ou llama3.2:1b...
Para gerar texto mesmo. Rodar esses modelos locais não é muito complicado não. Veja como rodar o ollama no android, fiquei sabendo que tem um aplicativo.