ESP32-S3在仅有8MB PSRAM的硬件上成功运行2890万参数的大语言模型,推理速度达9.5 tok/s,完全离线,为嵌入式AI开辟了全新可能,甚至让人憧憬离线调配一杯完美咖啡。
MimiClaw是首个运行在5美元ESP32-S3芯片上的AI助手,纯C语言实现,始终在线、持久记忆、可通过Telegram访问。