微软超轻量小模型,3.8B 参数性能超群,手机/边缘设备可运行。
ollama pull phi3:mini (3.8B) / phi3:small (7B) / phi3:medium (14B)ollama run phi3:mini3.8B 版本在手机的 NPU 上即可运行pip install onnxruntime-genai下载 ONNX 量化模型 (支持 int4 量化,<2GB)适合手机、IoT 和边缘设备部署在 ai.azure.com 部署 Phi-3 为 Serverless API无需管理基础设施,自动扩缩容企业级安全合规