README.md

Phi-3 Cookbook: Microsoft Phi-3 模型實作範例

Phi 是由 Microsoft 開發的一系列開放 AI 模型。Phi 模型是目前最具能力和成本效益的小型語言模型（SLM），在各種語言、推理、編碼和數學基準測試中表現優於同類型及更大型的模型。Phi-3 家族包括迷你、小型、中型和視覺版本，根據不同參數量進行訓練，以滿足各種應用場景。關於 Microsoft Phi 家族的更多詳細信息，請訪問 Welcome to the Phi Family 頁面。

目錄

• 介紹

  • 設置環境(✅)
  • 歡迎來到 Phi 家族(✅)
  • 了解關鍵技術(✅)
  • Phi 模型的 AI 安全性(✅)
  • Phi-3 硬體支援(✅)
  • Phi-3 模型及跨平台可用性(✅)
  • 使用 Guidance-ai 和 Phi(✅)

• 快速入門

  • 在 GitHub 模型目錄中使用 Phi-3(✅)
  • 在 Hugging face 中使用 Phi-3(✅)
  • 使用 OpenAI SDK 的 Phi-3(✅)
  • 使用 Http 請求的 Phi-3(✅)
  • 在 Azure AI Studio 中使用 Phi-3(✅)
  • 使用 Azure MaaS 或 MaaP 進行 Phi-3 模型推理(✅)
  • 在 Azure AI Studio 中將 Phi-3 模型部署為無伺服器 API(✅)
  • 在 Ollama 中使用 Phi-3(✅)
  • 在 LM Studio 中使用 Phi-3(✅)
  • 在 AI Toolkit VSCode 中使用 Phi-3(✅)
  • 使用 Phi-3 和 LiteLLM(✅)

• 推論 Phi-3

  • 在 iOS 上進行推論 Phi-3(✅)
  • 在 Jetson 上進行推論 Phi-3(✅)
  • 在 AI PC 上進行推論 Phi-3(✅)
  • 使用 Apple MLX 框架進行推論 Phi-3(✅)
  • 在本地伺服器上進行推論 Phi-3(✅)
  • 使用 AI 工具包在遠端伺服器上進行推論 Phi-3(✅)
  • 使用 Rust 進行推論 Phi-3(✅)
  • 在本地進行推論 Phi-3-Vision(✅)
  • 使用 Kaito AKS 和 Azure Containers 進行推論 Phi-3（官方支援）(✅)
  • 推論您的 Fine-tuning ONNX Runtime 模型(✅)

• Fine-tuning Phi-3

  • 下載和創建樣本數據集(✅)
  • Fine-tuning 場景(✅)
  • Fine-tuning 與 RAG(✅)
  • Fine-tuning 讓 Phi-3 成為行業專家(✅)
  • 使用 AI 工具包在 VS Code 中進行 Fine-tuning Phi-3(✅)
  • 使用 Azure 機器學習服務進行 Fine-tuning Phi-3(✅)
  • 使用 Lora 進行 Fine-tuning Phi-3(✅)
  • 使用 QLora 進行 Fine-tuning Phi-3(✅)
  • 使用 Azure AI Studio 進行 Fine-tuning Phi-3(✅)
  • 使用 Azure ML CLI/SDK 進行 Fine-tuning Phi-3(✅)
  • 使用 Microsoft Olive 進行 Fine-tuning(✅)
  • 使用 Weights and Bias 進行 Fine-tuning Phi-3-vision(✅)
  • 使用 Apple MLX 框架進行 Fine-tuning Phi-3(✅)
  • Fine-tuning Phi-3-vision（官方支援）(✅)
  • 使用 Kaito AKS 和 Azure Containers 進行 Fine-tuning Phi-3（官方支援）(✅)
  • Fine-tuning Phi-3 和 3.5 Vision(✅)

• 評估 Phi-3

  • 負責任的 AI 簡介(✅)
  • Promptflow 簡介(✅)
  • 使用 Azure AI Studio 進行評估簡介(✅)

• Phi-3-mini 的 E2E 範例

• 端到端範例介紹(✅)

  • 準備你的行業數據(✅)
  • 使用 Microsoft Olive 設計你的專案(✅)
  • 在 Android 上使用 Phi-3、ONNXRuntime Mobile 和 ONNXRuntime Generate API 的本地聊天機器人(✅)
  • Hugging Face Space WebGPU 和 Phi-3-mini 示範 - Phi-3-mini 為用戶提供私密（且強大）的聊天機器人體驗。你可以試試看(✅)
  • 在瀏覽器中使用 Phi3、ONNX Runtime Web 和 WebGPU 的本地聊天機器人(✅)
  • OpenVino 聊天(✅)
  • 多模型 - 互動式 Phi-3-mini 和 OpenAI Whisper(✅)
  • MLFlow - 構建封裝器並使用 Phi-3 與 MLFlow(✅)
  • 模型優化 - 如何使用 Olive 優化 Phi-3-min 模型以適應 ONNX Runtime Web(✅)
  • 使用 Phi-3 mini-4k-instruct-onnx 的 WinUI3 應用(✅)
  • WinUI3 多模型 AI 驅動的筆記應用範例(✅)
  • 使用 Prompt flow 微調和整合自定義 Phi-3 模型(✅)
  • 在 Azure AI Studio 中使用 Prompt flow 微調和整合自定義 Phi-3 模型(✅)
  • 在 Azure AI Studio 中評估微調的 Phi-3 / Phi-3.5 模型，聚焦於 Microsoft 的負責任 AI 原則(✅)
  • Phi-3.5-mini-instruct 語言預測範例（中/英文）(✅)

• Phi-3-vision 的端到端範例

  • Phi-3-vision-圖像文本到文本(✅)
  • Phi-3-vision-ONNX(✅)
  • Phi-3-vision CLIP 嵌入(✅)
  • 示範：Phi-3 回收(✅)
  • Phi-3-vision - 使用 Phi3-Vision 和 OpenVINO 的視覺語言助手(✅)
  • Phi-3 Vision Nvidia NIM(✅)
  • Phi-3 Vision OpenVino(✅)
  • Phi-3.5 Vision 多幀或多圖像範例(✅)

• Phi-3.5-MoE 的端到端範例

  • Phi-3.5 專家模型混合（MoEs）社交媒體範例(✅)
  • 使用 NVIDIA NIM Phi-3 MOE、Azure AI 搜索和 LlamaIndex 構建檢索增強生成（RAG）管道(✅)

• Phi-3 的實驗室和工作坊範例

  • C# .NET 實驗室(✅)
  • 構建你自己的 Visual Studio Code GitHub Copilot Chat，使用 Microsoft Phi-3 系列(✅)
  • 本地 WebGPU Phi-3 Mini RAG 聊天機器人範例，包含本地 RAG 文件(✅)
  • Phi-3 ONNX 教程(✅)

• Phi-3-vision ONNX 教學(✅)

  • 使用 ONNX Runtime generate() API 執行 Phi-3 模型(✅)
  • Phi-3 ONNX 多模型 LLM 聊天 UI，這是一個聊天示範(✅)
  • C# Hello Phi-3 ONNX 範例 Phi-3(✅)
  • C# API Phi-3 ONNX 範例以支援 Phi3-Vision(✅)
  • 在 CodeSpace 中執行 C# Phi-3 範例(✅)
  • 使用 Phi-3 與 Promptflow 和 Azure AI 搜尋(✅)
  • 使用 Windows Copilot Library 的 Windows AI-PC API

• 學習 Phi-3.5

  • Phi-3.5 系列的新功能(✅)
  • 量化 Phi-3.5 系列(✅)
    • 使用 llama.cpp 量化 Phi-3.5(✅)
    • 使用 ONNX Runtime 的生成式 AI 擴展量化 Phi-3.5(✅)
    • 使用 Intel OpenVINO 量化 Phi-3.5(✅)
    • 使用 Apple MLX 框架量化 Phi-3.5(✅)
  • Phi-3.5 應用範例
    • Phi-3.5-Instruct WebGPU RAG 聊天機器人(✅)
    • 使用 GitHub 模型創建自己的 Visual Studio Code 聊天 Copilot 代理(✅)

使用 Phi-3 模型

Phi-3 在 Azure AI Studio 上

你可以學習如何使用 Microsoft Phi-3 並在不同的硬體設備上建立 E2E 解決方案。要親自體驗 Phi-3，首先可以在 Azure AI Studio, Azure AI Model Catalog 中試用模型並根據你的場景自訂 Phi-3。你可以在Azure AI Studio 快速入門中了解更多。

Playground 每個模型都有專屬的測試平台 Azure AI Playground。

Phi-3 在 GitHub 模型上

你可以學習如何使用 Microsoft Phi-3 並在不同的硬體設備上建立 E2E 解決方案。要親自體驗 Phi-3，首先可以在 GitHub Model Catalog 中試用模型並根據你的場景自訂 Phi-3。你可以在GitHub Model Catalog 快速入門中了解更多。

Playground 每個模型都有專屬的測試平台。

Phi-3 在 Hugging Face 上

你也可以在 Hugging Face 上找到這個模型。

Playground Hugging Chat 測試平台

🌐 多語言支持

Note: 這些翻譯是使用開源的 co-op-translator 自動生成的，可能包含錯誤或不準確之處。對於關鍵資訊，建議參考原文或諮詢專業的人力翻譯。如果你想添加或更新翻譯，請參閱 co-op-translator 儲存庫，你可以使用簡單的命令輕鬆貢獻。

語言	代碼	翻譯後的 README 連結	最後更新日期
中文（簡體）	zh	中文翻譯	2024-10-04
中文（繁體）	tw	中文翻譯	2024-10-04
法語	fr	法語翻譯	2024-10-04
日語	ja	日語翻譯	2024-10-04
Korean	ko	韓文翻譯	2024-10-04
Spanish	es	西班牙文翻譯	2024-10-04

商標

本專案可能包含專案、產品或服務的商標或標誌。授權使用 Microsoft 的商標或標誌必須遵循 Microsoft 的商標與品牌指南。 修改版本中使用 Microsoft 的商標或標誌不得引起混淆或暗示 Microsoft 的贊助。任何第三方商標或標誌的使用均需遵守相應第三方的政策。

免責聲明： 本文件已使用機器翻譯服務進行翻譯。儘管我們努力確保準確性，但請注意，自動翻譯可能包含錯誤或不準確之處。應以原語言的原始文件為權威來源。對於關鍵信息，建議尋求專業人工翻譯。我們對使用此翻譯所產生的任何誤解或誤讀不承擔責任。