README.md

Phi Cookbook: Praktické příklady s modely Phi od Microsoftu

Phi je série open source AI modelů vyvinutých společností Microsoft.

Phi je v současnosti nejvýkonnější a nejefektivnější malý jazykový model (SLM) s velmi dobrými benchmarky v mnoha jazycích, v oblasti uvažování, generování textu/chatů, kódování, obrazu, zvuku a dalších scénářů.

Phi můžete nasadit do cloudu nebo na edge zařízení a snadno tak vytvořit generativní AI aplikace s omezenou výpočetní kapacitou.

Postupujte podle těchto kroků, abyste mohli začít používat tyto zdroje:

1. Vytvořte Fork Repozitáře: Klikněte na
2. Klonujte Repozitář: git clone https://github.com/microsoft/PhiCookBook.git
3. Připojte se ke komunitě Microsoft AI na Discordu a potkejte experty a další vývojáře

🌐 Podpora více jazyků

Podporováno přes GitHub Action (automatické a vždy aktuální)

Arabština | Bengálština | Bulharština | Barmština (Myanmar) | Čínština (zjednodušená) | Čínština (tradiční, Hong Kong) | Čínština (tradiční, Macau) | Čínština (tradiční, Taiwan) | Chorvatština | Čeština | Dánština | Nizozemština | Estonština | Finština | Francouzština | Němčina | Řečtina | Hebrejština | Hindština | Maďarština | Indonéština | Italština | Japonština | Kannada | Khmer | Korejština | Litevština | Malajština | Malajalámština | Maráthština | Nepálština | Nigerijský pidžin | Norština | Perština (Fársí) | Polština | Portugalština (Brazílie) | Portugalština (Portugalsko) | Paňdžábština (Gurmukhi) | Rumunština | Ruština | Srbština (cyrilice) | Slovenština | Slovinština | Španělština | Svahilština | Švédština | Tagalog (Filipino) | Tamil | Telugština | Thajština | Turečtina | Ukrajinština | Urdština | Vietnamština

Raději klonovat lokálně?

Tento repozitář obsahuje více než 50 překladů do jazyků, což výrazně zvětšuje velikost ke stažení. Chcete-li klonovat bez překladů, použijte sparse checkout:

Bash / macOS / Linux:

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

CMD (Windows):

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"

Toto vám poskytne vše potřebné pro dokončení kurzu s mnohem rychlejším stažením.

Obsah

• Úvod

  • Vítejte v rodině Phi
  • Nastavení prostředí
  • Pochopení klíčových technologií
  • Bezpečnost AI pro modely Phi
  • Podpora hardwaru Phi
  • Modely Phi & dostupnost napříč platformami
  • Použití Guidance-ai a Phi
  • Modely na GitHub Marketplace
  • Katalog AI modelů Azure

• Inference Phi v různých prostředích

  • Hugging face
  • GitHub Modely
  • Microsoft Foundry Model Catalog
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM
  • Foundry Local

• Inference Phi Family

  • Inference Phi na iOS
  • Inference Phi na Android
  • Inference Phi na Jetson
  • Inference Phi na AI PC
  • Inference Phi s Apple MLX Framework
  • Inference Phi na lokálním serveru
  • Inference Phi na vzdáleném serveru pomocí AI Toolkit
  • Inference Phi s Rust
  • Inference Phi—Vision lokálně
  • Inference Phi s Kaito AKS, Azure kontejnery (oficiální podpora)

• Kvantisování Phi Family

  • Kvantisování Phi-3.5 / 4 pomocí llama.cpp
  • Kvantisování Phi-3.5 / 4 pomocí Generative AI extensions pro onnxruntime
  • Kvantisování Phi-3.5 / 4 pomocí Intel OpenVINO
  • Kvantisování Phi-3.5 / 4 pomocí Apple MLX Framework

• Hodnocení Phi

  • Odpovědná AI
  • Microsoft Foundry pro hodnocení
  • Použití Promptflow pro hodnocení

• RAG s Azure AI Search

  • Jak používat Phi-4-mini a Phi-4-multimodal (RAG) s Azure AI Search

• Ukázky vývoje aplikací Phi

  • Textové a chatové aplikace

    • Ukázky Phi-4
      • [📓] Chat s modelem Phi-4-mini ONNX
      • Chat s místním modelem Phi-4 ONNX .NET
      • Chat .NET konzolová aplikace s Phi-4 ONNX pomocí Semantic Kernel
    • Ukázky Phi-3 / 3.5
      • Lokální chatbot v prohlížeči pomocí Phi3, ONNX Runtime Web a WebGPU
      • OpenVino Chat
      • Více modelů - Interaktivní Phi-3-mini a OpenAI Whisper
      • MLFlow - Vytváření wrapperu a použití Phi-3 s MLFlow
      • Optimalizace modelu - Jak optimalizovat model Phi-3-min pro ONNX Runtime Web s Olive
      • WinUI3 aplikace s Phi-3 mini-4k-instruct-onnx -Ukázka aplikace WinUI3 s více modely poháněnou AI
      • Doladění a integrace vlastních modelů Phi-3 s Prompt flow
      • Doladění a integrace vlastních modelů Phi-3 s Prompt flow v Microsoft Foundry
      • Vyhodnocení doladěného modelu Phi-3 / Phi-3.5 v Microsoft Foundry zaměřené na zásady odpovědné AI Microsoftu
      • [📓] Ukázka jazykového předpovídání Phi-3.5-mini-instruct (čínština/angličtina)
      • Phi-3.5-Instruct WebGPU RAG Chatbot
      • Použití Windows GPU k vytvoření řešení Prompt flow s Phi-3.5-Instruct ONNX
      • Použití Microsoft Phi-3.5 tflite k vytvoření Android aplikace
      • Ukázka Q&A .NET s použitím lokálního ONNX modelu Phi-3 pomocí Microsoft.ML.OnnxRuntime
      • Konzolová chat .NET aplikace se Semantic Kernel a Phi-3

  • Ukázky kódu SDK Azure AI Inference založené na kódu

    • Ukázky Phi-4
      • [📓] Generování kódu projektu pomocí Phi-4-multimodal
    • Ukázky Phi-3 / 3.5
      • Vytvořte si vlastní Visual Studio Code GitHub Copilot Chat s Microsoft Phi-3 Family
      • Vytvořte si svého vlastního Visual Studio Code Chat Copilot Agenta s Phi-3.5 pomocí GitHub modelů

  • Ukázky pokročilého uvažování

    • Ukázky Phi-4
      • [📓] Ukázky Phi-4-mini-reasoning nebo Phi-4-reasoning
      • [📓] Doladění Phi-4-mini-reasoning s Microsoft Olive
      • [📓] Doladění Phi-4-mini-reasoning s Apple MLX
      • [📓] Phi-4-mini-reasoning s GitHub modely
      • [📓] Phi-4-mini-reasoning s Microsoft Foundry modely

  • Ukázky

    • Phi-4-mini demo hostované na Hugging Face Spaces
    • Phi-4-multimodal demo hostované na Hugging Face Spaces

  • Ukázky vize

    • Ukázky Phi-4
      • [📓] Použití Phi-4-multimodal pro čtení obrázků a generování kódu
    • Ukázky Phi-3 / 3.5
      • [📓]Phi-3-vision - Převedení textu z obrázku na text
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP embedding
      • DEMO: Phi-3 recyklace
      • Phi-3-vision - Asistent vizuálního jazyka - s Phi3-Vision a OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • [📓]Phi-3.5 Vision ukázka s více rámci nebo více obrázky
      • Phi-3 Vision lokální ONNX model pomocí Microsoft.ML.OnnxRuntime .NET
      • Menu založené Phi-3 Vision lokální ONNX model pomocí Microsoft.ML.OnnxRuntime .NET

  • Ukázky Reasoning-Vision

    • Phi-4-Reasoning-Vision-15B
      • [📓] Použití Phi-4-Reasoning-Vision-15B k detekci přecházení mimo přechod
      • [📓] Použití Phi-4-Reasoning-Vision-15B na matematiku
      • [📓] Použití Phi-4-Reasoning-Vision-15B k detekci UI

  • Ukázky matematiky

    • Ukázky Phi-4-Mini-Flash-Reasoning-Instruct Demo matematiky s Phi-4-Mini-Flash-Reasoning-Instruct

  • Ukázky audia

    • Ukázky Phi-4
      • [📓] Extrahování přepisů audia pomocí Phi-4-multimodal
      • [📓] Ukázka audia Phi-4-multimodal
      • [📓] Ukázka překladu řeči Phi-4-multimodal
      • .NET konzolová aplikace s využitím Phi-4-multimodal k analýze audio souboru a generování přepisu

  • Ukázky MOE

    • Ukázky Phi-3 / 3.5
      • [📓] Ukázka Phi-3.5 Mixture of Experts Models (MoEs) pro sociální média
      • [📓] Vytváření pipeline s Retrieval-Augmented Generation (RAG) s NVIDIA NIM Phi-3 MOE, Azure AI Search a LlamaIndex

  • Ukázky volání funkcí

    • Ukázky Phi-4 🆕
      • [📓] Použití volání funkcí s Phi-4-mini
      • [📓] Použití volání funkcí k vytvoření multi-agentů s Phi-4-mini
      • [📓] Použití volání funkcí s Ollama
      • [📓] Použití volání funkcí s ONNX

  • Ukázky míchání multimodálních dat

    • Ukázky Phi-4 🆕
      • [📓] Použití Phi-4-multimodal jako technologického novináře
      • .NET konzolová aplikace používající Phi-4-multimodal k analýze obrázků

• Doladění Phi ukázek

  • Scénáře doladění
  • Doladění vs RAG
  • Doladění: Nechte Phi-3 stát se průmyslovým expertem
  • Doladění Phi-3 pomocí AI Toolkit pro VS Code
  • Doladění Phi-3 pomocí Azure Machine Learning Service
  • Doladění Phi-3 pomocí Lora
  • Doladění Phi-3 pomocí QLora
  • Doladění Phi-3 pomocí Microsoft Foundry
  • Doladění Phi-3 pomocí Azure ML CLI/SDK
  • Doladění s Microsoft Olive
  • Doladění s praktickou laboratoří Microsoft Olive
  • Doladění Phi-3-vision s Weights and Bias
  • Doladění Phi-3 s Apple MLX Framework
  • Doladění Phi-3-vision (oficiální podpora)
  • Ladění Phi-3 s Kaito AKS, Azure kontejnery (oficiální podpora)
  • Ladění Phi-3 a 3.5 Vision

• Praktická laboratoř

  • Prozkoumávání nejmodernějších modelů: LLM, SLM, lokální vývoj a další
  • Odemknutí potenciálu NLP: Ladění s Microsoft Olive

• Akademické výzkumné práce a publikace

  • Textbooks Are All You Need II: technická zpráva phi-1.5
  • Technická zpráva Phi-3: Vysoce schopný jazykový model lokálně na vašem telefonu
  • Technická zpráva Phi-4
  • Technická zpráva Phi-4-Mini: Kompaktní, ale výkonné multimodální jazykové modely pomocí směsi LoRA
  • Optimalizace malých jazykových modelů pro volání funkcí ve vozidle
  • (WhyPHI) Ladění PHI-3 pro odpovídání na otázky s více možnostmi: Metodologie, výsledky a výzvy
  • Technická zpráva Phi-4-reasoning
  • Technická zpráva Phi-4-mini-reasoning

Používání modelů Phi

Phi na Microsoft Foundry

Můžete se naučit, jak používat Microsoft Phi a jak stavět end-to-end řešení na různých hardwarových zařízeních. Pro vyzkoušení Phi začněte hraním s modely a přizpůsobováním Phi pro vaše scénáře pomocí Microsoft Foundry Azure AI Model Catalog. Více se dozvíte v návodu Začínáme s Microsoft Foundry.

Hřiště Každý model má své vlastní hřiště pro testování modelu na Azure AI Playground.

Phi na GitHub modelech

Můžete se naučit, jak používat Microsoft Phi a jak stavět end-to-end řešení na různých hardwarových zařízeních. Pro vyzkoušení Phi začněte hraním s modelem a přizpůsobováním Phi pro vaše scénáře pomocí GitHub Model Catalog. Více se dozvíte v návodu Začínáme s GitHub Model Catalog.

Hřiště Každý model má vyhrazené hřiště pro testování modelu.

Phi na Hugging Face

Model také najdete na Hugging Face.

Hřiště Hřiště Hugging Chat

🎒 Další kurzy

Náš tým připravuje i další kurzy! Podívejte se na:

LangChain

Azure / Edge / MCP / Agenti

---

Série Generativní AI

---

Základní učení

---

Série Copilot

Odpovědná AI

Microsoft se zavazuje pomáhat našim zákazníkům používat naše AI produkty odpovědně, sdílet naše poznatky a budovat partnerství založená na důvěře pomocí nástrojů jako jsou Poznámky o transparentnosti a Hodnocení dopadů. Mnoho z těchto zdrojů naleznete na https://aka.ms/RAI. Přístup Microsoftu k odpovědné AI je založen na našich principech AI: spravedlnost, spolehlivost a bezpečnost, ochrana soukromí a bezpečnost, inkluzivita, transparentnost a odpovědnost.

Velké jazykové, obrazové a hlasové modely na rozsáhlém měřítku - jako jsou ty použité v tomto příkladu - mohou potenciálně vykazovat chování, které je nespravedlivé, nespolehlivé nebo urážlivé, což může vést ke škodám. Prosím prostudujte Poznámku o transparentnosti služby Azure OpenAI, abyste byli informováni o rizicích a omezeních. Doporučený přístup k zmírnění těchto rizik je zahrnout do vaší architektury bezpečnostní systém, který dokáže detekovat a zabránit škodlivému chování. Azure AI Content Safety poskytuje nezávislou vrstvu ochrany, schopnou detekovat škodlivý obsah generovaný uživateli i AI v aplikacích a službách. Azure AI Content Safety zahrnuje textové a obrazové API, které vám umožní detekovat škodlivý materiál. V rámci Microsoft Foundry služba Content Safety umožňuje prohlížet, zkoumat a vyzkoušet si ukázkový kód pro detekci škodlivého obsahu napříč různými modalitami. Následující dokumentace rychlého startu vás provede procesem odesílání požadavků na službu.

Dalším aspektem, který je třeba vzít v úvahu, je celkový výkon aplikace. V případě multimodálních a multimodelových aplikací chápeme výkon tak, že systém funguje podle očekávání vás i vašich uživatelů, včetně nevytváření škodlivých výstupů. Je důležité zhodnotit výkon vaší celkové aplikace pomocí hodnotitelů výkonnosti, kvality, rizika a bezpečnosti. Také máte možnost vytvářet a hodnotit pomocí vlastních hodnotitelů.

Svou AI aplikaci můžete hodnotit ve vašem vývojovém prostředí pomocí Azure AI Evaluation SDK. Na základě testovacího datasetu nebo cíle jsou generace vaší generativní AI aplikace kvantitativně měřeny vestavěnými hodnotiteli nebo vámi zvolenými vlastními hodnotiteli. Chcete-li začít s Azure AI Evaluation SDK pro vyhodnocení vašeho systému, můžete se řídit průvodcem rychlého startu. Po spuštění hodnocení můžete vizualizovat výsledky v Microsoft Foundry.

Ochranné známky

Tento projekt může obsahovat ochranné známky nebo loga projektů, produktů či služeb. Autorizované použití ochranných známek nebo log Microsoftu podléhá a musí dodržovat Pravidla použití ochranných známek a značek Microsoftu. Použití ochranných známek nebo log Microsoftu v upravených verzích tohoto projektu nesmí způsobit záměnu nebo naznačovat podporu Microsoftem. Jakékoli použití ochranných známek nebo log třetích stran podléhá pravidlům těchto třetích stran.

Získání pomoci

Pokud narazíte na potíže nebo máte dotazy ohledně vývoje AI aplikací, přidejte se k:

Pokud máte zpětnou vazbu k produktu nebo narazíte na chyby při vývoji, navštivte:

---

Prohlášení o vyloučení odpovědnosti:
Tento dokument byl přeložen pomocí AI překladatelské služby Co-op Translator. I když se snažíme o přesnost, mějte prosím na paměti, že automatizované překlady mohou obsahovat chyby nebo nepřesnosti. Původní dokument v jeho rodném jazyce by měl být považován za autoritativní zdroj. Pro kritické informace se doporučuje profesionální lidský překlad. Nejsme odpovědní za jakékoliv nedorozumění nebo špatné výklady vzniklé z použití tohoto překladu.