DeepSeek-V3

3ステップで試す

1. 1

   DeepSeek-V3 v1.0.0 repositoryを取得する

   archival releaseへ固定し、model weightをdownloadせずcodeとconfigurationだけを取得します。

   git clone --depth 1 --branch v1.0.0 https://github.com/deepseek-ai/DeepSeek-V3.git && cd DeepSeek-V3コピー
2. 2

   671B configをpreflight確認する

   model weightを読み込まず、671B configurationがFP8・61 layers・256 routed expertsであること等を確認します。

   python3 -c "import json; c=json.load(open('inference/configs/config_671B.json')); print({k:c[k] for k in ['dim','n_layers','n_routed_experts','n_activated_experts','dtype']})"コピー
3. 3

   実行要件とmodel licenseを確認する

   公式demoはLinux/Python 3.10と大規模multi-GPUを前提にします。weight取得・実行前にrequirementsとMITではない別model licenseの条件を確認してください。

   printf '%s ' '--- inference requirements ---' && cat inference/requirements.txt && printf '%s ' '--- model license header ---' && head -n 20 LICENSE-MODELコピー

Built with

• Python

カテゴリとタグ

GitHubデータ

このOSSの使い方や活用事例をMarkdownで投稿できます。管理者が承認した後に公開されます。

あわせて探訪

• Khoj37,560 Stars

  共通タグ 2件 · 共通カテゴリ 1件 · 同じ言語

  文書・Web・local/cloud LLMをRAG・Agent・Automationへまとめるpersonal AI

  Python
• Onyx32,321 Stars

  共通タグ 2件 · 共通カテゴリ 1件 · 同じ言語

  社内knowledgeをAI agentが使えるcontext layerへ変換する

  Python
• Haystack26,647 Stars

  共通タグ 2件 · 共通カテゴリ 1件 · 同じ言語

  retrieval・routing・memory・generationをcomponent graphとして組み、RAGとagent workflowを構築する

  Python
• Transformers166,909 Stars

  共通タグ 5件 · 共通カテゴリ 1件 · 同じ言語

  text・vision・audio・multimodal modelを共通AutoClass/Pipeline APIでload・inference・trainingするmodel-definition framework

  Python
• Whisper109,887 Stars

  共通タグ 3件 · 共通カテゴリ 1件 · 同じ言語

  多言語の文字起こし・言語識別・英語翻訳をローカルで実行する音声認識model

  Python
• Stable Diffusion WebUI164,915 Stars

  共通タグ 2件 · 共通カテゴリ 1件 · 同じ言語

  画像生成・部分編集・LoRA・拡張機能をブラウザでまとめて扱うGradio UI

  Python