写点什么

碾压 OpenAI,DeepSeek-R1 发布!如何在本地实现 DeepSeek?

作者:智领云科技
  • 2025-01-23
    河北
  • 本文字数:1860 字

    阅读完需:约 6 分钟

碾压 OpenAI,DeepSeek-R1 发布!如何在本地实现 DeepSeek?

近日,幻方量化旗下 AI 公司深度求索(DeepSeek)正式发布 DeepSeek-R1 模型。在数学、代码、自然语言推理等任务上,该模型性能比肩 OpenAI o1 正式版。DeepSeek 称,R1 在后训练阶段大规模使用了强化学习技术,在仅有极少标注数据的情况下,极大提升了模型推理能力。



DeepSeek 不仅将 R1 训练技术全部公开,还蒸馏了 6 个小模型开源给社区,允许用户借此训练其他模型。


API 价格方面,每百万输入 tokens 1 元(缓存命中)/4 元(缓存未命中),每百万输出 tokens 16 元,较 o1 正式版低 27-55 倍。


DeepSeek-R1 可以说是一个选能型选手,在各项任务上展现了超乎想象的能力,特别是在 AIME 和 MATH-500 这些高难度挑战上,DeepSeek-R1 的成绩简直让人目瞪口呆,跟 OpenAI o1 比起来,毫不逊色,甚至还有点小超越。你想没想过,自己也能在本地实现这样一个功能强大的 DeepSeek 呢?


今天我来手把手教大家,使用一款 AI 搜索开发框架--LeetTools 轻松在本地实现 DeepSeek。

演示

📌 安装与配置 LeetTools

创建虚拟环境并安装 LeetTools


1)从 anaconda.com 下载并安装 naconda

2)从 code.visualstudio.com 下载并安装 Visual Studio

3)打开 anaconda,从左侧菜单选择 Environment,再点击下方的 Creat,为 LeetTools 创建一个虚拟环境


4)在弹出的对话框中,给虚拟环境起一个名字,比如 LeetTools,接着勾选 Python,选择版本 3.11.11,然后选择 Create,这样就创建了 LeetTools 的虚拟环境。


5)打开 Visual Studio

6)选择最左侧菜单栏的 Extension 按钮,安装 Python,Python Debugger,Pylance,Git Extension Pack,Git History,Github Repository,gitignore,Gitlens 扩展插件

7)点击最左侧菜单栏的 Source Control,然后点击 Clone Repository 按钮



8)在弹出的地址框中输入 LeetTools 的 Github 地址:🔗https://github.com/leettools-dev/leettools


9)在弹出的对话框中,选择下方的新建文件夹,建一个 LeetTools 的存储数据的文件夹,然后选择该文件夹,点击右下方的 Select as Repository Destination,完成前期的配置工作,接下来就是 LeetTools 安装的过程了

10)然后在桌面上端的菜单栏里选择,Terminal,New Terminal,就在 Visual Studio 里打开了一个终端窗口然后就可以开始 LeetTools 的安装了。


% conda create -y -n leettools python=3.11% conda activate leettools% pip install leettools
# where we store all the data and logs% export LEET_HOME=${HOME}/leettools% mkdir -p ${LEET_HOME}
复制代码

2. 设置环境变量


# set the endpoint and api key% export EDS_DEFAULT_LLM_BASE_URL=https://api.openai.com/v1% export EDS_LLM_API_KEY=<your_openai_api_key>
复制代码

3. 运行 LeetTools 命令


command line commands# flow: the subcommand to run different flows, use --list to see all the available flows# -t run this 'answer' flow, use --info option to see the function description# -q the query# -k save the scraped web page to the knowledge base# -l log level, info shows the essential log messages% leet flow -t answer -q "How does GraphRAG work?" -k graphrag -l info
复制代码

示例代码:

roviders such as DeepSeek, you can% export EDS_DEFAULT_LLM_BASE_URL=https://api.deepseek.com/v1% export EDS_LLM_API_KEY=<your deepseek api key>% export EDS_DEFAULT_LLM_MODEL=deepseek-chat# use a local embedder since DeepSeek does not provide an embedding endpoint yet# if the API supports OpenAI-compatible embedding endpoint, no extra settings needed# this dense_embedder_local_mem uses all-MiniLM-L6-v2 model as a singleton embedder% export EDS_DEFAULT_DENSE_EMBEDDER=dense_embedder_local_mem
# Or you can put the above settings in the .env.deepseek file% cat > .env.deepseekLEET_HOME=/Users/myhome/leettoolsEDS_DEFAULT_LLM_BASE_URL=https://api.deepseek.com/v1EDS_LLM_API_KEY=sk-0d8-mykeyEDS_DEFAULT_LLM_MODEL=deepseek-chatEDS_DEFAULT_DENSE_EMBEDDER=dense_embedder_local_mem
# Then run the command with the -e option to specify the .env file to use% leet flow -e .env.deepseek -t answer -q "How does GraphRAG work?" -k graphrag -l info
复制代码

定制化场景应用


通过 LeetTools ,开发者可以轻松实现 DeepSeek 的强大功能。当然,LeetTools 的能力远不止于此。在它的开发框架上,开发者们可以大展身手,根据自身需求,开发出各种定制化的场景应用,让智能搜索真正融入到生活的方方面面。

发布于: 刚刚阅读数: 5
用户头像

连接数据,驱动未来 2020-08-17 加入

智领云专注于大数据、云计算领域的核心技术研发,为企业级客户提供云原生数据中台系统解决方案,快速实现数据价值,降本增效,助力企业数字化转型,在激烈的市场中获得竞争优势。

评论

发布
暂无评论
碾压 OpenAI,DeepSeek-R1 发布!如何在本地实现 DeepSeek?_openai_智领云科技_InfoQ写作社区