相关文章
LLaMA-Factory训练DeepSeek大模型+本地部署
前言
前面我们介绍了基于硅基流动训练私有大模型《10分钟教你微调自己的私有大模型》，该平台有三个不好的点就是可选的模型有限，训练时间需要排队等待耗时长，另外还要 给钱。今天我们换一个平台，使用：魔搭平台 llama…
鲲鹏+昇腾部署DeepSeek-R1-Distill-Qwen-32B+Open-webui【信创国产化】（详细存档版）
参考文章：https://blog.csdn.net/taogumo/article/details/141932072 https://www.hiascend.com/software/modelzoo/models/detail/ed4a8911f1a74613a82dc50b1661208c 服务器配置：鲲鹏29201Atlas 300 I duo，内存128GB
1.前期准备
参考我之前…
【大模型】DeepSeek-R1各版本模型推理显存需求测算【理论+实践】
前言
最近临危受命，调研了一下DeepSeek需要什么硬件配置才能本地部署。查询中文社区相关资料，发现不少帖存在夸大唬人嫌疑。
于是撰写本文，辅以实验验证，以正试听。
1. 数据精度
硬件配置的核心就是显卡的显存。实际部署应用中…
DeepSeek-R1：强化学习驱动的LLM推理能力提升
前言
先来推荐一本书《揭秘大模型：从原理到实战》，传送门：https://item.jd.com/14893696.html，个人觉得这本书非常的不错，是一本不可多得的好书，值得拥有去学习。感兴趣的朋友可以购买，多谢支持…
【DeepSeek论文精读】1. 从 DeepSeek LLM 到 DeepSeek R1
欢迎关注[【AIGC论文精读】](https://blog.csdn.net/youcans/category_12321605.html）原创作品 【DeepSeek论文精读】1. 从 DeepSeek LLM 到 DeepSeek R1 【DeepSeek论文精读】2. DeepSeek LLM：以长期主义扩展开源语言模型 【DeepSeek论文精读】3. DeepS…
极具参考价值的Python面试题！从创业公司到一线大厂的真实面经汇总
文章目录 为何写这篇文章信息源的幕后面试技巧传授1. 剑指Python1.1 基础题1.2 算法题1.2 网络问题相关1.3 数据库相关（经典高频）1.4 反爬虫与逆向1.5 爬虫相关（由浅至深） 2. 项目探险（场景复现）3. Freesty…
huggingface部署本地大模型DeepSeek-R1-Distill-Llama-70B使用streamlit构建交互式 Web 应用
文章目录 一、Streamlit介绍二、模型下载三 、模型部署四、效果展示 一、Streamlit介绍
Streamlit 是一个开源的 Python 库，专门用于快速构建和部署交互式 Web 应用程序，尤其适合数据科学和机器学习领域。以下是关于 Streamlit 的详细介绍： …
【大模型】WPS 接入 DeepSeek-R1详解，打造全能AI办公助手
目录
一、前言
二、WPS接入AI工具优势
三、WPS接入AI工具两种方式
3.1 手动配置的方式
3.2 Office AI助手
四、WPS手动配置方式接入AI大模型
4.1 安装VBA插件
4.1.1 下载VBA插件并安装
4.2 配置WPS
4.3 WPS集成VB
4.4 AI助手效果测试
4.5 配置模板文件
五、使用Of…
深度学习：蒸馏Distill
Distilling the knowledge in a neural network
Hinton 在论文中提出方法很简单，就是让学生模型的预测分布，来拟合老师模型（可以是集成模型）的预测分布，其中可通过用老师模型 logits 除以 temperature 来调节分布平滑…
华为云kubernetes部署deepseek r1、ollama和open-webui（已踩过坑）
1 概述
ollama是一个管理大模型的一个中间层，通过它你可以下载并管理deepseek R1、llama3等大模型。 open-webui是一个web界面（界面设计受到chatgpt启发），可以集成ollama API、 OpenAI的 API。 用常见的web应用架构来类比&#x…
部署DeepSeek-R1-Distill-Qwen-7B并进行推理
下载模型文件：
将https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B/tree/main目录下面的所有文件全部下载下来，稍微有点大，所有文件将近16个G 编写代码进行推理
$ more testDS.py
from transformers import AutoModelForC…
网页监控插件distill web monitor使用之监控亚马逊到货及价格
网页监控插件distill web monitor使用之监控亚马逊到货及价格
前言
前几次的亚马逊EVGA放货都是在凌晨1点半之后到早晨8点左右，我不太习惯熬夜等待一个不确定的事物，在错过了几次之后，决定还是自己动手丰衣足食吧，开始使用pytho…
【零基础】基于vLLM 搭建DeepSeek-R1-Distill-Qwen-7B【最简】
大模型的高效部署离不开先进推理框架的支持，而vLLM凭借其突破性的技术架构成为行业标杆。本文将系统介绍如何基于vLLM框架实现DeepSeek-R1-Distill-Qwen大语言模型的高性能部署。
一、vLLM框架核心技术解析
1. 革命性的显存管理
vLLM创新的PagedAttention机制重新定义了显存…
【LLM】DeepSeek-R1-Distill-Qwen-7B部署和open webui
note
DeepSeek-R1-Distill-Qwen-7B 的测试效果很惊艳，CoT 过程可圈可点，25 年应该值得探索更多端侧的硬件机会。DeepSeek-R1系列模型在回答某些问题时，可能会跳过完整思考的过程（例如直接输出“<think>\n\n</think>”…
vLLM + Open-WebUI 本地私有化部署 DeepSeek-R1-Distill-Qwen-32B 方案
一、vLLM 部署 DeepSeek-R1-Distill-Qwen-32B
DeepSeek-R1-Distill 系列模型是 DeepSeek-R1 的蒸馏模型，官方提供了从 1.5B - 70B 不同尺寸大小的模型。特别适合在计算资源有限的环境中部署。
DeepSeek-R1 各个版本的蒸馏模型评估结果如下： 其中 DeepS…
vue预览本地pdf文件方法之a标签
1、pdf文件放在public文件下 2、a标签
a的样式可以根据需求自己设置，在此只简单说明问题
<a target"_blank" href"/1.pdf">相关论文</a>
同样的a标签如果换成word文档，则是下载效果
<a target"_blank"…
Vue 在线预览PDF pdfh5（移动/PC）
移动端实现在线预览PDF，并且可以自由缩放
pdfh5 的github地址： https://github.com/gjTool/pdfh5
安装
npm install pdfh5效果 组件封装： pdfInfo.vue
<template><div :class"$style.pdf" v-show"visible"…
vue-pdf 打包后无法预览问题修复【填坑日记】
这里写自定义目录标题 起因捉虫：找不同修复bug 起因
早上上班同事跟我说本地测试无误提交到线上的pdf预览下载功能在服务器上预览白屏让我看一下问题。
捉虫：找不同
开始排查问题，发现异常提示： pro： devÿ…
vue 实现pdf文件在线预览
PDF文件在线预览的功能相信大家都是有遇到过的，这边有两种实现方法，大家可以借鉴参考下
第一种，使用vue-pdf
安装 npm install --save vue-pdf
页面代码 <template><div><pdfref"pdf"v-for"i in numPages&q…
Vue中怎么加载pdf文件
Vue预览pdf文件，我觉得pdfh5方式比较简洁，还有vue-pdf也可以，但是如果文件内容较多的话，vue-pdf就需要做分页处理，就麻烦了；接下来，想分享下我使用pdfh5的代码逻辑。如下：࿰…