AIbase

Phi 3 Mini 4k Instruct Onnx
Phi 3 Mini 4k Instruct Onnx
["- 企业:可将Phi-3 Mini集成到各种业务应用中,提供自然语言处理能力","- 开发者:可利用Phi-3 Mini强大的生成能力,开发各种语言相关的应用和服务"," - 如对话系统、问答系统、文本生成、数据分析等","- 个人用
AI模型AI模型推理训练#自然语言处理#生成式AI模型#大模型#加速推理#ONNX#多硬件平台优质新品开源
总访问量： 29,742,941
占比最多地区： US(17.94%)
1,092
产品介绍
网站流量
同类开源产品
替代品
简介
Phi-3 Mini是一款轻量级的最先进的开源大模型,构建于用于Phi-2的合成数据和过滤网站数据之上,致力于提供极高质量、推理密集型的数据。该模型经过了严格的增强过程,结合了监督式微调和直接偏好优化,以确保精确遵循指令和强大的安全措施。该仓库提供了Phi-3 Mini的优化ONNX版本,可通过ONNX Runtime在CPU和GPU上进行加速推理,支持服务器、Windows、Linux、Mac等多种平台,并针对每个平台提供最佳精度配置。ONNX Runtime的DirectML支持还可让开发人员在AMD、英特尔和NVIDIA GPU驱动的Windows设备上实现大规模硬件加速。
截图
产品特色
- 支持多种硬件平台加速推理,包括: - DirectML:适用于AMD、Intel和NVIDIA GPU的Windows设备,通过AWQ量化实现int4精度 - FP16 CUDA:适用于NVIDIA GPU,FP16精度 - Int4 CUDA:适用于NVIDIA GPU,通过RTN量化实现int4精度 - Int4 CPU和移动端:通过RTN量化实现int4精度,针对CPU和移动端提供两种版本以平衡延迟和精度
- 提供ONNX Runtime新的Generate()API,极大简化了在应用中集成生成式AI模型的流程
- 性能优异,相比PyTorch提高多达10倍,相比Llama.cpp提高多达3倍
- 支持大批量、长提示和长输出推理
- 量化后体积小,便于部署
使用教程
1. 前往Hugging Face页面下载所需的ONNX模型文件
2. 安装ONNX Runtime和ONNX Runtime Generate() API相关软件包
3. 在代码中加载ONNX模型文件
4. 使用ONNX Runtime Generate() API设置推理参数,如批量大小、提示长度等
5. 调用生成函数,输入文本提示
6. 获取输出结果并进行后续处理
流量来源
直接访问48.39%外链引荐35.85%邮件0.03%
自然搜索12.76%社交媒体2.96%展示广告0.02%
最新流量情况
月访问量
25296.55k
平均访问时长
285.77
每次访问页数
5.83
跳出率
43.31%
总流量趋势图
地理流量分布情况
美国
17.94%
中国
17.08%
印度
8.40%
俄罗斯
4.58%
日本
3.42%
地理流量分布全球图
精选AI产品推荐
Nocode
中文精选
NoCode 是一款无需编程经验的平台，允许用户通过自然语言描述创意并快速生成应用，旨在降低开发门槛，让更多人能实现他们的创意。
开发平台#应用开发
912
Listenhub
优质新品
ListenHub 是一款轻量级的 AI 播客生成工具，支持中文和英语，基于前沿 AI 技术，能够快速生成用户感兴趣的播客内容。
音频生成#AI
348
Lovart
国外精选
Lovart 是一款革命性的 AI 设计代理，能够将创意提示转化为艺术作品，支持从故事板到品牌视觉的多种设计需求。
AI设计工具#创意工具
1,128
Fastvlm
FastVLM 是一种高效的视觉编码模型，专为视觉语言模型设计。
AI模型#图像处理开源
564
Smart PDFs
国外精选
Smart PDFs 是一个在线工具，利用 AI 技术快速分析 PDF 文档，并生成简明扼要的总结。
文章摘要#AI
984
Keysync
KeySync 是一个针对高分辨率视频的无泄漏唇同步框架。
视频编辑#视频处理开源
480
Anyvoice
AnyVoice是一款领先的AI声音生成器，采用先进的深度学习模型，将文本转换为与人类无法区分的自然语音。
音频生成#文本转语音
26.38k
Liblibai
中文精选
LiblibAI是一个中国领先的AI创作平台,提供强大的AI创作能力,帮助创作者实现创意。
AI模型#图像生成
344.42k