Phi-3 WebGPU:允许用户直接在浏览器本地运行Phi-3模型
时间:2024-07-02 03:38:58 来源:带水拖泥网 作者:资讯 阅读:628次
CSS站长资源(ChinaZ.com)5月11日 消息:Phi-3WebGPU是允运行一款由Xenova提供的AI模型,它在Hugging Face Space中推出,许用型允许用户直接在浏览器中本地运行AI模型。户直这一创新工具结合了Transformers.js和onnxruntime-web,接浏为用户提供了一个私密且高效的览器AI体验。
体验地址:https://top.aibase.com/tool/phi-3-webgpu
Phi-3WebGPU的本地主要特点
本地数据处理:所有数据处理在本地完成,确保用户隐私安全。允运行
WebGPU加速:利用WebGPU加速技术,许用型处理速度提升至超过20t/s。户直
模型缓存:首次下载模型后,接浏模型文件将被缓存,览器避免重复下载。本地
用户在使用Phi-3WebGPU时发现,允运行英文回答的许用型效果令人满意,但中文回答存在一些幻觉现象,户直这可能与模型的训练数据或算法有关。
使用Phi-3WebGPU时,请注意,首次运行会自动下载2.3GB的模型文件,这可能需要一定的时间和带宽。
结语
Phi-3WebGPU的推出为用户提供了一种新的AI模型运行方式,它不仅提高了工作效率,还通过本地运行确保了数据处理的私密性。尽管在某些语言的处理上可能存在不足,但其在浏览器中提供的AI模型运行能力仍然值得关注。
(责任编辑:小程序)
最新内容
热点内容
- ·假冒演员靳东用微信实施诈骗 8人获刑:骗取金额超31万
- ·大模型变天 国内厂商纷纷推出“骨折价”
- ·专访淘宝网负责人空无:每年1亿人逛,618已开启大屏直播购物模式
- ·“华龙一号”漳州核电1号机组热试成功:预计2024年内投产发电
- ·贾扬清的500行代码,掀翻了Perplexity5.2亿的桌子?
- ·20:00~20:15 人人可领1元起:天猫 618 无门槛红包限时加码
- ·男子“六门全开”就是找不到手机 结果挂在车顶
- ·索尼绝版4K屏旗舰!Xperia 1 V部分版本缺货:电商用户评价1000多条
- ·开源多模态生成模型MM-Interleaved 支持任意穿插的图文输入和输出
- ·10元咖啡阿姨:没开分店的想法 对流量没概念