https://flashai.com.cn/model/gemma2_2b
不用 GPU ，在 12 代 i7cpu 也能跑出 20+token/秒的速度
无需任何配置，开箱即用
支持 win10,win11 ，mac11+
图形界面，不用自己安装 webgui
自带 embedding 库，支持上传 pdf,docx,txt,md 创建知识库
文档翻译工作流，一次翻译整本书
知识树，从大模型压榨数据
离线使用，大模型基础功能永久免费
This topic created in 827 days ago, the information mentioned may be changed or developed.
 |
asaworldAug 7, 2024 via iPhone
1
看着不错，有没有老哥测试下
|
 |
zhs227Aug 7, 2024
2
mac 11.6.1 启动报错，大概就是执行模型加载错误了
|
|
zhs227Aug 7, 2024
3
"/Applications/FlashAI B2.app/Contents/Resources/flashai_server" -model gemma2:2b-instruct-q4_K_M -path "/Applications/FlashAI B2.app/Contents/Resources/embeddings"
zsh: segmentation fault "/Applications/FlashAI B2.app/Contents/Resources/flashai_server" -model -pat |
|
zhs227Aug 7, 2024
5
启了无数次都是一样的。报 segmentation fault ，应该是哪里内存越界了。
|
 |
6
@zhs227 可以在 flashai.com.cn 主页扫二维码进交流群，帮你看看
|
 |
PepsigoldOct 22, 2024 via Android
7
3090 部署的话，并发支持多少？
|
Select Language