问下大家现在都在用什么机器跑 hermes ?
想收一台二手 macbook 跑 hermes
不知道什么配置性能不会溢出?
m1 8+256 的 macbook air 如何?
问下大家现在都在用什么机器跑 hermes ?
想收一台二手 macbook 跑 hermes
不知道什么配置性能不会溢出?
m1 8+256 的 macbook air 如何?
|
kirbyzhuMay 24 via iPhone
1
甲骨文
|
|
mnoputd20adfadf3May 24
2
Digitalocean Droplet
|
|
sonaxyjhMay 24
3
零刻 ME Mini,端侧模型还是太慢了用 API 吧
|
|
4
我去楼上都太专业了
瑟瑟发抖 |
|
zuosiruanMay 24 via iPhone
5
@adz1181014499 你都要上 mac 了你最专业
|
|
EleutheriosMay 24 via iPhone
6
@sonaxyjh 我觉得 Mac M5 16G/32G 还是能在本地跑跑 ASR, vector embedding 之类的模型的。不过真的要玩还是得 Max+48G 起步
|
|
liuziminMay 24 via Android
7
我手上的 mac 跟你配置差不多,我跑个 Openclaw+QWen3.5:4b 都经常卡死,正常回答问题最快也要半分钟到一分钟。
|
|
killgfatMay 24 via Android
8
为了 hermes 专门花钱买一台 Mac 吗,我都是直接拿一个 2c4g 的虚拟机跑的
|
|
sonaxyjhMay 24
9
@Eleutherios 如果能接受吐字速度的话本地跑 MoE 当然可以,如果是 embedding 我这 N200 cpu 都能跑,但自己维护太麻烦了,用免费档的 mem0
|
|
chansslMay 24 via Android
10
WSL
|
|
lihuaMay 24
11
VPS ,3vCPU 、4G 内存。
|
|
sm1314May 24
12
甲骨文
|
|
jaoyinaMay 24
13
mac mini m4 ,本来就一直开着。
|
|
XhackMay 24
14
自组 E5 双路电老虎 用 pve 虚机
|
|
aklllwMay 24
15
r4s....4g 软路由
|
|
enihcamMay 24 via Android
16
肯定用 linux 啊
|
|
DawnMoonMay 24
17
vmware 开了个虚拟机跑,不用担心被搞事情
|
|
dbakMay 24 via Android
18
4c8g 就够了 剩下的钱买 token 吧 这玩意大头就是烧 token 本地我不建议跑模型 直接花钱买 api 服务就完了 哪天玩腻了不续费就好了
|
|
IM1TMay 24 via iPhone
19
J4125+8g 的飞牛 nas docker 跑,稳得一
|
|
JustDoDOItMay 24
20
@IM1T 我是 J4125+16G 的 PVE ,各种 Docker+hermes 也挺稳😋
|
|
glouhaoMay 24 via Android
21
我本来在用腾讯的云,后来一测延迟 300 多,我就迁移到了 rn 的 4c4gvps ,然后最近 rn 给我挪了下,联通延迟也 400 左右了。放黑群里偶尔会断电,要不就塞进去了。
|
|
johnniangMay 24
22
直接在工作电脑( Fedora 44 ,几乎不关闭)上运行的 podman machine 。
|
|
difMay 24
23
2C2G 的小机子。荷兰节点。
|
|
saaakMay 24
24
j1900 飞牛 docker
|
|
spike0100May 24 via iPhone
26
8 年前的红米安卓手机。
|
|
YICHUJIFAMay 24
27
阿里云的活动机,2H4G ,香港的,一年 199 元
|
|
abc0123xyzMay 24
28
| 项目 | 配置 |
| --------- | ------------------------------------------------- | | CPU | 4 核 / 4 线程 · 4.1 GHz · AMD EPYC 9275F (分配) | | 内存 | 19 GiB (可用 16G) · 无 Swap | | 系统盘 | 200 GB SSD · ext4 · 已用 11G (6%) | | GPU | 虚拟显卡 (Bochs/QEMU) | | SSH | 🔒 仅密钥登录 · MaxAuthTries 3 · fail2ban 已启用 | | 防火墙 | UFW 已启用 | |
|
la9998372May 24
29
树莓派 4 8GB 内存
|
|
drymonfideliaMay 24
30
之前买了 3 台 hetzner 5950x 拍卖机,加起来一个月 200 多欧,项目结束发现绝版了一直没退在吃灰,刚好拿来跑跑
这东西的 thread 模式同时干多件事会窜上下文、忘记目标,适合物理隔离 |
|
LittleControlMay 24 via iPhone
31
甲骨文加一
|
|
LittleControlMay 24 via iPhone
32
@YICHUJIFA 好价,来自 MJJ 的警觉
|
|
yyzq007May 24
33
本地笔记本电脑上跑的
|
|
vimuttMay 24
34
一台废弃的 mac pro ,大概 60w-90w 。无显示器,7x24 小时
|
|
six777May 24 via Android
35
甲骨文
|
|
shmilypeterMay 25
36
@dbak 太认同了,我之前用 2C4G 的机器跑 openclaw 以及 hermes ,怎么说呢,只能当聊天机器人用,你但凡要让他在本地做些什么任务,一定会卡死。换上 4C8G 之后,一下子舒服了。
|
|
ShaarMay 25
37
甲骨文
|
|
oudwwvMay 25 via Android
38
J3160 小主机,有 8G 内存所以感觉还好
|
|
dengtongcaiMay 25 via Android
40
我在 nas 上 docker 部署的
|
|
Blabber9125May 25
41
飞牛虚拟机里面跑的
|
|
woshishui2022May 25
42
docker 跑 在浏览器搜索上会不会有问题啊?
|
|
xiaokuidevMay 25
44
楼主,我出一台个人闲置 2015 款的 macbook pro 。i7+16g+256G.
|
|
WessonCMay 25
45
我想知道 n1 盒子的 Amlogic S905X3 + 32G 内存能不能跑得了。。。
|