V2EX › Livid 的所有回复 › 第 150 页 / 共 1572 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

1 ... 146 147 148 149 150 151 152 153 154 155 ... 1572

❮

❯

2024 年 12 月 13 日

@344457769 谢谢反馈，这个收录已经去掉。

如果你之后看到有其他博客有类似的行为，请告诉我，我会去掉收录。

2024 年 12 月 13 日

@344457769 收到，我现在去看一下。

2024 年 12 月 11 日

@nrtEBH exo 如果在内网的几台机器上启动，会自动组成一个群集。

只是，用一堆小机器跑超大模型这件事情可能本身就比较扯。

2024 年 12 月 8 日

2024 年 12 月 8 日

@drymonfidelia 那个账号已经被彻底 ban 。

2024 年 12 月 8 日

@xqzr 5 楼的账号已经被彻底 ban 。

2024 年 12 月 7 日

回复了 Livid 创建的主题 › Local LLM › Llama 3.3 70B

2024 年 12 月 7 日

回复了 Livid 创建的主题 › Local LLM › Llama 3.3 70B

这里有 128G 的 M4 Max 用户么，谁能试试 Q8_0 在 M4 Max 上能有多少 t/s

2024 年 12 月 7 日

回复了 Livid 创建的主题 › Local LLM › Llama 3.3 70B

@TonyG
@vfx666

2021 年的 M1 Max MBP 64GB 内存。

LM Studio 会自动检测能跑的版本 Q3_K_L：

https://i.v2ex.co/z8K8Ox6T.png

实际跑起来之后大概能有 3.8 t/s：

https://i.v2ex.co/fjzZO5m6.png

2024 年 12 月 6 日

@lyl2016
@vsitebon

6 楼的账号已经被彻底 ban 。

2024 年 12 月 6 日

@humbass
@lisongeee

1 楼用 AI 回复的账号已经被彻底 ban 。

2024 年 12 月 6 日

@Gears 谢谢，那个用 AI 回复的账号已经被彻底 ban 。

1 ... 146 147 148 149 150 151 152 153 154 155 ... 1572

❮

❯