V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  flyws  ›  全部回复第 1 页 / 共 4 页
回复总数  61
1  2  3  4  
10 天前
回复了 1258 创建的主题 程序员 qwen3.8 27B 被低估了
@tisswb 慢,也可以说很慢,我跑的是 ollama 的 mtp fp8 版,我没有细测,体感应该就是 10 tok/s ,加上 qwen 这一款默认比较长的思考链(但优点就是想得细致和全面),做起任务来基本都是按分钟计。dgx spark 拿来纯推理是浪费钱,但是如果你也会玩玩 pretrain 或者 finetune 的话,需要英伟达生态做实验的话,它的 tensor 算力还是合格的。而且因为 128G 显存我也拉满了上下文。

但是令我惊喜的是我等了比如 5 分钟,它真的把任务 one shot 完成了(其他更多参数的 AI 可能会 fail 同样的任务),所以目前的使用体感是只要等得起,可以基本放心交给它,我个人使用反正也不急。

跟前面某一楼提到的一样,就是水平到了这样的一个阶段,很难去评判它是比某一个模型强还是弱,但虽然很难量化,但是确实让我惊喜,会开始让我更加信任本地小模型,这在之前是没发生过的事情。昨天晚上它连上 craft agent 然后它自己 one shot 成功更新了我的定制化安装,有点厉害。https://i.imgur.com/L62ZP7V.png
11 天前
回复了 1258 创建的主题 程序员 qwen3.8 27B 被低估了
Qwen3.8 27B 确实很不错,我使用几天了,在 DGX Spark 上面的问题除了慢,还真挑不出了,对于我的一个改 PDF 的 use case ,它表现达到了 opus 水平,完成了我的要求。同样的 prompt 扔给 DeepSeek v4 Flash ,GLM 5.2 ,Kimi3 都没有做出来(都忽略了保持背景颜色一致)

我并不是想表达 Qwen 3.8 27b 暴打更大的模型,但是当我本地跑起来 Opus 级别的模型的时候,确实有一种原子弹爆炸的感觉。我觉得没有被低估,只是本地跑 AI 模型的可能还是少数,但是我相信未来这会变成大多数(都说 token 类比水电煤了,自己发电不好吗 https://i.imgur.com/L62ZP7V.png
刚好在学一些相关的英文书,然后试用后可以看出作者的这个中文版互动学习做得真的很不错,特地来评论支持。

不过好奇问一句这个的设计是先有中文版再翻译成英文,还是其他步骤?英文阅读了之后我感觉中文的表达比英文好很多,英文看起来像是按照中文翻译出来的,不过我也可能猜错了
很久之前看到这种我也不理解,但当工作上干起牛马活来的时候才发现这很正常,其实包括我在内,上面很多评论都已经提到点上了——就是碰到同事分享的、自己碰到的等等一些需要阅读的网页/视频/播客,或者是同时进入几个项目我知道这些页面过几天还得打开,但是当下状态不想读/读不了那么长的内容,那就放那了。

我个人觉得这有点类似之前 GTD ( Getting Things Done )的哲学,这些标签页就类似于扔到了 inbox 里面,等后面大脑有带宽的时候再来处理。这样一来就衍生出了 Tab Groups 、不同窗口、不同浏览器之类的标签型玩法,帮助后面迅速从“图书馆”里抽出相关 context 来
2025 年 1 月 6 日
回复了 lifehz 创建的主题 Apple mac air m1 能搭 deepseek v3 吗?
Deepseek v2.5 或者 Qwen 这些目前本地更有戏,这些在排行榜上我记得都接近老的 GPT-4 ,不过即使 Q4 的话大概都需要 8 ~ 10G 内存,所以其实现在 Macbook 统一显存内存后,运行 LLM 最大的卡点还是到底有多少内存,想玩遍主流各种大模型的话,最好还是拉满 128G ,至少也得有个 16G ,不然大多数模型都跑不起来。

本地跑 LLM inference 还是很有意思的,比如高铁或者飞机上想写点代码但是网络不稳定,那本地有个 Deepseek 2.5 级别的编程助手已经是很提升效率了。

建议楼主可以下载个 LM Studio https://lmstudio.ai ,方便自己开始研究实操这些
GPT-4 使用稍微修改一下的 Prompt + Wolfram Plugin 可以一次正确解答出来🙆。这是不是就像一个逻辑霸主找到了一个数学计算小王子,两两结合的力量?另外不确定 Bing 是怎么直接创造出来正确答案的,我怀疑是他的训练数据里面带了这个,不然从大语言模型原理,我无法理解他怎么一次性做对的。

Prompt:
请问,如何使用 3 、3 、7 、7 四个数字算出 24 ?

要求:
1. 每个数字必须使用一次,且只能使用一次
2. 只能使用加减乘除和括号。
2022 年 11 月 13 日
回复了 t202201 创建的主题 问与答 想问问大家有啥下饭视频推荐,一个人吃饭很无聊
对于喜欢偏接地气风格的朋友们,强烈推荐田野上的繁荣 https://space.bilibili.com/588278127/
已经直接购买支持!继续加油!
2021 年 2 月 7 日
回复了 AngryOrange 创建的主题 分享创造 为键盘工作者设计的单词记忆软件⌨️
顶一波,非常喜欢这个创意。
2020 年 12 月 10 日
回复了 Microkernel 创建的主题 职场话题 Offer 选择问题
推荐留美,身边留下来的同学即使对一开始的公司或者 role 不是太满意,两三年后都基本上跳到了更高的地方,甚至是 dream company 。

1 ) 从技术增长上来看,美和中当中选一个,新加坡的 IT 氛围不如中;
2 ) 从薪资上来看,也是美中当中选一个,美中税高但是天花板高,这取决于你是考虑就看这么前一两年还剩看到了五年十年;
3 ) 新加坡的核心行业是金融,但 IT 是硅谷甚至是中国一些城市的核心地位的行业;
4 ) 并且以后你要去新加坡可以找个工作办个 EP 都能去,但是美国的那些巨头的话,你去了新加坡再想回闯硅谷是难上加难,属于后悔也难有办法回头的,但是去新加坡可以。

到了担心身份的时候,你再考虑去个加国、澳国或者新加坡这些找个工作(并且你美国有工作了再跳这些地方,package 比你应届生好谈多了,即使你就在 oracle 工作了一年)。

如果工作内容难分秋色,你都觉得有兴趣,税后薪资也没有一边有压倒性优势的话(就是没有 low ball 你或者羞辱性的 offer ),建议这个问题可以短痛,留美。
2020 年 9 月 2 日
回复了 daizheng1998 创建的主题 问与答 求 Mac 远程桌面的解决方案
jump desktop 很流畅,remotix 很可靠
2020 年 8 月 23 日
回复了 haruhi 创建的主题 分享创造 上海按摩店地图(避免踩坑)
这个 GeoJSON 带我去到了 OpenStreetMap,之前看到过但是没想到是这么棒的开源地图服务,感谢楼主(歪楼+1
2020 年 7 月 28 日
回复了 cpper 创建的主题 Apple apple 怎么做到 2 米的被动雷电三数据线的
最近也看到了这款产品,其实我好奇官网 LG Ultrafine 屏幕配的那条雷电 3 线是主动的还是被动的,之前看过一个评测说最好的线都是产品附带的。
2020 年 2 月 14 日
回复了 mathzhaoliang 创建的主题 职场话题 最近面试招人有感
回帖支持一下楼主,你的做法和抱怨是绝对没有问题的。不说比较专业的算法岗位,就说数据分析师甚至商业分析师也有很多有水分的简历,而这种情况下如果没有一些常规的笔试会更难发现简历里夸大的部分。本人也同意一些楼层提到的更加关注对方的“学习能力”和“动手能力”,但这是建立在如果这个岗位是干活成分多过研究成分、而且组里有人带的情况下的话。

我面试的人虽然不多,但确实如果简历上写到了假设我懂的,我都会问一些比较相关的问题,而可能 99%的应聘者都只是写写而已,而这种简历楼主看多了估计也能一眼看出来。

有幸看过一些大牛的简历,基本上都是有一说一,基本上会往“深”了写而不是往“广”了写。
2019 年 11 月 19 日
回复了 imzhen 创建的主题 职场话题 加拿大 amazon offer 求指点
个人愚见:不知道楼主有没有去过加拿大,如果去过并且感觉多伦多的 vibe 还能接受的话(跟美国应该是不太一样的虽说两者邻居),那从工作角度上来说肯定是去了不亏的选择。其他的移民或者转岗什么的,以后都会变的,唯一能确定的是确实是可预期的未来中国的行业生态和活力是加拿大比不了的,即使经济再差,AI 还是互联网什么的都肯定是中国活力强,在加拿大顶多就是去过美国总部公司的分公司,然后长期目标跳美国,但美国也并非世外桃源,都是围城。

关键是家庭问题,父母要是过了三五年再接受不了,拿着 amazon 的 title 回国,应该也是一条退路,只要国内经济三五年能重新焕发活力,我觉得就没有太得不偿失的问题。
2019 年 3 月 12 日
回复了 bbsanimal 创建的主题 macOS windows 连 macos 有啥好的远程软件嘛
jump desktop,使用多年非常稳定,跨平台,支持团队很 nice
2019 年 1 月 2 日
回复了 bosshida 创建的主题 问与答 请教如何学客家话
楼上的兴宁人别跑,我觉得分化没你说的那么严重啊,可能偶尔几个字词听不太懂,但是追问一下别人解释一下马上都懂了,感觉口音造成的问题不是决定性的。和广东各地的客家人交流过,也认识一些福建江西的客家人,乍一听的时候觉得什么玩意儿,慢慢发现基本上是通的。

至于怎么学有几个推荐的方法:
1. 和真人学。听懂客家话是不难的,听着听着就懂了,但因为客家话不是主流语言,可能很多人会客家话但日常生活中不用你发现不了,具体学什么口音我觉得关系不大,实用性至上。
2. 培养兴趣。比如古惑仔里面山鸡陈小春去找大傻哥麻烦的时候就崩过几句客家话,可以去考古下。
3. 看当地新闻节目甚至是电台,里面的口音都特别纯正,梅州有这些服务,其他地方我不是当地人所以不是很确定。不过我记得 5iktv 这个服务我记得之前有客家电视台直播。台湾是有客家话电视台的,台中基本都是客家人,里面有一些客家话配音的电视剧,特别逗,就算找不到直播,也可以去翻翻相关配音电视剧,资源不少。
4. 先学几句骂人的入个门。
2018 年 12 月 20 日
回复了 ooooo 创建的主题 问与答 你们那降房租了么?
刚刚打开自如看了一下同小区的房子,房源变少了,房租仍然涨了 10-20%。但是听保洁的阿姨说有一些房子空了几个月了。但是两个信息看起来有点矛盾啊......

我仍然希望楼主说的是真的,经济不景气是大家都认可的,租房市场什么时候反应出来需要观察观察。
1  2  3  4  
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2999 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 54ms · UTC 08:53 · PVG 16:53 · LAX 01:53 · JFK 04:53
♥ Do have faith in what you're doing.