openEagle - 用视觉感知操作电脑的开源桌面 AI Agent, MVP 跑通了

4 月 30 日
 72

目前像是 OpenClaw 、hermes 其实感觉操作/辅助的能力是有限的,基本上能力都是基于 cli 或命令行的,还不足以达到类人的级别(轻度使用,有错欢迎指正)

所以我做了一个 AI Agent 客户端,通过截图 + 视觉理解模型来分析屏幕内容,然后控制鼠标键盘完成任务(就像真的人一样去思考,操作)、支持 agent 推理出批处理指令(减少任务执行的时长)等等。

不依赖 DOM 选择器,不需要预写脚本,纯视觉理解 + 推理,基本上是有很大的场景泛化性的。

目前 Solo 模式可以自主的控制桌面应用(基于视觉的实时反馈)

测试过

  1. QQ 音乐的搜索,播放/暂停
  2. 查询 V2EX 哪天漏签了

技术栈是:Tauri + Rust / Python + FastAPI / React + TypeScript

目前项目还很早期,体验也不是那么的好,模型只兼容了 Qwen 、Mimo ,其他的 bug 肯定有,欢迎来提 issue 或者 一起搞建设。

后面预期会加上 IM 通信、更好的 hermes 生态、定时任务等等。

有了这些其实 agent 能做的事情就会更多了,后期定好私域的 skill 等等,能真正做很多事,Computer-use 基本就会到头了。

在 AI 原生操作系统到来之前,视觉方案的 Computer-use 可能是最接近"类人操作"的过渡路径。

GitHub: https://github.com/Nex-Z/openEagle

1284 次点击
所在节点    分享创造
0 条回复

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1209575

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX