GPT-4V 学会自动操纵电脑比特派Uid,这一天终于还是到来了。
只需要给 GPT-4V 接入鼠标和键盘,它就能根据浏览器界面上网:
甚至还能快速摸清楚“播放音乐”的播放器网站和按钮,给自己来一段 music:
于大宝:我上场可能也是因为球队缺人,我踢得是10号位的位置,需要阅读比赛、找到空当。
本届亚运会,中国女足召回了王霜、沈梦雨、李梦雯三位留洋球员,还拥有刚刚租借加盟女子英超托特纳姆热刺的“新星”张琳艳,再加上王珊珊、娄佳惠等多位名将坐镇,整体实力在亚运女足赛场当属第一档。从一开始,她们便只有一个目标——争冠。
除此之外,为持续推动高尔夫的普及和发展,赛事组委会特别推出针对18岁以下未成年人以及60岁以上人士的优惠项目,符合上述要求的观众可凭有效证件全程免费观赛。
宋黎辉告诉上游新闻记者,自己的确在开网约车。 网络图
柯洁对阵申真谞可谓中韩最强对撼!柯洁执白先行比特派Uid,布局阶段双方开启“地板流”,申真谞下出了不多见的三三,双方各获得两条边心满意足,局势处于两分。黑棋率先发难,六路一碰十分灵动。黑棋紧接着破入白棋模样,但白棋应对无误,局势向白棋倾斜。但白棋一招自补过缓,瞬间将优势丧失。之后白棋打入黑棋模样中艰难求生,黑棋首度掌握优势。但随着白棋破釜沉舟深入黑棋阵势,局势彻底混乱,形势回到五五开。但黑棋关键时刻算路极深,填子“刀把五”成功屠龙白棋,棋局戛然而止。最终申真谞战胜柯洁,赢下这盘焦点战。
上轮客场不敌成都,海港队的状态让人担心,好在身后的最大追击者山东泰山被大连人逼平,未能进一步缩小分差。本轮挑战南通支云,哈维尔罕见派出四外援首发,意在全取三分。
是不是有点细思极恐了?
这是一个 MIT 本科生小哥整出来的新活,名叫 GPT-4V-Act比特派Uid。
只需要几个简单的工具,GPT-4V 就能学会控制你的键盘和鼠标,用浏览器上网发帖、买东西甚至是玩游戏。
要是用到的工具出 bug 了,GPT-4V 甚至还能意识到、并试图解决它。
来看看这是怎么做到的。
GPT-4V-Act,本质上是一个基于 Web 浏览器的 AI 多模态助手(Chromium Copilot)。
它可以像人类一样用鼠标、键盘和屏幕“查看”网页界面,并通过网页中的交互按键进行下一步操作。
要实现这种效果,除了 GPT-4V 以外,还用到了三个工具。
一个是 UI 界面,可以让 GPT-4V“看见”网页截图,也能让用户与 GPT-4V 发生交互。
这样,GPT-4V 就能将每一步运行思路都通过对话框的形式反映出来,用户来决定是否要继续让它操作。
另一个是 Set-of-Mark Prompting(SoM)工具,让 GPT-4V 学会交互的一款工具。
这个工具由微软发明,目的是更好地对 GPT-4V 进行提示词工程。
比特派5.0024
相比让 GPT-4V 直接“看图说话”,这个工具可以将图片关键细节拆分成不同的部分比特派Uid,并进行编号,让 GPT-4V 有的放矢:
对于网页端也是如此,Set-of-Mark Prompting 用类似的方式让 GPT-4V 知道从网页浏览器的哪个部分找答案,并进行交互。
最后,还需要用到一个自动标注器(JS DOM auto-labeler),可以将网页端所有能交互的按键标注出来,让 GPT-4V 决定要按哪个。
一套流程下来,GPT-4V 不仅能准确判断图片上的哪些内容符合需求,还能准确找到交互按键,并学会“自动上网”。
这是个大项目,目前还只实现了部分功能,包括点击、打字交互、自动标注等。
接下来,还有其他的一些功能要实现,例如比特派Uid试试 AI 打标器(目前网页端的交互还是通过通过 JS 接口得知哪里能交互,不是 AI 识别的)、以及提示用户输入详细信息等。
此外,作者也提到,现阶段 GPT-4V-Act 用法上还有一些需要注意的地方。
例如,GPT-4V-Act 可能会被网页打开后铺天盖地的弹窗小广告给“整懵了”,然后出现交互 bug。
又例如,目前这种玩法可能会违反 OpenAI 的产品使用规定:
所以用的时候也要低调一点(doge)
这个项目在网上发出后,吸引了不少人的围观。
像是小哥用到的微软 Set-of-Mark Prompting 工具的作者,就发现了这个项目:
还有网友提到,甚至可以用来让 AI 自己读取验证码。
这个在 SoM 项目中提到过,GPT-4V 是能成功解读验证码的(所以以后可能还真不知道是人还是机器在上网
)。
与此同时,也有网友已经在想象桌面流自动化(desktop automation)的操作了。
对此作者回应称:
不过目前 GPT-4V 还是要收费的,有没有其他的实现方法?
作者也表示,目前还没有,但确实可能会尝试 Fuyu-8B 或者 LLaVAR 这样的开源模型。
免费的自动化桌面流 AI 助手,可以期待一波了。
参考链接:
本文来自微信公众号:量子位 (ID:QbitAI),作者:萧箫
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息比特派Uid,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。
声明:新浪网独家稿件,未经授权禁止转载。 -->