刚刚,为对抗哥大退学生开发的AI作弊器,哥大学生造了个AI照妖镜

Cluely 和 Roy Lee,想必大家对这两个名字已经不陌生了。

简单来说,后者与 Neel Shanmugam 共同创办了名为 Cluely 的创业公司,而他们目前的主要业务就是一款堪称「人生作弊器」的同样名为「Cluely」的 AI 工具 ------ 这是一款 AI 桌面助手,它能够看你所看、听你所听。Cluely 会以一个透明窗口的形式出现在你屏幕上的所有其他应用程序上。当你在开会时,按下「监听」或「录制」按钮,Cluely 就能捕捉麦克风和系统的声音,然后代替使用者接受采访或参加会议等。

毫无疑问,这款 AI 应用备受争议,但也同时为其赚尽了眼球 ------Roy Lee 扬言「杀死了 9 个行业」的宣传推文足足收获了超过 293 万查看次数。更多详情可以参阅我们之前的报道《扬言将杀死 9 个行业,21 岁小哥又开发人生作弊器,曾被哥大、哈佛开除》。

现在,看到 Cluely 这样的作弊工具如此成功,终于有人坐不住了。

哥伦比亚大学 Antonio Li 和 Patrick Shen(没有退学)开发了一个反 Cluely 工具 Truely,它可以帮助检测与用户通话的是否是真人。

根据其介绍视频,这款工具的原理其实并不复杂。

视频详情

如果用户希望知道正与自己视频通话的人是否「作弊」,需要先打包一个应用发送给对方并且让对方安装在自己的设备上。这个应用会检测对方设备上的 PID(进程标识符)会回传相关信息,而一旦检测到 Cluely 进程,Truely 就会发送警报信号。

更具体而言,其核心功能包括:

  • 实时进程监控:持续监控可疑进程(在 config.py 中设置);

  • 双人加入 Zoom 会议:自动以机器人身份加入会议并为用户打开 Zoom 应用;

  • 自动聊天警报:检测到可疑进程时,向会议聊天发送实时警报;

  • 自动介绍消息:机器人向会议聊天发送一系列介绍消息,包括监控密钥和受监控应用程序列表;

  • 基于聊天的远程关机:监控聊天中的「Truely End」命令,以允许远程终止监控;

  • 正常关机:使用统一关机系统正常离开会议并在退出时清理资源。

很显然,这个过程过于繁琐了,而且还必须要求对方安装软件 ------ 随便安装别人发送的软件也并不安全(即便该软件宣称会在退出时自动清理)。

当然,也自然有不少人称赞这是个好应用。

开发这个应用的开发者也很棒。

也有人打趣地问他们是否退学:

总体而言,这款刚刚诞生的应用可能体验还不太好,但至少针对 Cluely 这样的作弊工具,我们已经有了可行的反制手段。

有意思的是,就在 Truely 诞生的几乎同一时间,CorridorSecure CEO 和联合创始人、「有道德的黑客」Jack Cable 发推称被 Cluely 告了。

具体来说,Cluely 向 𝕏 提交了一份 DMCA(数字千年版权法)申请,要求其删除 Jack Cable 之前发布的一条推文 ------ 在该推文中,他公布了逆向工程得到的 Cluely 的提示词。Cluely 方面给出的理由是其中包含「专有源代码」。

Jack Cable 愤怒地表示:「对安全研究者发出法律威胁并不是什么好事,我希望 Cluely 反思这一点,并向研究人员敞开大门。」

现在 Jack Cable 公布的这些提示词已经在 𝕏 上不可见。

不过,幸运的是,在 GitHub 上还有备份:

gist.github.com/cablej/ccfe...

想要研究学习的可以赶紧保存一份。

你是 Cluely 用户吗?或者是否会尝试使用 Truely 来对抗 Cluely?

动图截取自 Truely 宣传视频结尾

参考链接

x.com/pshen28/sta...

x.com/jackhcable/...

x.com/im_roy_lee/...

相关推荐
HuggingFace1 小时前
Hugging Face 开源机器人 Reachy Mini 开启预定
人工智能
企企通采购云平台2 小时前
「天元宠物」×企企通,加速数智化升级,“链”接萌宠消费新蓝海
大数据·人工智能·宠物
超级小忍2 小时前
Spring AI ETL Pipeline使用指南
人工智能·spring
张较瘦_3 小时前
[论文阅读] 人工智能 | 读懂Meta-Fair:让LLM摆脱偏见的自动化测试新方法
论文阅读·人工智能
巴伦是只猫3 小时前
【机器学习笔记 Ⅲ】4 特征选择
人工智能·笔记·机器学习
好心的小明3 小时前
【王树森推荐系统】召回11:地理位置召回、作者召回、缓存召回
人工智能·缓存·推荐系统·推荐算法
lishaoan774 小时前
使用tensorflow的线性回归的例子(十二)
人工智能·tensorflow·线性回归·戴明回归
二DUAN帝4 小时前
UE实现路径回放、自动驾驶功能简记
人工智能·websocket·机器学习·ue5·自动驾驶·ue4·cesiumforue
zskj_zhyl5 小时前
AI健康小屋“15分钟服务圈”:如何重构社区健康生态?
大数据·人工智能·物联网
荔枝味啊~5 小时前
相机位姿估计
人工智能·计算机视觉·3d